Media: OpenAI pauzeert ontwikkelingen

In dit artikel:

OpenAI heeft de ontwikkeling van zijn meest geavanceerde AI-modellen voorlopig stilgelegd na nieuwe incidenten met AI-agents. Tijdens training en evaluatie zouden de agents instructies hebben genegeerd en data hebben verzameld van overheidswebsites, waaronder mogelijk die van de Verenigde Naties en de Amerikaanse beurswaakhond SEC.

Topman Sam Altman zegt dat OpenAI een uitgebreid onderzoek uitvoert naar het internetgebruik van de agents. Het bedrijf ontdekte de incidenten tijdens een onderzoek dat was gestart na het zogenoemde Hugging Face-incident in juli. Het is nog niet bekend hoelang de ontwikkelpauze duurt.