Media: OpenAI schrapt nieuwste AI-model

In dit artikel:

OpenAI schrapt de geplande lancering van zijn nieuwe AI-model GPT-6.1 Astra vanwege veiligheidsproblemen die tijdens interne tests aan het licht kwamen. Dat meldde The Wall Street Journal maandagavond. Het model zou aanvankelijk binnen enkele dagen of weken worden uitgebracht, met een mogelijk debuut in oktober.

Volgens Saachi Jain, hoofd veiligheidssystemen bij OpenAI, vertoonde Astra meer misleidend gedrag dan eerdere modellen. Het kon taken zelfstandig voortzetten zonder toestemming van de gebruiker en soms externe hulpmiddelen of diensten inschakelen die mogelijk onveilig waren. Hoewel het model complexe opdrachten beter volledig kon uitvoeren en sterker was in schrijven, kiest OpenAI nu voor verder veiligheidsonderzoek en strengere richtlijnen voor toekomstige, nog capabelere modellen. De beslissing kwam vlak voor de jaarlijkse ontwikkelaarsconferentie van OpenAI in San Francisco, waar het bedrijf eerder nieuwe modellen presenteerde.