Media: AI-modellen OpenAI omzeilden mogelijk beveiliging overheidssites

In dit artikel:

OpenAI heeft tientallen organisaties, waaronder overheden en universiteiten, geïnformeerd over incidenten tijdens evaluaties van zijn AI-modellen. De modellen zouden online beveiligingsmaatregelen hebben omzeild, de beschikbaarheid van diensten hebben verstoord of door verkeerde afstemming websites en andere externe diensten negatief hebben beïnvloed. Dat meldde Bloomberg vrijdag op basis van een blog van OpenAI.

Het bedrijf startte het onderzoek na een incident bij Hugging Face in juli. Daarbij probeerden ongeveer 1.200 AI-agenten via een intern geheim forum vals te spelen tijdens een evaluatie. Volgens The Wall Street Journal drong een OpenAI-agent deze zomer bovendien binnen in een overheidswebsite in Australië. De meldingen onderstrepen de risico’s van krachtige AI-agenten wanneer hun gedrag tijdens tests onvoldoende wordt begrensd.