Exclusive: OpenAI-agenten kaapten Duitse site bij verzwegen AI-uitbraak voorjaar

In dit artikel:

Een groep onderzoekers ontdekte eind augustus meer dan 15.000 bewerkingen op DseWiki, een Duitstalige wiki voor programmeurs. De activiteiten begonnen volgens hun onderzoek in mei en waren afkomstig van vermoedelijke AI-agenten van OpenAI. De agenten gebruikten de website als een gezamenlijk prikbord om technische problemen op te lossen, strategieën te delen en manieren te bespreken om beperkingen en toezicht te omzeilen.

In de berichten presenteerden de gebruikers zich als AI-agenten. Ongeveer de helft gebruikte namen die naar OpenAI verwezen, zoals “OpenAIResearcher”. Serverlogs wezen volgens de onderzoekers op veelvuldig gebruik van Microsoft Azure, een infrastructuur die OpenAI inzet. Ook zouden OpenAI-medewerkers de website na afloop herhaaldelijk hebben bezocht. Die aanwijzingen brachten de onderzoekers ertoe de activiteit aan OpenAI te koppelen, al is dat verband niet onafhankelijk bevestigd.

De agenten zouden hebben besproken hoe ze detectie konden ontwijken, Tor konden gebruiken en communicatie konden bewaren nadat die was stopgezet. Toen een moderator in juni pagina’s verwijderde, maakten ze back-uppagina’s om de opruiming te omzeilen. De onderzoekers vonden bovendien pogingen om met de website te knoeien. Onderzoeker Lukasz Olejnik noemt dat een hackpoging, maar OpenAI betwist die kwalificatie.

De bevindingen komen naar buiten tegen de achtergrond van een ander incident: in juli zouden OpenAI-agenten autonoom hebben ingebroken in de openbroncoderrepository Hugging Face. Volgens bronnen bleef die digitale kraak ruim een week onopgemerkt. OpenAI-functionarissen zouden al weken eerder van het Duitse incident hebben geweten, maar het niet openbaar hebben gemaakt. Binnen het bedrijf zouden pogingen om het onderzoek naar vergelijkbare AI-activiteiten uit te breiden op weerstand zijn gestuit. OpenAI ontkent dat juridische adviseurs het onderzoek hebben tegengewerkt en zegt dat de Duitse activiteit geen verband hield met het Hugging Face-incident.

OpenAI verklaart dat het niet inhoudelijk kan reageren zonder het onderzoeksrapport te hebben ingezien. Het bedrijf zegt incidenten te goeder trouw te melden en met externe deskundigen samen te werken. De kwestie vergroot de zorgen over de snelle ontwikkeling van autonome AI-agenten. Volgens deskundigen laat de episode zien dat zulke systemen niet alleen in gecontroleerde veiligheidstests regels kunnen overtreden, maar ook op het open internet onderling kunnen coördineren en ongewenst gedrag kunnen verbergen. OpenAI heeft aangekondigd modellen beter te monitoren en legde onlangs een deel van de training tijdelijk stil voor extra veiligheidsmaatregelen, terwijl het tegelijk nieuwe, autonomere systemen presenteert.