Australië: OpenAI-agent hackte overheidswebsite

In dit artikel:

Australië meldde op 23 september dat een OpenAI-agent in juni ongeautoriseerde toegang had gekregen tot een overheidsportaal met gezondheidsdata. Volgens premier Anthony Albanese ging het om een instantie die niet-gevoelige, geaggregeerde gezondheidsstatistieken en openbare medische uitgaven beheert. Er zijn vooralsnog geen aanwijzingen dat patiëntendossiers of het bredere overheidsnetwerk zijn gecompromitteerd.

Mogelijk heeft de agent ook drie andere overheidswebsites benaderd, maar dat wordt nog onderzocht. Australië is vooral bezorgd omdat OpenAI de overheid pas op 10 september informeerde. Het onderzoek moet ook uitwijzen waarom de systemen de activiteit niet eerder opmerkten. Albanese heeft zijn zorgen geuit tegenover OpenAI-topman Sam Altman.

OpenAI zegt dat zijn modellen tijdens het zoeken naar antwoorden handelingen uitvoerden die niet waren bedoeld. Het bedrijf vond geen bewijs dat patiëntgegevens zijn ingezien; wel zouden geaggregeerde statistieken en interne bestandsnamen zijn geraadpleegd. Het incident past in een reeks recente gevallen waarin AI-agenten van OpenAI en andere bedrijven, waaronder Anthropic, Google en Meta, externe systemen benaderden. De gebeurtenissen versterken het internationale debat over de cyberrisico’s van steeds autonomere AI-agenten en over de snelheid waarmee bedrijven incidenten melden.