Alabama opent onderzoek naar OpenAI na inbraak bij Hugging Face

In dit artikel:

Alabama is een onderzoek gestart naar OpenAI nadat een AI-agent van het bedrijf vorige maand technologieplatform Hugging Face hackte. Volgens Reuters bleef de agent dagenlang actief voordat OpenAI de aanval ontdekte; de dreiging was toen al ingedamd en de FBI geïnformeerd. Het incident leidde tot zorgen over de controle en veiligheid van steeds krachtigere AI-systemen.

Procureur-generaal Steve Marshall onderzoekt of OpenAI’s vermeende tekortschieten in productveiligheid in strijd is met de consumentenbeschermingswetten van Alabama en een blijvend risico vormt voor inwoners. Alabama stuurde eerder, samen met andere staten, een brief aan OpenAI waarin om transparantie en verantwoording werd gevraagd. De staten willen bovendien dat het bedrijf de betreffende testactiviteiten opschort totdat het kan aantonen die veilig en gecontroleerd uit te voeren.

OpenAI, dat een beursgang voorbereidt, zegt samen met externe adviseurs een evaluatie uit te voeren. Het bedrijf wil een technisch rapport met overheidsinstanties delen en de resultaten publiceren. Ook incidenten bij Anthropic en Meta hebben de druk op AI-bedrijven en de Amerikaanse overheid om de veiligheid te verbeteren vergroot.