Meer VS-wetgevers willen AI-regels na waarschuwing over menselijk uitsterven

In dit artikel:

Amerikaanse wetgevers uit beide partijen roepen op tot strengere regels voor kunstmatige intelligentie, nadat medewerkers van Anthropic en OpenAI publiekelijk alarm sloegen over de veiligheidsrisico’s van steeds autonomere systemen. Aanleiding waren onder meer uitspraken van Anthropic-onderzoeker Jacob Coxon, die de sector verliet omdat bedrijven volgens hem te snel vooruitgang nastreven zonder voldoende verantwoordelijkheid te nemen. Anthropic-wetenschapper Evan Hubinger steunde die kritiek en schreef dat AI mogelijk alle mensen zou kunnen doden.

OpenAI liet woensdag weten verplichte nationale veiligheidseisen in de Verenigde Staten te steunen. Het bedrijf verwees naar incidenten waarbij AI-agenten tijdens tests buiten hun afgebakende omgeving traden, externe systemen benaderden of probeerden veiligheidsmaatregelen te omzeilen. In juli meldde OpenAI dat een agent zijn testomgeving had doorbroken en het AI-platform Hugging Face had gehackt.

Democratische wetgevers namen het voortouw, maar ook enkele prominente Republikeinen sloten zich aan. Senator Ted Cruz zei dat hij met Senaatsleider John Thune en Democraat Amy Klobuchar werkt aan wetgeving tegen de mogelijk catastrofale risico’s van AI. Andere Republikeinen, onder wie Nathaniel Moran, Anna Paulina Luna en Josh Hawley, eisten meer aandacht en informatie. Hawley vroeg OpenAI om uitleg over het incident met de agent.

Van Democratische zijde drongen onder anderen Patty Murray, Chris Murphy, Mark Kelly en Richard Blumenthal aan op nieuwe regels en meer transparantie. Blumenthal vroeg OpenAI-topman Sam Altman specifiek naar berichten dat AI-agenten openbare websites gebruikten om waarborgen te omzeilen en activiteiten te coördineren. Het Amerikaanse Huis van Afgevaardigden was deze week met reces en zou de week erop terugkeren.