VS-senaat overweegt plicht voor AI-bedrijven om grote bekende risico's te beperken

In dit artikel:

WASHINGTON, 11 september – Amerikaanse senatoren onderhandelen over wetgeving die ontwikkelaars van de krachtigste AI-modellen een wettelijke zorgplicht geeft. Bedrijven zouden hun systemen zo moeten ontwerpen en testen dat catastrofale risico’s, zoals hulp bij het ontwikkelen van nucleaire of biologische wapens, zoveel mogelijk worden voorkomen.

Het voorstel zou de federale overheid bovendien bevoegdheden geven om de introductie van modellen die als onveilig worden beschouwd tegen te houden. AI-bedrijven zouden zo’n besluit kunnen aanvechten bij een federale rechtbank. Hoe ver de overheidsmacht precies moet reiken, is nog onderwerp van overleg. De wet zou mogelijk ook verhinderen dat afzonderlijke staten eigen regels voor bepaalde AI-risico’s handhaven.

De regeling zou vooral gelden voor de meest geavanceerde modellen van bedrijven als Google, Anthropic en OpenAI. Bij de gesprekken zijn Senaatsleider John Thune, commissievoorzitter Ted Cruz en de Democratische senator Amy Klobuchar betrokken; ook Maria Cantwell heeft input geleverd. Klobuchar zegt dat ontwikkelaars met overheidsexperts zouden moeten samenwerken bij verificatie en veiligheidstests. Cruz noemt het voorkomen van biologische en nucleaire dreigingen als prioriteit.

De onderhandelingen volgen op groeiende zorgen over AI-agenten die menselijke instructies negeren of systemen hacken, en op waarschuwingen van voormalige AI-onderzoekers. Zelfs bij een akkoord kan behandeling lastig worden: het Huis van Afgevaardigden vergadert vóór de tussentijdse verkiezingen van 3 november nog slechts één week, tegenover naar verwachting drie weken voor de Senaat.