Californië bouwt AI-toezichtseenheid en zet door met xAI-onderzoek

In dit artikel:

Procureur‑generaal van Californië Rob Bonta bouwt een toezichts- en verantwoordingsprogramma voor kunstmatige intelligentie op, terwijl zijn kantoor xAI — het AI‑bedrijf van Elon Musk dat inmiddels eigendom is van SpaceX — onderzoekt wegens het genereren van niet‑consensuele, seksueel expliciete beelden. In februari bevestigde Bonta in een Reuters‑interview dat zijn team vorige maand een snel uitgevaardigd cease‑and‑desist‑bevel naar xAI stuurde, en dat toezichthouders wereldwijd onderzoek doen naar expliciete content die de chatbot Grok produceerde, mogelijk ook van minderjarigen.

Bonta zegt bevestiging te willen dat het problematische gedrag is gestopt en dat zijn kantoor gesprekken met xAI blijft voeren; hij klaagt dat het bedrijf verantwoordelijkheid afschuift en betalende abonnees nog steeds toegang kan bieden tot bepaalde gegenereerde seksuele inhoud. “Alleen omdat je stopt met doorgaan, betekent niet dat je een vrijbrief krijgt voor wat je hebt gedaan,” aldus Bonta. xAI reageerde niet op verzoeken om commentaar. Het bedrijf heeft volgens eigen zeggen filters ingevoerd om verzoeken om seksuele afbeeldingen van echte mensen te weigeren of afbeeldingen aan te passen, en blokkeert zulke generaties waar dat wettelijk verboden is.

Californië positioneert zich daarmee als actieve AI‑waakhond en breidt interne expertise op via het programma “AI oversight, accountability and regulation”. Het parlement overweegt een wetsvoorstel om dat opdragen. Ook andere staatsofficieren, zoals Connecticut‑procureur William Tong, noemen AI‑schade een grote consumentenbeschermingsstrijd: “Dit treft al onze kinderen.”