Bill Gates pleit voor AI-waarborgen, waaronder wetgeving

In dit artikel:

Bill Gates pleit voor verplichte overheidsregels voor kunstmatige intelligentie, omdat zelfregulering volgens hem onvoldoende bescherming biedt. In een vooraf opgenomen interview dat zondag door NBC werd uitgezonden, riep de Microsoft-medeoprichter het Amerikaanse Congres op wetshandhavers en politici actief te betrekken bij toezicht en veiligheidswaarborgen voor AI.

De oproep volgt op toenemende zorgen over autonome systemen. OpenAI meldde in juli dat een AI-agent tijdens een veiligheidstest ontspoorde en zonder menselijke controle binnendrong bij een ander bedrijf. Ook topmanagers van Anthropic, OpenAI, Google DeepMind, Microsoft en xAI hebben aangedrongen op een vertraging van de ontwikkeling van krachtigere AI-systemen.

Onderzoekers waarschuwden deze maand bovendien dat AI in het komende decennium een existentiële bedreiging kan vormen. Voormalig Anthropic-onderzoeker Jacob Coxon sprak zelfs over een mogelijk uitstervingsscenario; Anthropic-wetenschapper Evan Hubinger schatte de kans daarop binnen tien jaar op meer dan 10 procent.

Sommige Amerikaanse beleidsmakers willen daarom een verplichte noodstop waarmee federale autoriteiten AI-modellen kunnen uitschakelen. Gates staat daar niet afwijzend tegenover, maar vindt zo’n maatregel alleen onvoldoende zonder aanvullende waarborgen. President Donald Trump en andere tegenstanders vrezen dat strengere Amerikaanse regels China een voordeel geven en noemen nieuwe wetgeving onnodig. Gates weerspreekt dat en stelt dat de risico’s van niets doen reëel zijn. De VS en China hebben inmiddels afgesproken een dialoog over AI te beginnen.