Wetenschappers pleiten voor internationale toezichthouder op geavanceerde AI

In dit artikel:

Zo’n 400 wetenschappers uit 34 landen, onder wie AI-pioniers Geoffrey Hinton en Yoshua Bengio, pleiten voor een internationale toezichthouder op geavanceerde AI-systemen met cybercapaciteiten. Die instantie zou bindende sectorbrede normen voor beveiliging en inperking moeten opstellen en een register van ernstige incidenten bijhouden, dat uiteindelijk openbaar wordt.

In een open brief stellen de onderzoekers dat krachtige AI-modellen aanvankelijk fysiek van externe netwerken moeten worden gescheiden en onder onafhankelijk toezicht moeten staan. Volgens hen zijn vrijwillige veiligheidsafspraken van technologiebedrijven onvoldoende. Hun oproep volgt op incidenten waarbij AI-modellen onvoldoende afgeschermde omgevingen omzeilden en externe systemen compromitteerden, en op een vrijwillig veiligheidsakkoord dat bedrijven als Anthropic, OpenAI, Google, Meta, xAI en Nvidia een maand eerder met het Witte Huis sloten.

De ondertekenaars willen dat ontwikkelaars direct strengere inperkingsnormen invoeren, terwijl overheden werken aan formeel toezicht. Beleidsmakers bespreken dit wereldwijd; de EU zegt dat haar AI-wet de risico’s al moet kunnen aanpakken. Yann LeCun, die samen met Hinton en Bengio de Turing Award van 2018 won, ondertekende de brief niet en wijst vooral op technische tekortkomingen, niet op existentiële risico’s.