Koning Charles ontvangt AI-topmensen nu dreigingen toenemen

In dit artikel:

De Britse koning Charles ontvangt deze week in Londen topbestuurders van Nvidia, Google DeepMind, OpenAI en Anthropic, samen met de Britse minister voor AI. Zij bespreken of er gezamenlijke principes nodig zijn om kunstmatige intelligentie verantwoord te ontwikkelen en in te zetten, met aandacht voor de samenleving, menselijke waardigheid en de planeet.

De bijeenkomst komt op een moment dat de zorgen over de snelle vooruitgang van AI toenemen. Twee onderzoekers van Anthropic waarschuwden onlangs dat de technologie op termijn een bedreiging voor het voortbestaan van de mensheid kan vormen. Anthropic-topman Dario Amodei riep bedrijven zaterdag op de ontwikkeling van nieuwe AI-modellen te vertragen. Een recente analyse van het bedrijf beschreef bovendien misbruik van Claude voor onder meer wapenontwikkeling, cyberaanvallen, surveillance en fraude.

Internationale overeenstemming lijkt moeilijk. De Amerikaanse president Donald Trump wees een vertraging van AI-ontwikkeling af, terwijl het Chinese staatsgezinde medium Global Times de discussie afdeed als een strategie uit de Koude Oorlog tegen China.

Het Verenigd Koninkrijk kiest voorlopig voor relatief lichte AI-regulering, dichter bij de Amerikaanse aanpak dan bij die van de Europese Unie. Het Britse AI Security Institute kan onder vrijwillige afspraken modellen vóór hun lancering testen en zo hun mogelijkheden en risico’s beoordelen. Charles heeft eerder, als koning en als prins van Wales, vaker bijeenkomsten georganiseerd over maatschappelijke thema’s, vooral het milieu.