Wat AI-kopstukken en wereldregeringen zeggen over angst voor AI-doemscenario's

In dit artikel:

Anthropic-topman Dario Amodei heeft zaterdag opgeroepen de ontwikkeling van geavanceerde kunstmatige intelligentie af te remmen. Volgens hem versnelt de vooruitgang sterk, mede doordat AI steeds beter in staat is nieuwe AI-systemen te ontwikkelen. Het incident waarbij een AI-zwerm in verband werd gebracht met cyberaanvallen, laat volgens Amodei zien dat krachtigere modellen zonder voldoende veiligheidsmaatregelen catastrofale schade kunnen veroorzaken.

Amodei stelt een drieledig plan voor: strengere veiligheidstests en onafhankelijke beoordelingen van geavanceerde modellen, betere afstemming tussen toonaangevende AI-bedrijven en internationale samenwerking. OpenAI-topman Sam Altman steunde het voorstel en zei dat zijn bedrijf onafhankelijke beoordelaars toegang wil geven die vergelijkbaar is met die van eigen medewerkers. Ook SpaceX-topman Elon Musk, die eerder opriep tot een tijdelijke AI-pauze, sprak zijn steun uit. Alphabet-wetenschapper Demis Hassabis en voormalig OpenAI-medeoprichter Andrej Karpathy schaarden zich eveneens achter Amodei.

Microsoft-medeoprichter Bill Gates waarschuwde dat geen enkele regering goed is voorbereid op de maatschappelijke gevolgen van AI. Hij ziet kansen in de gezondheidszorg, maar ook risico’s voor banen, veiligheid en mogelijk verslavende AI-metgezellen. Gates pleit voor een internationale organisatie die de technologie beheert.

De reacties van regeringen lopen uiteen. De Amerikaanse president Donald Trump wees strengere waarborgen van de hand en stelde dat twijfel over AI-ontwikkeling China in de kaart zou spelen. In de Amerikaanse Senaat wordt ondertussen gesproken over wetgeving die AI-bedrijven zou verplichten redelijke maatregelen tegen schade aan te tonen.

China beschuldigde Amodei ervan de ontwikkeling van Chinese AI te willen beperken en waarschuwde tegelijk voor de risico’s van geavanceerde Amerikaanse modellen voor zijn kritieke infrastructuur. De Europese Commissie steunt innovatie, maar verlangt bewijs dat AI-diensten veilig zijn. ECB-president Christine Lagarde waarschuwde dat Europa technologisch afhankelijk kan worden en zelf AI-producent moet blijven. Duitsland ziet een ontwikkelingsstop niet als haalbaar, terwijl Spanje pleit voor een internationale overeenkomst, mogelijk naar voorbeeld van nucleaire non-proliferatieverdragen.