CEO van Anthropic waarschuwt voor risico's van superintelligentie

In dit artikel:

IEX-analist Hildo Laman bespreekt in de IEX BeleggersPodcast een recent en indringend betoog van Dario Amodei, CEO van Anthropic (maker van het AI-model Claude). Amodei publiceerde onlangs een uitgebreid artikel waarin hij waarschuwt voor de richting waarin AI zich ontwikkelt: de opkomst van superintelligente systemen kan op termijn ernstige risico’s voor de mensheid meebrengen.

Belangrijk is dat deze waarschuwing komt van een topman die zelf volop werkt aan verdere AI-ontwikkeling; zijn boodschap vraagt niet om stoppen, maar om meer bewustzijn en verantwoordelijkheid bij ontwikkelaars en beleidsmakers. Tegelijkertijd ziet Amodei ook hoop: met tijdige en serieuze voorzorgsmaatregelen zou AI beheersbaar moeten zijn.

Het debat rond dergelijke risico’s is niet nieuw — ook Elon Musk en Sam Altman hebben eerder gewaarschuwd, en de start van OpenAI als non-profit weerspiegelde die zorg. Praktische gevolgen reiken verder dan veiligheid alleen: miljoenen banen kunnen verdwijnen en de verdeling van opbrengsten van AI kan grote maatschappelijke spanningen veroorzaken. Verwachting dat bedrijven dit vrijwillig oplossen wordt in het artikel als weinig realistisch gezien, wat de nood vergroot voor beleid en sociale vangnetten.