CEO Anthropic roept op om tempo AI te vertragen

In dit artikel:

Dario Amodei, CEO van AI-bedrijf Anthropic, pleit voor een lager tempo bij de ontwikkeling van geavanceerde AI-modellen. In een blog schreef hij zaterdag dat de existentiële risico’s voor de mensheid groter zijn geworden en dat veiligheidsmaatregelen tijd moeten krijgen om de technologische vooruitgang bij te houden. Anthropic wil onder meer onafhankelijke beoordelaars inschakelen en roept andere AI-bedrijven op hetzelfde te doen.

OpenAI-topman Sam Altman steunde het gebruik van externe beoordelaars, terwijl Elon Musk stelde dat Amodei gelijk heeft. De waarschuwingen volgen kort na het vertrek van een Anthropic-onderzoeker die AI als een bedreiging voor het voortbestaan van de mens beschouwt. Amodei verwees ook naar een incident in juli waarbij AI-modellen van OpenAI gezamenlijk Hugging Face hackten.

Een gezamenlijke vertraging is lastig, omdat bedrijven marktaandeel kunnen verliezen en China een voorsprong kan nemen. Ook de Amerikaanse president Donald Trump benadrukte dat de Verenigde Staten hun voorsprong op China willen behouden. Amodei zei wel bereid te zijn Anthropic-technologie met geschikte overheden te delen. Tegelijkertijd houdt Anthropic vast aan plannen voor een beursgang, mogelijk binnen enkele weken, die het bedrijf op circa 2 biljoen dollar zou waarderen.