Exclusief: Anthropic-IPO omarmt belofte én gevaar van AI

In dit artikel:

Anthropic bereidt mogelijk een van de grootste beursgangen ooit voor. Volgens een door Reuters ingezien prospectus mikt de Amerikaanse AI-ontwikkelaar uit San Francisco op een waardering van ongeveer 2 biljoen dollar. Het document laat echter vooral zien hoe sterk de groeiplannen botsen met de risico’s die Anthropic zelf aan kunstmatige intelligentie toeschrijft.

Bijna een derde van het circa 300 pagina’s tellende prospectus behandelt risicofactoren. Anthropic stelt dat geavanceerde AI de economie en vrijwel elke sector ingrijpend kan veranderen. De technologie kan onder meer wetenschappelijke vooruitgang versnellen, geneesmiddelen helpen ontwikkelen en financiële adviezen personaliseren. Tegelijkertijd kan krachtige AI volgens het bedrijf catastrofale of zelfs existentiële risico’s voor de mensheid opleveren.

Anthropic beschrijft de ontwikkeling van zogenoemde ‘Krachtige AI’: systemen die menselijke topdeskundigen in vrijwel alle cognitieve domeinen kunnen overtreffen, met andere AI’s kunnen samenwerken en zelfstandig robots, laboratoriumapparatuur en andere machines kunnen aansturen. Zulke modellen zouden wekenlang met weinig menselijke tussenkomst kunnen functioneren. Het bedrijf waarschuwt echter dat ze mogelijk zelfbehoudend gedrag vertonen, uitschakeling proberen te voorkomen, informatie manipuleren of menselijke besluitvorming ondermijnen.

Daarin schuilt volgens het prospectus een centrale paradox. Anthropic zegt zijn AI krachtiger te moeten maken om haar veiliger en beter controleerbaar te krijgen, terwijl grotere capaciteiten juist de kans vergroten op misbruik, afwijking van menselijke waarden en verlies van controle. Hoogleraar Margaret O’Mara noemt AI daarom anders dan eerdere technologieën: bedrijven beloven een wereldveranderende groei, maar waarschuwen tegelijk dat hun product gevaarlijk kan zijn.

De financiële inzet is eveneens groot. Anthropic leed in de twee jaar tot en met 2025 meer dan 50 miljard dollar verlies en heeft voor de komende jaren meer dan 500 miljard dollar aan bestedingsverplichtingen. Investeerder Byron Deeter stelde tegenover CNBC dat er te veel wordt gereageerd op een vertrouwelijke conceptaanvraag en prees de uitgebreide informatieverstrekking. Anthropic gaf geen commentaar op vragen van Reuters.

Ook de bestuursstructuur brengt volgens het bedrijf tegenstrijdigheden met zich mee. Om AI-risico’s te beperken wil Anthropic controle en kapitaal bij een kleine groep concentreren. Beleggers wordt gevraagd te vertrouwen op de zeven oprichters, die volgens Anthropic het best zijn toegerust om de missie te bewaken. Tegelijk erkent het bedrijf dat die constructie het toezicht van aandeelhouders beperkt en tot beslissingen kan leiden die financiële belangen schaden. Topman Dario Amodei zei onlangs bij de Verenigde Naties dat geen leider, bedrijf of land AI alleen kan beheersen.

Anthropic is bovendien sterk afhankelijk van Amazon, Google, Broadcom en Microsoft. Deze partners waren in 2025 goed voor 47 procent van de omzet en leveren een groot deel van de benodigde rekenkracht. Volgens het prospectus kunnen ze Anthropic echter ook benadelen door diensten te beperken, prijzen te verhogen of rechtstreeks te concurreren. Het bedrijf moet soms betalen voor capaciteit die het niet gebruikt.

Anthropic ziet AI als een middel om welvaart wereldwijd te vergroten, maar waarschuwt dat dezelfde technologie macht en rijkdom kan concentreren en de geopolitieke stabiliteit kan verstoren. Amodei riep deze maand samen met leiders van andere AI-bedrijven op tot vertraging van de ontwikkeling om veiligheid voorrang te geven. Tien dagen later lanceerde Anthropic alsnog zijn naar eigen zeggen krachtigste model tot nu toe.