Meta's Zuckerberg: AI-labs hebben voldoende prikkels om veilig te bouwen

In dit artikel:

Meta-topman Mark Zuckerberg neemt afstand van de oproep van Anthropic-bestu topman Dario Amodei om de ontwikkeling van krachtige AI tijdelijk sectorbreed te vertragen. Volgens Zuckerberg hebben AI-labs zelf voldoende verantwoordelijkheid en commerciële prikkels om hun modellen veilig te ontwikkelen. Bedrijven die onvoldoende aandacht besteden aan afstemming en veiligheid riskeren volgens hem reputatieschade en aanzienlijke aansprakelijkheid.

Amodei deed zijn oproep na waarschuwingen van onderzoekers voor existentiële risico’s van AI. OpenAI-topman Sam Altman en xAI-topman Elon Musk steunden hem publiekelijk. Zuckerberg zei daarentegen dat Meta al het grootste deel van zijn rekenkracht inzet voor directe gebruikersproducten, niet voor zelfverbeterende AI-systemen. Meta gebruikt naar eigen zeggen bovendien onafhankelijke beoordelaars om modellen te testen en stelde eerder de lancering van de AI-agent Muse uit om de beveiliging te verbeteren.

De verdeeldheid speelt zich af tegen de achtergrond van weerstand tegen strengere regelgeving in de Verenigde Staten. President Donald Trump waarschuwde dat terughoudendheid Amerikaanse bedrijven tegenover China kan verzwakken, een standpunt dat ook door technologiebedrijven zoals Nvidia wordt gedeeld. FTC-voorzitter Andrew Ferguson riep tegelijk op wantrouwig te zijn tegenover AI-bedrijven die uitzonderingen op mededingingsregels vragen om veiligheidsafspraken te maken. Daarmee blijft onzeker of de sector tot een gezamenlijke aanpak komt.