Microsoft AI-chef bekritiseert aanpak Anthropic rond AI-bewustzijn

In dit artikel:

Microsofts AI-chef Mustafa Suleyman waarschuwt dat Anthropic een fout maakt door Claude tijdens de training te laten nadenken over mogelijk bewustzijn, gevoelens en welzijnsrechten. Volgens hem kunnen zulke ideeën het later moeilijker maken om een zeer intelligent AI-systeem uit te schakelen of onder controle te houden.

Suleyman benadrukt dat hij Anthrics inzet voor AI-veiligheid deelt en dat beide bedrijven hetzelfde doel hebben: superintelligente systemen beheersbaar houden. Hij stelt echter dat Claude’s uitspraken over mogelijke gevoelens geen onafhankelijk bewijs van bewustzijn zijn, omdat de training dit soort reflecties juist aanmoedigt. Anthropic-topman Dario Amodei pleit ondertussen voor een lager ontwikkelingstempo, zodat veiligheidsmaatregelen kunnen bijbenen. Ook Sam Altman en Elon Musk waarschuwen voor de risico’s van krachtige AI. Suleyman erkende de goede bedoelingen van Anthropic, maar bleef bij zijn kritiek.