DeepMind-medeoprichter waarschuwt dat AI veiligheid niet mag inhalen

In dit artikel:

Shane Legg, medeoprichter van Google DeepMind, waarschuwt dat veiligheidsmaatregelen de snelle ontwikkeling van kunstmatige algemene intelligentie (AGI) niet mogen bijhouden. Volgens de Financial Times richtte hij daarom een instituut op dat de gevolgen en inzet van AGI onderzoekt.

De waarschuwing komt nu AI-agenten steeds zelfstandiger software kunnen schrijven, taken uitvoeren en bijdragen aan de ontwikkeling van nieuwe AI-systemen. Daardoor groeit de vrees dat de technologie sneller vooruitgaat dan de mogelijkheden om haar te controleren. Legg noemt het voorstel van Anthropic-topman Dario Amodei om de introductie van zeer geavanceerde modellen te vertragen — maar niet volledig stil te leggen — interessant en het overwegen waard.

Volgens Legg is het nog te vroeg om te zeggen dat AGI al is bereikt, ondanks recente uitspraken van bestuurders van Nvidia en OpenAI. Hij handhaaft zijn verwachting dat er in 2028 50 procent kans is op zogenoemde minimale AGI. Het nieuwe instituut wil het publieke debat verbreden naar onder meer wetenschap, onderwijs, maatschappij, beleid, filosofie en menselijk welzijn. De eerste essays gaan over AI-veiligheid, economisch beleid en een nieuw utopisme.