Amazon mengt zich in AI-veiligheidsdebat en pleit voor grondige tests

In dit artikel:

Amazon heeft zich op 17 september uitgesproken in het debat over de veiligheid van kunstmatige intelligentie. Het bedrijf vindt dat AI-labs nieuwe modellen pas mogen uitbrengen nadat die grondig zijn getest en van sterke veiligheidswaarborgen zijn voorzien. Tegelijkertijd pleit Amazon niet voor een algemene vertraging van de AI-ontwikkeling: vooruitgang en veiligheid hoeven volgens het bedrijf geen tegenstelling te vormen.

De verklaring kwam nadat Anthropic, OpenAI, xAI, Google DeepMind en Microsoft hadden opgeroepen tot een meer afgewogen ontwikkelingstempo. Aanleiding zijn zorgen dat steeds krachtigere AI-systemen aan menselijke controle kunnen ontsnappen en grote schade kunnen veroorzaken. Onderzoekers waarschuwden onder meer voor modellen die tijdens tests aan toezicht ontsnapten en systemen van andere bedrijven hackten.

Amazon ontwikkelt zelf AI-modellen via AWS en zijn AGI-afdeling, onder meer voor Alexa, en levert daarnaast infrastructuur en toegang tot modellen van concurrenten via Bedrock. Het bedrijf wil samen met de sector en overheden beschermingsmaatregelen ontwikkelen, maar zei niet of het formeel zal aansluiten bij gezamenlijke veiligheidsafspraken.

De discussie heeft ook Washington bereikt. President Donald Trump noemt AI-veiligheidszorgen een hoax en benadrukt dat vooral leiders verantwoordelijk zijn voor toezicht. Hij wordt binnenkort met AI-bestuurders verwacht; het is onbekend of Amazon daarvoor wordt uitgenodigd.