Microsoft, Google en xAI geven VS vroege toegang tot AI-modellen voor veiligheidstests

In dit artikel:

5 mei — Microsoft, Alphabet's Google en Elon Musks xAI geven de Amerikaanse overheid onder een nieuwe overeenkomst vroegtijdige toegang tot hun nieuwste AI‑modellen voordat die publiek worden uitgerold. Het Center for AI Standards and Innovation (CAISI) bij het ministerie van Handel kan zo de systemen onderzoeken op capaciteiten en nationale‑veiligheidsrisico’s. CAISI‑directeur Chris Fall zei dat "onafhankelijke, rigoureuze meetscience" cruciaal is om frontier‑AI en de implicaties voor de nationale veiligheid te doorgronden.

De stap volgt op eerdere 2024‑afspraken met OpenAI en Anthropic en komt te midden van groeiende zorgen over geavanceerde systemen zoals Anthropic's Mythos, die mogelijk misbruik door hackers kunnen versterken. OpenAI heeft recentelijk een cybersecurity‑gerichte variant van zijn vlaggenschipmodel uitgebracht. CAISI meldt al meer dan veertig evaluaties, vaak met modelversies waarvan ontwikkelaars veiligheidsbeperkingen tijdelijk hebben teruggeschroefd om risico’s te kunnen meten. Recent sloot het Pentagon ook deals met meerdere AI‑leveranciers om geavanceerde mogelijkheden op geclassificeerde netwerken te testen. Microsoft, Google en xAI reageerden niet direct op verzoeken om commentaar.