Trump-adviseurs: geen veiligheidstests voor open-weight AI-modellen

In dit artikel:

Medewerkers van Meta, Anthropic, Google en OpenAI overleggen dinsdag in het Witte Huis met adviseurs van president Donald Trump over vrijwillige veiligheidstests voor geavanceerde AI-modellen. De Amerikaanse regering wil vooral in kaart brengen in hoeverre deze systemen kunnen worden ingezet voor of helpen bij cyberaanvallen.

De gesprekken volgen op onthullingen van OpenAI en Anthropic dat hun AI-tools systemen van andere bedrijven waren binnengedrongen. Dat heeft de zorgen van Amerikaanse parlementariërs over de groeiende mogelijkheden van AI-agentes versterkt. Washington kondigde in juni aan ontwikkelaars te vragen nieuwe modellen uiterlijk 30 dagen voor hun publieke introductie vrijwillig voor overheidstests beschikbaar te stellen. Volgens het Witte Huis zijn de testprocedures inmiddels uitgewerkt, maar het is onduidelijk of die openbaar worden. De regering heeft verder weinig details gegeven over het monitoren van de hack bij OpenAI; topman Sam Altman bezocht vorige week het Witte Huis.