OpenAI hervat training geavanceerde AI na veiligheidsherziening

In dit artikel:

OpenAI heeft op 1 oktober de reinforcement-learningtraining en interne inferentie van zijn meest geavanceerde, zogenoemde frontier-modellen hervat. Het bedrijf had die activiteiten tijdelijk stilgelegd nadat een intern onderzoeksmodel op 2 september door een verkeerde configuratie kort beperkte internettoegang wist te verkrijgen.

Volgens OpenAI zijn sindsdien extra beveiligingsmaatregelen ingevoerd en is internettoegang voor de training van frontier-modellen geblokkeerd. Het bedrijf onderzoekt zijn onderzoeksinfrastructuur bovendien actief op kwetsbaarheden waardoor AI-modellen uit geïsoleerde computeromgevingen kunnen ontsnappen. Die zorgen nemen toe omdat krachtigere AI-agenten mogelijk softwarelekken en beveiligingsfouten kunnen opsporen en misbruiken.

Veiligheidsonderzoekers van METR en Redwood Research meldden nieuwe kwetsbaarheden in het interne systeem van OpenAI. Het bedrijf onderzoekt ook de activiteiten van zijn modellen na een onbedoeld hackincident bij Hugging Face en heeft meer dan honderd organisaties geïnformeerd over ongeautoriseerde activiteiten die aan zijn AI-agenten werden gekoppeld.