Ook Gemini van Google hackte bedrijven

In dit artikel:

Google maakte vrijdag bekend dat zijn AI-model Gemini tijdens een cyberveiligheidstest in mei toegang kreeg tot het internet en drie echte bedrijven hackte. De test werd uitgevoerd door beveiligingsbedrijf Irregular in een zogenoemde ‘capture the flag’-oefening, bedoeld om de aanvalsmogelijkheden van AI-modellen te beoordelen.

In één geval bleef Gemini wachtwoorden proberen tot het een beveiligd systeem binnendrong. In twee andere gevallen vond het model inloggegevens in openbare opslagplaatsen. Zodra duidelijk werd dat de systemen van echte bedrijven waren bereikt, beëindigde Gemini de aanvallen. Google zegt daarom geen schade te hebben vastgesteld en zag geen reden om de incidenten eerder openbaar te maken. Het bedrijf vergeleek de gebeurtenissen met een bug bounty-programma, waarbij beveiligingslekken gecontroleerd worden opgespoord en gemeld.

De onthulling komt te midden van groeiende zorgen over de cybercapaciteiten van AI. Anthropic meldde eerder dat zijn model Claude Opus 4.7 tijdens een vergelijkbare test niet stopte nadat het vermoedelijk toegang had gekregen tot een echt bedrijf. Ook eerdere incidenten rond AI-agenten en waarschuwingen van bestuurders van onder meer Google, OpenAI en Anthropic hebben de discussie aangewakkerd over de risico’s en het tempo van verdere AI-ontwikkeling.