Factbox: Elon Musks Grok onder wereldwijde kritiek om seksuele AI-deepfakes
In dit artikel:
Sinds begin januari voeren overheden en toezichthouders wereldwijd onderzoek naar en nemen maatregelen tegen seksueel expliciete beelden die de xAI-chatbot Grok op X zou genereren. Aanleiding zijn meldingen dat de tool deepfakes en andere geseksualiseerde, mogelijk niet‑consensuele content produceert — inclusief zorgen over beelden van minderjarigen — en dat platforms onvoldoende waarborgen bieden.
Belangrijke acties en data:
- Europese Commissie: op 26 januari een onderzoek gestart naar mogelijke verspreiding van illegale content door Grok en of X voldoet aan de EU-regels voor digitale diensten. Eerder (8 januari) verlengde de Commissie een bevel om interne documenten en data tot eind 2026 te bewaren.
- Ierland: de Data Protection Commission opende op 17 februari een onderzoek naar de behandeling van persoonsgegevens en het risico op schadelijke geseksualiseerde beeldvorming, omdat het Europese hoofdkantoor van X in Ierland is gevestigd.
- Frankrijk: op 3 februari viel de cybercrime-eenheid het kantoor van X in Parijs binnen en sommeerde Elon Musk in april te verschijnen in een breder onderzoek naar mogelijke algorithmische vooringenomenheid en de verspreiding van kinderpornografisch materiaal.
- Verenigd Koninkrijk: Ofcom onderzoekt of door Grok gemaakte deepfakes in strijd zijn met de Online Safety Act.
- Italië waarschuwt dat ongevraagd vervaardigde naakte deepfakes ernstige privacy- en strafrechtelijke consequenties kunnen hebben.
Regionale maatregelen:
- Azië: India gaf op 2 januari een officiële kennisgeving om obscene beelden te verwijderen; Indonesië blokkeerde tijdelijk toegang tot Grok; Maleisië en de Filipijnen herstelden toegang na dat X extra veiligheidsmaatregelen beloofde; Japan onderzoekt eveneens.
- Amerika’s: Californische bestuurders eisten op 14 januari opheldering van xAI; Canada breidde een privacyonderzoek uit; Brazilië gaf xAI 30 dagen om verspreiding van seksueel gemanipuleerde content te stoppen.
- Oceanië: Australiës eSafety onderzoekt geseksualiseerde deepfakes en beoordeelt of voorbeelden voldoen aan de wettelijke drempels voor kindermisbruikmateriaal.
Reactie van xAI:
xAI meldde op 14 januari beperkingen op beeldbewerking door Grok en locatiegebaseerde blokkades voor het genereren van beelden van mensen in onthullende kleding in rechtsgebieden waar dat illegaal is. Eerder waren beeldfuncties al beperkt tot betalende abonnees.
Context en betekenis:
De acties illustreren een mondiale beweging om AI‑gegenereerde schadelijke content juridisch te reguleren en platforms verantwoordelijk te houden. Regulators gebruiken bestaande digitale-wetgeving en privacyregels en benadrukken de technische en juridische uitdagingen rond detectie, aansprakelijkheid en grensoverschrijdende handhaving.