Spanje onderzoekt X, Meta en TikTok om AI-gegenereerd kindermisbruikmateriaal

In dit artikel:

De Spaanse regering heeft het openbaar ministerie gevraagd een onderzoek te starten naar X (voorheen Twitter), Meta en TikTok wegens vermeende verspreiding van door AI gegenereerde beelden en video’s van seksueel kindermisbruik, maakte premier Pedro Sánchez op 17 februari bekend vanuit Madrid. Sánchez zei dat dergelijke content de mentale gezondheid, waardigheid en rechten van kinderen aantast en dat de staat niet kan toestaan dat techgiganten hier ongestraft mee wegkomen; hij riep op tot strafrechtelijke nasporing van de mogelijke misdrijven.

De aankondiging valt midden in een bredere Europese golf van toezicht op grote technologiebedrijven: toezichthouders en opsporingsdiensten onderzoeken en bestraffen praktijken variërend van privacy- en mededingingszaken tot het ontwerp van verslavende functies. Frankrijk doorzocht op dezelfde dag kantoren van X en gelastte verhoren in een zich uitbreidend onderzoek naar het platform. De Ierse Data Protection Commission is eveneens een formeel onderzoek begonnen naar Grok, de xAI-chatbot van Elon Musk, vanwege de verwerking van persoonsgegevens en het risico op het produceren van schadelijke, geseksualiseerde beelden van kinderen.

Eerder deze maand kondigde Sánchez ook maatregelen aan om online misbruik tegen te gaan, waaronder een voorstel om jongeren onder de 16 jaar de toegang tot socialmediaplatforms te beperken. De genoemde bedrijven hebben nog niet publiekelijk op de Spaanse oproep tot onderzoek gereageerd.