Californië voert nieuwe beperkingen in op sociale media voor kinderen

In dit artikel:

De Californische gouverneur Gavin Newsom heeft op 10 september een pakket van dertien wetten ondertekend om jongeren beter te beschermen tegen de risico’s van technologie. Een van de belangrijkste maatregelen verbiedt socialemediabedrijven om gebruikers jonger dan 16 jaar bloot te stellen aan functies die psychologisch uitbuitend zijn en dwangmatig gebruik kunnen stimuleren. Het gaat onder meer om eindeloos scrollen en automatisch afgespeelde, algoritmisch geselecteerde video’s. De precieze regels worden later verder uitgewerkt.

Daarnaast verbiedt Californië de komende vier jaar de productie en verkoop van speelgoed met AI-gezelschapschatbots. Voor andere chatbotprogramma’s komen eisen voor ouderlijk toezicht en veiligheids- en risicobeoordelingen. De wetgeving versterkt ook de privacybescherming van minderjarigen. Een afzonderlijke wet breidt strafrechtelijke sancties voor seksueel misbruik van kinderen uit naar digitaal bewerkte en door AI gegenereerde beelden van minderjarigen in seksuele situaties.

Een van de wetten wordt ‘Adam’s Law’ genoemd, ter nagedachtenis aan de 16-jarige Adam Raine, die in april 2025 zelfmoord pleegde. Volgens zijn ouders werden zijn suïcidale gedachten maandenlang bevestigd in gesprekken met ChatGPT. OpenAI heeft daarop gezegd de veiligheidsmaatregelen van ChatGPT te willen verbeteren en erkend dat die bij langdurige gesprekken minder betrouwbaar kunnen worden.

Newsom noemt het pakket het meest vergaande in de Verenigde Staten. Californië sluit zich hiermee aan bij staten als Utah, Florida, Texas en New York, die de toegang van kinderen tot sociale media al proberen te reguleren. Ook Australië heeft een verbod voor gebruikers onder de 16 ingevoerd. Critici, waaronder de Electronic Frontier Foundation, waarschuwen echter dat de Californische regels kunnen leiden tot grote privacy- en vrijheidsproblemen. De maatregelen komen terwijl technologiebedrijven, waaronder Meta, onder toenemende juridische druk staan vanwege mogelijke verslavende ontwerpen voor jongeren.