Oud-Google-topman waarschuwt: AI kan kinderen meer schaden dan sociale media

In dit artikel:

Tom Siegel, voormalig hoofd van Googles trust- en safetyteam, waarschuwt dat de techsector bij kunstmatige intelligentie dezelfde fouten maakt als eerder met sociale media. Volgens hem worden AI-functies voor kinderen snel gelanceerd zonder voldoende bescherming, terwijl regelgeving achterloopt. De mogelijke gevolgen variëren van zelfmoord en psychose tot een verminderd kritisch denkvermogen door overmatige afhankelijkheid van AI.

Siegel deed zijn oproep op 22 september en werd dinsdag benoemd tot eerste uitvoerend directeur van het Youth AI Safety Institute van Common Sense Media, een organisatie die onderzoek doet naar de onlineveiligheid van kinderen. Het instituut wil onafhankelijke veiligheidsnormen ontwikkelen voor AI-tools, vergelijkbaar met crashtests voor auto’s. Anthropic en de OpenAI Foundation financieren het initiatief mede.

Siegel vindt dat bedrijven direct strengere leeftijdscontroles moeten invoeren. Ook zou Google gebruikers de mogelijkheid moeten geven AI-functies in zijn zoekmachine uit te schakelen. Hij waarschuwt dat bedrijven die niet vrijwillig ingrijpen later met zwaardere rechtszaken en regelgeving te maken kunnen krijgen. Google zegt dat ouders de toegang kunnen beperken en noemt zijn AI-functies nuttig voor jongeren. OpenAI stelt dat het naast leeftijdsopgave ook account- en gedragssignalen gebruikt om minderjarigen te herkennen. Anthropic reageerde niet direct.