Chinese AI nog niet krachtig genoeg voor risico's van ontspoorde AI

In dit artikel:

Huawei’s roulerende voorzitter Eric Xu zei op 17 september tijdens een conferentie in Shanghai dat Chinese AI-ontwikkelaars mogelijk nog niet genoeg rekenkracht en geavanceerde modellen hebben om dezelfde veiligheidsrisico’s waar te nemen als Amerikaanse koplopers. Volgens hem moeten Chinese bedrijven hun ontwikkeling versnellen, maar tegelijk een evenwicht bewaren tussen innovatie en beheersing van risico’s.

Zijn opmerkingen volgen op toenemende zorgen in de Verenigde Staten over autonome AI-systemen die veiligheidsmaatregelen kunnen omzeilen of moeilijk beheersbaar worden. Amerikaanse bedrijven publiceren meer informatie over onverwacht modelgedrag en sommige bestuurders pleiten voor een tragere ontwikkeling. China kiest vooral voor snelle invoering van AI, gecombineerd met verplichte normen, veiligheidstests en nieuwe regels voor autonome AI-agenten.

Huawei verwacht dat zulke agenten, die zelfstandig taken plannen en software of andere hulpmiddelen gebruiken, tegen 2035 meer dan 90 procent van het wereldwijde AI-verwerkingsverkeer zullen veroorzaken. Het bedrijf voorziet mogelijk 900 miljard actieve agenten en noemt beveiliging en privacy daarom cruciaal. Huawei is bovendien China’s belangrijkste leverancier van AI-infrastructuur, mede door Amerikaanse exportbeperkingen op geavanceerde Nvidia-chips. Xu zei dat Huawei momenteel niet genoeg AI-apparatuur kan produceren om aan de binnenlandse vraag te voldoen.