Exclusief: banktoezichthouders voeren AI-toezicht op door stabiliteitszorgen

In dit artikel:

Banktoezichthouders in de Verenigde Staten en Europa voeren het toezicht op kunstmatige intelligentie bij banken op. Ze vrezen dat cyberaanvallen, fouten van steeds autonomere AI-agenten en afhankelijkheid van externe technologiebedrijven de financiële stabiliteit kunnen bedreigen. Volgens ingewijden onderzoeken toezichthouders bovendien of de risico’s sneller toenemen dan eerder werd verwacht.

In de VS vragen de Federal Reserve, het Office of the Comptroller of the Currency en de Federal Deposit Insurance Corporation banken hoe zij geavanceerde AI-modellen inzetten, onder meer voor cyberdefensie. De toezichthouders willen weten welke grenzen banken aan AI-agenten stellen, hoe hun beslissingen worden gevolgd en goedgekeurd en of mensen betrokken blijven bij cruciale keuzes. Ook vragen zij hoe banken systemen kunnen uitschakelen wanneer die hun bevoegdheden overschrijden, en welke risico’s samenhangen met modellen die in het buitenland zijn ontwikkeld, waaronder in China.

De Amerikaanse autoriteiten verzamelen voorlopig vooral informatie en leggen nog geen nieuwe verplichtingen op. Hun onderzoek betreft banken van verschillende omvang en richt zich op de vraag of zij AI-gerelateerde kwetsbaarheden kunnen herkennen en snel kunnen ingrijpen.

Europese toezichthouders leggen meer nadruk op herstel na een aanval. De Bank of England moedigt grote Britse banken aan zogenoemde bare-metal-herstelvoorzieningen te onderzoeken: volledig losstaande systemen waarmee kritieke activiteiten kunnen worden hervat als de primaire infrastructuur is gecompromitteerd. Zulke voorzieningen zijn kostbaar, maar de Britse autoriteiten willen voorlopig vooral met de sector samenwerken.

De Europese Centrale Bank gaf banken tot eind oktober de tijd om plannen te maken tegen AI-gestuurde cyberdreigingen. Daarbij gaat het onder meer om betere back-ups, herstelprocedures en een overzicht van het gebruik van AI bij banken en hun technologiepartners. Banken moeten ook kunnen aantonen dat systemen gecontroleerd kunnen worden uitgeschakeld en opnieuw gestart. Volgens ingewijden bestaan bij sommige instellingen nog grote tekortkomingen.

De zorgen zijn toegenomen na recente meldingen over AI-gerelateerde hacks, waaronder een aanval op Zuid-Koreaanse banken waarbij vermoedelijk een in China ontwikkelde AI-agent werd gebruikt. Ook zouden autonome AI-agenten van OpenAI betrokken zijn geweest bij een inbraak bij Hugging Face. Het IMF waarschuwde intussen dat een grote cyberaanval op een financiële instelling of cruciale dienst het vertrouwen in de markten kan aantasten.

Banken investeren ondertussen snel in agentische AI, die met weinig menselijk toezicht taken kan uitvoeren. Experts waarschuwen dat de invoering daarvan sneller verloopt dan het opzetten van passende controles. Daarom benadrukken toezichthouders en deskundigen dat niet alleen preventie, maar ook snel en veilig herstel noodzakelijk is om klanten, betalingen en de bredere economie te beschermen.