Je AI-agent maakt een fout van €4 miljoen. Wie betaalt de rekening?

In dit artikel:

Autonome AI-agents kunnen in de financiële sector zelfstandig betalingen, beleggingen en andere handelingen uitvoeren. Dat biedt kansen voor efficiënter en klantvriendelijker bankieren, maar vergroot ook de financiële risico’s. Een fout van een agent kan immers direct en moeilijk omkeerbare schade veroorzaken. Een verkeerd advies is vaak nog te corrigeren, terwijl een foutieve betaling van bijvoorbeeld vier miljoen euro mogelijk niet kan worden teruggedraaid.

Een denkbaar incident illustreert het probleem: een fintech ontwikkelt voor een bank een AI-agent die binnen zijn bevoegdheden een betaling uitvoert, maar het geld naar de verkeerde rekening overmaakt. De bank moet de klant mogelijk schadeloosstellen. Daarna ontstaat een discussie tussen de bank, de fintech en de leverancier van het onderliggende AI-model over de oorzaak van de fout en de partij die uiteindelijk moet betalen. De modelleverancier kan bijvoorbeeld stellen dat het systeem volgens de instructies werkte, terwijl de fintech naar een modelwijziging verwijst.

Uit onderzoek van de Bank of England en de Britse Financial Conduct Authority, gepubliceerd op 26 oktober, blijkt dat 80 procent van de respondenten AI-agents gebruikt. Slechts 2 procent meldt agents met brede autonomie. Hoewel financiële instellingen voorlopig terughoudend zijn met het overdragen van beslissingsmacht, zal het gebruik van zelfstandige agents naar verwachting toenemen.

De Europese AI Act stelt bij hoogrisicosystemen eisen aan onder meer risicobeheersing, documentatie en menselijk toezicht. Ook DORA verplicht financiële instellingen om ICT-risico’s en uitbesteding te beheersen. Daarnaast blijven de bestaande aansprakelijkheidsregels gelden: een bank kan zich tegenover haar klant niet zonder meer verschuilen achter een leverancier. Die regels beantwoorden echter niet automatisch de vraag hoe de schade vervolgens tussen bank, fintech en modelleverancier wordt verdeeld.

Het vaststellen van de oorzaak is bij autonome AI bijzonder ingewikkeld. Een incident kan voortkomen uit een instructie van de bank, een configuratiefout van de fintech, een wijziging in het model of een onverwachte interactie tussen verschillende systemen. Informatie over die keten kan bovendien bij meerdere partijen liggen. Contractuele aansprakelijkheidslimieten kunnen ervoor zorgen dat een leverancier slechts een fractie van een miljoenenclaim hoeft te vergoeden. Ook is onzeker of een verzekering dekking biedt.

De Europese Commissie trok in oktober 2025 het voorstel voor een aparte AI Liability Directive in. Daarmee blijven bewijsproblemen voor gedupeerden bestaan. Volgens auteur Job Mantz, Executive Director van Holland Fintech Association, zijn daarom niet per se nieuwe regels nodig, maar wel praktische afspraken vooraf. Banken, fintechs, technologieleveranciers en verzekeraars moeten vastleggen wie welke risico’s draagt, welke incidentinformatie wordt gedeeld en hoe schade wordt verdeeld.

Verzekeraars staan daarbij voor een extra uitdaging, omdat er nog weinig ervaring is met de frequentie en omvang van fouten door autonome agents. Daardoor kunnen premies hoog worden of risico’s onverzekerd blijven, vooral voor kleinere fintechs. De kern van Mantz’ betoog is dat partijen vóór de invoering van zelfstandige agents moeten bepalen wie betaalt wanneer het misgaat, in plaats van dat pas na een incident uit te zoeken.