Van modellen naar machines: kun je de beslissingen van je AI vertrouwen?

In dit artikel:

Tijdens SAS Innovate on Tour in Amsterdam draaide de financiële sessie op 2 juni om een duidelijke verschuiving: banken en verzekeraars moeten niet alleen AI-modellen bouwen, maar vooral beslissystemen leren vertrouwen. SAS-topman Maurits Bakker en AI-expert Ian Brown schetsten hoe de sector van losse modellen naar deels zelfsturende systemen beweegt, waarbij governance belangrijker wordt dan pure rekenkracht.

Bakker liet zien hoe een AI-agent binnen asset-liability management miljoenen scenario’s kan doorrekenen voor een bankbalans en ’s nachts maatregelen kan voorstellen om rente-, liquiditeits- en kapitaalrisico’s te beperken. De mens blijft daarbij verantwoordelijk voor de goedkeuring en voor de risicobereidheid. Zijn advies aan banken: begin klein, bewijs de waarde in één gereguleerd proces en schaal daarna pas op.

Brown benadrukte dat het risico verschuift van het model zelf naar het systeem eromheen. De grote vraag wordt volgens hem niet meer hoe nauwkeurig een model is, maar wat het systeem mag doen en of de uitkomsten nog te vertrouwen zijn als AI zich blijft aanpassen.

In het tweede deel van de bijeenkomst ging het over fraude, waar AI zowel aanvallers als verdedigers versnelt. KPMG-partner Patrick Özer en SAS’ Frederic Hennequin waarschuwden voor phishing met FraudGPT, deepfakes en AI-gestuurde beleggingsscams. Tegelijkertijd blijkt uit onderzoek dat slechts een kleine minderheid van de financiële instellingen zich goed voorbereid voelt op AI-fraude.

Volgens Özer en Hennequin moeten controles daarom continu worden gevalideerd op drift, fouten in datakoppelingen en veranderend fraudegedrag. Zij presenteerden een onafhankelijk ‘challenger’-model en een SAS-demo-agent die frauderegels voorstelt, maar altijd onder menselijk toezicht. De rode draad van de middag: in de financiële sector wint niet wie de meeste AI-modellen heeft, maar wie de beslissingen van die systemen betrouwbaar kan maken.