Meerderheid finance professionals kan AI-beslissing niet verantwoorden aan auditor

In dit artikel:

Bijna de helft (45%) van de ruim 300 ondervraagde finance professionals gebruikt AI in het werk, maar de uitlegbaarheid van de beslissingen blijft achter. Volgens de negende FinTech Barometer van Onguard kan 74% van de CFO’s een AI-beslissing niet volledig reconstrueren wanneer een auditor daar direct om vraagt. Van alle AI-gebruikers kan slechts 18% beslissingen over kredietverlening of inning volledig onderbouwen tegenover bestuur, auditor of toezichthouder.

Bij 52% is achteraf wel een toelichting mogelijk, terwijl 21% alleen de uitkomst kent en 9% de beslissing nauwelijks of helemaal niet kan uitleggen. Dat wordt urgenter omdat AI-ondersteunde kredietbeoordeling vanaf december 2027 onder de hoogrisico-eisen van de Europese AI-verordening valt. Die stelt onder meer eisen aan menselijk toezicht, logging en transparantie.

AI maakt processen volgens veel professionals sneller, maar leidt zelden tot meer controle. Bij 41% blijft de controle gelijk en bij 29% neemt die af; slechts 20% ziet zowel meer snelheid als betere controle. Menselijke controle is bij 31% standaard ingebouwd en bij 49% vaak aanwezig. Zeven op de tien zien geregeld of soms correcties, uitzonderingen of handmatige beoordelingen ontstaan.

Het grootste probleem is dat beslissingen en uitzonderingen niet altijd formeel worden vastgelegd. Daarnaast zegt 48% dat AI al is ingevoerd terwijl processen nog niet op orde waren; onder CFO’s is dat 61%. Onguard-directeur Dennis Kromhout van der Meer adviseert daarom vooraf vast te leggen welke beslissingen AI zelfstandig mag nemen en menselijke controle structureel in te bouwen.