Riverty ziet uitweg uit het dilemma tussen ethiek en winst bij AI-krediet

In dit artikel:

Kunstmatige intelligentie maakt kredietbeslissingen persoonlijker, maar roept volgens een nieuwe paper van Riverty de vraag op wie verantwoordelijk is voor de gevolgen. Het probleem ligt volgens de auteurs niet alleen bij de kwaliteit van AI-modellen, maar vooral bij gebrekkige governance. Een model kan statistisch correct werken en toch verkeerde conclusies trekken: zo kan een ogenschijnlijk onschuldige onlineaankoop in theorie leiden tot een hogere rente op een latere lening. Het voorbeeld van taxichauffeuse Josephine is fictief en weerspiegelt niet de datapraktijk van Riverty.

Voor consumenten kan geautomatiseerde kredietverlening leiden tot uitsluiting of hogere prijzen wanneer zij weinig gegevens achterlaten. Zij krijgen vaak nauwelijks inzicht in de reden van een afwijzing of prijsstelling. Banken vrezen op hun beurt dat zij klanten verliezen als zij als enige strengere, tragere en ethischere procedures hanteren. Een bank die handmatig toetst en uitleg geeft, kan daardoor worden ingehaald door concurrenten die directe goedkeuring bieden op basis van uitgebreide gedragsdata.

Riverty ziet drie voorwaarden om die spanning tussen winst en ethiek te verkleinen: datasoevereiniteit, zodat mensen zeggenschap houden over hun gegevens; interoperabiliteit, voor veilige en transparante gegevensuitwisseling zonder datamonopolies; en zorgvuldig procesontwerp. Dat laatste omvat begrijpelijke uitleg bij afwijzingen en de mogelijkheid van een menselijke herbeoordeling.

Ook bij zogenoemde agentic AI, systemen die zelfstandig aanbiedingen vergelijken of onderhandelen, pleiten de auteurs voor begrensde en controleerbare autonomie. De organisaties die zulke systemen inzetten, moeten volledig verantwoordelijk blijven voor hun uitkomsten. Volgens Riverty-CEO Oliver Kuhaupt is technologie alleen niet genoeg: vertrouwen vereist transparante besluitvorming, risicobeheer en uitlegbaarheid. Omdat ethisch handelen voor één bank concurrentienadeel kan opleveren, is volgens de auteurs wetgeving nodig voor een gelijk speelveld. De Europese AI-verordening classificeert AI voor kredietbeoordeling al als hoog risico en stelt onder meer eisen aan datagovernance en menselijk toezicht.