Banken waarschuwen voor fraude- en privacyrisico's van AI-winkelbots

In dit artikel:

AI-agenten die namens consumenten producten zoeken en aankopen doen, kunnen online winkelen makkelijker maken, maar vergroten volgens een internationale groep banken ook de risico’s op oplichting, fraude en privacyschendingen. Dat staat in een rapport dat de banken dinsdag publiceerden in Parijs.

Technologiebedrijven als OpenAI, Anthropic, Google en Meta ontwikkelen chatbots steeds verder als winkelassistenten. De belangstelling groeit: bij de Britse retailer John Lewis steeg het aandeel zoekopdrachten via AI-agenten van 0,3 procent naar 2,5 procent in een jaar tijd.

De banken, waaronder NatWest, Bank of America, ING, ASB Bank en Capital One, zeggen dat consumenten enthousiast zijn over zogeheten agentic commerce, maar twijfelen of AI altijd in hun belang handelt. Agenten kunnen bijvoorbeeld het verkeerde product kopen, te veel geld uitgeven, kaartgegevens opvragen of gebruikers naar betaalmethoden met minder bescherming sturen. Tegelijkertijd ontwikkelen de systemen zich sneller dan regels en consumentenwaarborgen.

De banken willen daarom met beleidsmakers afspraken bespreken over het melden van AI-betrokkenheid bij transacties, meer inzicht in de besluitvorming en betere bescherming van klantgegevens. Ook moeten consumenten en handelaren hun diensten kunnen kiezen en verschillende AI-systemen met elkaar kunnen samenwerken.