Băncile trag un semnal de alarmă: Agenții AI pentru cumpărături online expun clienții la fraude și înșelăciuni

În ultimii ani, giganții tehnologici din domeniul inteligenței artificiale, precum OpenAI, Anthropic, Google sau Meta, promovează tot mai intens utilizarea chatboților AI ca instrumente de cumpărături. Companiile preconizează folosirea pe scară largă de către cumpărători a agenților AI pentru a selecta produse și a face achiziții în numele lor. În paralel însă, retailerii caută soluții prin care să poată influența recomandările chatboților.

Planurile dau rezultate – retailerul britanic John Lewis a anunțat în septembrie că volumul căutărilor de produse provenite de la agenți AI a crescut la 2,5% de la 0,3% cu un an în urmă, tendința fiind în accelerare.

Clienții vor, dar îngrijorările persistă

Un grup de bănci, care reunește Bank of America, NatWest, ING, ASB Bank din Noua Zeelandă, creditorul american Capital One și Commonwealth Bank of Australia, a confirmat într-un raport recent că tot mai mulți clienți sunt entuziasmați de potențialul comerțului bazat pe agenți AI și dornici să îl activeze.

Cu toate acestea, instituțiile financiare au avertizat că tehnologia avansează mai rapid decât standardele industriei și protecția consumatorilor. „Consumatorii nu sunt siguri dacă AI va acționa în interesul lor”, se arată în raport.

Conform sursei citate, consumatorii sunt îngrijorați de faptul că agenții AI ar putea achiziționa produse greșite sau ar putea cheltui prea mult. Sau, și mai rău, ar putea pierde banii clienților pe care îi deservesc în înșelătorii și fraude. „Consumatorii nu sunt siguri dacă vor fi protejați sau la cine vor trebui să apeleze dacă lucrurile merg prost”, se mai arată în documentul citat.

Condiții pentru asigurarea siguranței

Raportul a evidențiat o gamă largă de riscuri. Acestea includ posibilitatea ca agenții AI să solicite datele cardurilor clienților și să le introducă direct pe site-uri web compromise. Un alt risc analizat este cel al îndrumării utilizatorilor către metode de plată care oferă protecții mai slabe.

Băncile care fac parte din grup intenționează să discute o serie de propuneri cu decidenții politici. Printre acestea se numără:

• impunerea obligației de informare atunci când un agent AI este implicat într-o tranzacție.
• o mai mare transparență cu privire la modul în care agenții AI iau decizii.
• garanții pentru a proteja datele clienților.

Consumatorii și comercianții ar trebui, de asemenea, să fie liberi să aleagă ce servicii de comerț electronic bazate pe AI folosesc, în timp ce diferite sisteme ar trebui să fie interoperabile, a mai menționat raportul, citat de Reuters.