La dépendance croissante des banques aux chatbots pour gérer les tâches de service client inquiète le chien de garde des consommateurs

NEW YORK (AP) – Pouvez-vous faire confiance à Erica, Sandi ou Amy pour contrôler de plus en plus certaines parties de votre vie financière sans vous donner d'informations inexactes ou envoyer de l'argent au mauvais endroit ?

C'est ce que demande le Bureau de la protection financière des consommateurs dans un rapport publié mardi, dans lequel le bureau énonce un certain nombre de préoccupations concernant l'utilisation croissante des chatbots par les banques pour traiter les demandes de service client de routine.

Le CFPB craint que les banques ou les sociétés de services de prêt ne réduisent le nombre d'employés humains du service client et ne confient un nombre croissant de tâches de routine à l'IA. De plus, le régulateur affirme que des chatbots mal conçus pourraient enfreindre les lois fédérales qui régissent la manière dont les dettes sont recouvrées ou la manière dont les informations personnelles sont utilisées.

"Si les entreprises déploient mal ces services, il y a beaucoup de risques de préjudice généralisé pour les clients", a déclaré Rohit Chopra, directeur du CFPB, dans une interview à l'Associated Press.

Depuis plusieurs années, les banques traitent de plus en plus de demandes de service client avec des chatbots, souvent avec des noms à consonance féminine comme Sandi pour Santander, Amy de HSBC, ou Eno chez Capital One.

Bank of America gère le chatbot financier le plus important et le plus performant sous la marque Erica. Erica - les cinq dernières lettres en Amérique - gère désormais des centaines de millions de demandes par an des clients de BofA.

Au départ, les chatbots bancaires étaient utilisés pour les demandes de base, comme changer l'adresse ou le numéro de téléphone d'un client, ou indiquer à un client où se trouve la succursale la plus proche ou quel pourrait être le numéro d'acheminement sur son compte. Mais comme les banques ont investi des millions dans ces services, les chatbots sont devenus particulièrement sophistiqués, capables de comprendre des phrases complètes ou même d'aider un client à déplacer de l'argent ou à payer une facture.

Le CFPB estime qu'environ quatre Américains sur 10 ont interagi avec un chatbot bancaire l'année dernière, un chiffre qu'ils prévoient d'augmenter.

Les banques se préparent à déployer des services encore plus avancés de type IA. JPMorgan Chase développerait des plans pour utiliser ChatGPT et l'intelligence artificielle pour aider les clients à choisir les investissements appropriés. Les banquiers de Bank of America peuvent utiliser Erica pour créer des profils de clients et éventuellement recommander des produits à ces clients.

Bien que ces services puissent faire gagner aux clients des minutes ou des heures d'attente pour joindre un humain pour poser une question de routine, l'agence se demande si ces chatbots seront capables de gérer les nuances et la nature compliquée des lois sur la protection des consommateurs sans donner aux clients des informations inexactes.

"Il existe des lois fédérales qui donnent aux clients des droits en matière de dettes ou de contestation d'une transaction, et si des agents du service client sont remplacés par des chatbots, cela peut poser des problèmes si ce logiciel leur donne des informations inexactes", a déclaré Chopra.

Le bureau a également constaté que les clients plus âgés ou dont la langue principale n'est pas l'anglais peuvent se retrouver dans une "boucle" de service client et incapables de joindre un agent humain.

« Maintes et maintes fois, nous avons trouvé des plaintes de clients bloqués dans des disputes circulaires avec un robot ou obtenant des informations erronées », a-t-il déclaré.

Chopra, à la fois dans son rôle actuel de directeur du CFPB et auparavant en tant que commissaire à la Federal Trade Commission, a soulevé à plusieurs reprises des inquiétudes quant au fait que les banques et les entreprises pourraient violer les lois sur la consommation si elles implémentaient mal des algorithmes ou des logiciels d'intelligence artificielle. Il y a eu de nombreux rapports de chatbots de Microsoft, Google et d'autres entreprises qui ont utilisé un langage biaisé lorsqu'ils y sont invités.