Le futur fléau des faux avis formulés par des robots
Qu’il s’agisse de publier de faux avis positifs pour améliorer sa e-réputation ou négatifs pour entacher celle de concurrents, la prolifération sur Internet de « recommandations clients » fabriquées de toutes pièces est un fléau. Mais il était jusque-là limité par son coût : il fallait payer des humains pour rédiger ces avis. C’est pourquoi l’étude que viennent de publier des chercheurs de l’université de Chicago est alarmante : ils sont parvenus à créer un deep-learning neural network, ou réseau neuronal profond, capable de rédiger des « avis clients » particulièrement convaincants (lire aussi notre Tendance : « Comment l’IA s’immisce dans le parcours d’achat »).
De faux avis quasi indétectables
Pour alimenter leur intelligence artificielle, les chercheurs ont puisé dans les milliers d’avis postés quotidiennement sur la plateforme de recommandation en ligne Yelp. Résultat : les avis générés par leur robot seraient presque indétectables par les outils d’analyse sémantique déployés par des sites comme Amazon, qui font la chasse aux faux avis.
Pire, ces avis virtuels s’avéreraient plus crédibles que ceux rédigés par des humains ! Les chercheurs ont en effet recruté 40 personnes à qui ils ont soumis des centaines de critiques de restaurants, en leur demandant de juger de leur pertinence et de distinguer les vrais avis des faux. Non seulement les testeurs ont été incapables de discerner les faux avis rédigés par l’IA, mais ils leur ont également attribué de meilleurs scores, les jugeant plus utiles.
La confiance des consommateurs ébranlée
Selon les chercheurs, la menace s’étend bien au-delà d’un tas de fausses critiques sur Yelp ou Amazon : « C’est un danger fondamental pour la société, explique Ben Y. Zhao, l’un des auteurs de l’étude, à Business Insider. Cela pourrait ébranler la confiance des consommateurs, et notre croyance en ce qui est réel et ce qui ne l’est pas ».
« Ce phénomène naissant illustre une nouvelle fois la nécessité, pour les business se basant sur des avis clients, de se doter d’un processus de vérification rigoureux », écrit l’Usine Digitale. Précisément ce qui doit être défini par la nouvelle norme internationale ISO 20488, en cours d’élaboration…
Repéré sur : L’Usine Digitale
PLUS DE TENDANCES
Citroën Co-Expérience : quand les clients se font vendeurs
L’adage qui veut que les clients soient les meilleurs ambassadeurs d’une marque est pris très au sérieux par Citroën. Après avoir conçu la plateforme « Citroën Advisor », qui recueille les avis des clients sur les produits de la marque aux chevrons, le constructeur automobile français vient de lancer un service d’essais de véhicules entre particuliers. Baptisée « Citroën Co-Expérience », l’initiative permet à Citroën de « défricher une nouvelle manière d’établir un contact physique avec sa clientèle potentielle, dans un lieu autre que la concession traditionnelle », comme l’explique BFM Business.
