Une IA capable de rédiger des commentaires plus vrais que nature

 

Depuis l’essor d’Internet et des sites servant à comparer produits ou services, de nombreuses plateformes ont été créées afin de recueillir les avis des internautes sur, par exemple, de bons ou mauvais restaurants. Parmi elles, Yelp, qui se définit comme un site où l’on peut trouver des « avis d’utilisateurs et recommandations sur les meilleurs restaurants, magasins, divertissements, services ».

Sur ces plateformes dont le concept est basé sur le retour des clients et leur notation des diverses possibilités de services recherchés, les faux commentaires doivent être traqués afin de ne pas fausser le jugement. Mais une Intelligence Artificielle a réussi à passer au travers des filets.

Les chercheurs de l’Université de Chicago ont réussi à créer un réseau de neurones qui, en se basant sur une gigantesque base de commentaires rédigés par des humains, produit ses propres faux commentaires, positifs ou négatifs.

Les commentaires passent inaperçus auprès des modérateurs de Yelp et se fondent parmi les autres avis des internautes, encourageant ou dissuadant les personnes à venir dans un établissement ou un autre. Par exemple, voici un commentaire tout droit sorti de cette Intelligence Artificielle :

« C’est le pire service que j’aie jamais vu. Cet endroit est une blague. »

L’utilité ? Aucune si ce n’est de pointer du doigt ce problème que sont les faux avis qui sont pourtant déjà traqués activement par les plateformes comme Yelp ou TripAdvisor.

 

Déceler les faux avis des vrais ?

 

Bien que pouvant être confondus avec des paroles d’internautes, ces faux avis créés par des Intelligence Artificielles ne seraient pourtant pas parfaits. En effet, plus le commentaire est long et moins il a de chance d’avoir été rédigé grâce à un algorithme. Car bien souvent, on retrouve la même structure dans ces pièges : des phrases courtes avec des thèmes récurrents.

Cela laisse donc une possibilité pour traquer ces faux commentaires, autrement que par la main humaine qui peut ne pas déceler ce genre de détails. Des algorithmes relevant les anomalies pourraient bien être la solution. Traquer puis supprimer les faux avis deviendrait un jeu d’enfant si l’on pouvait distinguer des schémas typiques de faux commentaires et faire remonter tous ceux paraissant suspects.

Une nouvelle faille a donc été dévoilée mais cela offre de nouvelles possibilités à la détection d’anomalies, technologie émergente qui assure la protection de bien des systèmes. Et il se pourrait bien que mêmes les faux commentaires rédigés par les concurrents soient décelés grâce à cela.

Leave a Reply

Your email address will not be published. Required fields are marked *

You may use these HTML tags and attributes: <a href="" title=""> <abbr title=""> <acronym title=""> <b> <blockquote cite=""> <cite> <code> <del datetime=""> <em> <i> <q cite=""> <s> <strike> <strong>