Un algorithme trace un portrait-robot des trolls pour mieux les contrer

Une équipe de chercheurs a mis au point une méthode permettant de repérer facilement les fauteurs de troubles dans les débats en ligne.

Agressifs, sophistes et dotés d'une syntaxe souvent approximative, les fameux "trolls" sont bien connus des internautes. Très habiles pour transformer une discussion constructive en pugilat verbal et faire fuir les autres participants, ils sont une vraie plaie pour de nombreux sites d'information, blogs et autres plateformes de discussions en ligne, forcés de déployer des efforts humains considérables pour limiter leur capacité de nuisance. Certains, comme le site Popular Science, ont même opté pour la suppression pure et simple des commentaires pour évacuer le problème. Les autres se reposent sur les fameux modérateurs, dont une étude tout juste publiée par les universités de Stanford et Cornell pourrait bien simplifier l'existence. Elle propose une méthode pour détecter avec une grande fiabilité les utilisateurs qui finiront par être bannis, les Future Banned Users, par opposition aux Never Banned Users, internautes se comportant décemment. "Nous souhaitions ainsi aider les modérateurs dans leur travail d'une part, et comprendre ce qui pousse certains internautes à se comporter de cette manière d'autre part", explique Cristian Danescu-Niculescu-Mizil, professeur de sciences de l'information à l'université de Cornell.

L’analyse de données permet de repérer en amont les internautes nuisibles à la communauté.

Débusquer les trolls avec 80% de fiabilité

18 mois durant, les chercheurs ont épluché les données issues de 40 millions de commentaires postés par 1,7 million d’internautes sur trois grands sites américains : CNN, Breitbart, site d'opinion politique, et le site de jeux vidéos ign.com. Ce travail au long cours leur a permis d'identifier quelques caractéristiques des Future Banned Users, ou trolls potentiels. Ils se démarquent d'abord par le langage. Grammaire et orthographe fantaisiste, qui les rendent plus difficilement compréhensibles que leurs homologues, et propos vulgaires ou injurieux constituent souvent leur marque de fabrique. Les trolls se positionnent aussi différemment dans la discussion. Là où les utilisateurs normaux ont tendance à poster des considérations d'ordre général, les trolls se focalisent sur un ou plusieurs internautes que leurs propos ciblent directement : ils cherchent la confrontation. Fort de ce constat, l'étude d'une petite dizaine de commentaires postés par un utilisateur "permet de déterminer avec une probabilité de 80% s'il va finir par être banni ou non", affirme Cristian.

Un modérateur trop rigoureux peut stimuler les comportements indésirables au lieu de les calmer.

Trop de modération tue la modération

Une découverte qui pourrait limiter les capacités de nuisances des trolls sur l’internet, sans toutefois s'affranchir du rôle joué par les modérateurs : "Nous espérons que notre trouvaille permettra d'élaborer un système permettant aux modérateurs de cibler rapidement les trouble-fête. Toutefois, comme notre système n'est pas fiable à 100% et qu'il ne le sera probablement jamais, nous ne souhaitons pas remplacer complètement l'intervention humaine, simplement la rendre plus réactive et efficace", développe Cristian. Néanmoins, la répression n'est pas toujours la meilleure solution. "Nous avons également constaté que de nombreux utilisateurs qui ont au départ une mauvaise attitude finissent par intégrer progressivement les normes de la communauté, et par se comporter de manière courtoise et constructive. Or, nous avons également remarqué que ceux qui sont sévèrement sanctionnés ont moins de chance d'évoluer positivement que ceux qui ne le sont pas !" Il est donc important que le travail de modération intègre cette donnée et laisse aux trolls une chance de se rattraper, les brimer d'emblée pouvant les braquer et les pousser plus loin dans leur attitude conflictuelle.