Actualités, Droit, France, Justice, Médias, Numérique, social

Trois questions à un « nettoyeur » du Net

Il arrive que des commentaires, sur Facebook, des sites internet ou sur certains forums, disparaissent mystérieusement de la surface du web. Mystérieusement ? Pas vraiment. Jérémie Mani, président de l’entreprise Nétino qui gère les sites et pages de nombreux organes de presse, nous ouvre les portes du monde merveilleux de la modération de commentaires.

Tweet about this on TwitterShare on FacebookEmail this to someone

Selon le dernier rapport de SOS Homophobie, les propos homophobes sur Internet auraient baissé, passant de 40% à 20% du total des propos et agressions homophobes enregistrés par les associations et forces de l’ordre.

Les insultes envers les homosexuels ou les transexuels ne représentent qu’une frange d’un univers de haine 2.0, peuplés de trolls et de fachos. Cox s’est penchés sur ceux qui, jour après jour, nettoient Internet des commentaires racistes, sexistes, homophobes, discriminatoires, ou juste très très méchants.

Jérémie Mani, président de Netino, l’entreprise qui modère les commentaires du Monde.fr, 20minutes.fr, BFMTV, Elle, Canal + et même Gulli, nous explique le fonctionnement de la modération.

Comment fonctionne une équipe de modérateurs ?

Une dizaine ou quinzaine de personnes travaillent sur les plus grands médias. Pour les plus petits, une seule personne peut suffire. Tout est cadré dans une charte, un document rédigé avec le média, qui décrit les consignes et les exigences en matière de modération. Les demandes sont assez similaires et généralistes : pas de racisme, pas de vulgarité…

En général, il est assez facile de distinguer un commentaire haineux d’un commentaire non offensant. Quand un modérateur découvre un propos ambigu, s’il n’arrive pas à décider, il peut le montrer à son superviseur, qui émettra un avis. Et si le superviseur est aussi indécis, c’est qu’on fait face à un cas nouveau. On contacte alors le média concerné pour qu’il décide lui-même, et on intègre ce nouveau cas à la charte de modération.

La frontière est parfois assez fine. Tous les médias proscrivent les insultes, mais l’expression « t’as pas de cul » (tu n’as pas de chance) est-elle vulgaire ou pas ? Tout dépend des personnes à qui on s’adresse, du contexte… D’où notre utilité.

Avec quels outils travaillez-vous ?

Nous utilisons un outil numérique que nous avons développé nous-mêmes : Moderatus. Il permet de prioriser les commentaires en fonction de leur potentiel de risque, et de modérer automatiquement certains contenus. Un ensemble de critères nous permettent de déterminer les messages qui ont le plus de chances d’être supprimés par nos équipes : le thème de l’article, les mots utilisés dans le commentaire, et le profil de l’individu.

Sur Facebook, où la modération arrive après la publication du commentaire, cela permet de traiter les contributions par potentiel de risque et pas dans l’ordre d’arrivée.

Nous utilisons aussi une « blacklist » de mots qui provoquent une modération automatique. Parmi eux, il y a évidemment des termes insultants comme « pédé, bougnoule, pétasse ». Le système est automatique, donc imparfait. Mais comme dans 99,9% des cas, les mots sont utilisés à des fins agressives, on ne prend pas de risque.

Avez-vous remarqué la baisse des propos homophobes sur Internet décrite par le rapport de SOS Homophobie ?

Tout dépend de la période dont on parle. En 2013-2014, le mariage pour tous était un thème d’actualité fort. Il a engendré énormément de propos homophobes. Forcément – et heureusement ! – il y en a moins depuis. Mais c’est parce qu’on en parle moins. Il faudrait étudier sur une période plus longue.

La tendance qu’on observe en ce moment, ce sont surtout les propos racistes depuis août-septembre 2015, vis à vis des réfugiés. On voit aussi beaucoup d’amalgames et de propos anti-musulmans. Le moindre prénom à consonance maghrébine peut se faire traiter de terroriste, de djihadiste… Et il y a toujours les « grands classiques » intemporels : propos haineux, homophobes, sexistes.

Mais tout ça, c’est une minorité de commentaires. On s’en souvient car ils choquent, mais dans l’écrasante majorité des cas, les internautes s’expriment de façon tout à fait correcte. Nous, nous nous assurons juste que les gens qui veulent dialoguer sur les réseaux sociaux puissent le faire dans un espace sain et de dialogue.

Tweet about this on TwitterShare on FacebookEmail this to someone