La modération de contenu sur internet appelée à se généraliser

 

Vendredi 30 juin, les députés allemands ont adopté une loi majeure sur la lutte aux « fake news » et aux contenus haineux. A présent les propos jugés comme racistes, haineux, homophobes et les fausses informations devront être retirés par les entreprises comme Facebook et Twitter sous peine d’une amende pouvant atteindre 50 millions d’euros.

Tour de force pour Berlin qui affiche un message clair aux plateformes internet qui traineraient à prendre les mesures nécessaires. Cette tendance devrait s’étendre à ses voisins européens notamment au vu de la forte croissance de ces commentaires haineux (d’après une étude de Respect Zone). En France, les hébergeurs et réseaux sociaux doivent également supprimer « rapidement » les contenus qui leur sont reportés et considérés comme « manifestement illicites » mais les pénalités prévues restent peu significatives.

 

Facebook va recruter 3.000 modérateurs supplémentaires

 

Face à cette pression politique croissante, certaines entreprises comme Facebook ont investi massivement dans leurs moyens de modération. Mark Zuckerberg a annoncé le 3 mai le recrutement de 3.000 modérateurs supplémentaires pour lutter contre les propos haineux.

 

D’autres entreprises font appel à des modérateurs professionnels capables de contrôler, filtrer et modérer une quantité importante de contenus à tout moment de la journée. La modération est un métier à part entière qui demande une formation et une préparation sans lesquelles certains modérateurs pourraient ressentir un désarroi par rapport à leur tâche.

DeepText, l’intelligence artificielle au service de la modération d’Instagram

 

Instagram, détenu par Facebook, a décidé de lutter contre les propos haineux via son outil DeepText capable d’éliminer les spams et les contenus haineux automatiquement. C’est ici à l’utilisateur d’activer ou non le filtre qui sera dans un premier temps réservé aux commentaires en anglais.

« Beaucoup d’utilisateurs nous ont dit que les commentaires négatifs et agressifs les empêchaient de profiter pleinement d’Instagram et de s’exprimer librement », Kevin Systrom, co-fondateur d’Instagram.

 

C’est par ailleurs dans cet élan que les géants du web Facebook, Microsoft, Twitter et Google ont annoncé la création d’un forum internet pour lutter contre le terrorisme. Ce forum devrait permettre de mettre en commun leurs technologies et capacités opérationnelles afin de signaler et de supprimer au plus vite les contenus litigieux de leurs plateformes. Cette initiative s’inscrit dans le cadre d’une pression soutenue du Conseil de l’Europe et du gouvernement britannique pour une réglementation internationale commune du cyberespace afin de lutter contre le terrorisme.

D’après le quatuor, le forum « permettrait d’apprendre et de contribuer aux efforts de contre-discours et de discuter sur la façon d’améliorer l’autonomisation et la formation des organisations civiles ; et des personnes qui pourraient être engagées dans un travail similaire et soutenir les projets en cours tel que la Civil society empowerment project (CSEP) ».

La modération, un enjeu social

 

Plus que politique, la modération est aussi un enjeu social qui permet aux internautes une meilleure expérience sur de nombreux sites et réseaux sociaux. La cyberviolence présente sur internet et les réseaux sociaux peut avoir des conséquences graves et notamment pour les plus jeunes internautes qui sont les plus sensibles au harcèlement sur internet.

 

Ce coup de pression et cette insertion du législateur dans la modération des contenus du web peut alarmer les défenseurs de la liberté d’expression. Le risque d’abus de modération pourrait être perçu comme une censure 2.0 orchestrée par les géants du web et les professionnels de la modération. Pour éviter cet écueil la charte de modération doit être claire et transparente. Les modérateurs ont plutôt intérêt à laisser les pages aussi vivantes que possible pour générer de l’interaction et animer le débat sans qu’interviennent des propos hors-sujets ou haineux.