Education, prévention et modération peuvent-elles aller de pair ?

Netino by Webhelp est reconnu pour son expertise en modération de contenus, mais on souhaite aller plus loin ! La modération est devenue nécessaire pour protéger chaque internaute. Mais pourquoi est-on en danger face aux contenus d’autres utilisateurs ? Peut-on prévenir plutôt que guérir ?

Cette semaine nous avons posé quelques questions en ce sens à Cédric, notre Head of Content Management & Modération.

De nos jours, le cyberharcèlement et la haine en ligne sont malheureusement des sujets récurrents que l’on voit passer dans nos actualités. Mais d’après-toi, existe-il une réelle augmentation de ce phénomène sur la dernière année ? 

En 2022, les 53 millions d’utilisateurs français des réseaux sociaux passaient en moyenne 1h46 par jour sur ceux-ci et en utilisaient 5 différents par mois. Si l’on aborde cette question sous l’angle probabiliste, on pourrait être tenté de dire que plus un individu passe de temps en ligne sur les réseaux sociaux, plus il multiplie les interactions avec d’autres internautes et plus il partage de contenus personnels, alors plus il augmente mécaniquement les risques d’être la cible de cyber-harcèlement. 

Une étude très intéressante de 2021 réalisée par l’association e-Enfance faisait état de 20% des jeunes ayant déjà été confrontés à du cyberharcèlement. Si l’on considère qu’une classe de Terminale compte en moyenne 30 élèves, cela signifie que 6 d’entre eux ont déjà été harcelés, à des degrés divers, sur Internet. Par rapport aux années précédentes, ce pourcentage a augmenté, notamment chez les 15-17 ans.  

La modération est donc aujourd’hui une pratique courante sur les médias sociaux, mais sait-on à quel moment elle rentre concrètement en vigueur ? 

Du point de vue d’un grand nombre d’utilisateurs, les règles de modération des principaux réseaux sociaux demeurent floues et les protocoles de signalement d’abus peuvent laisser l’impression qu’ils sont inefficaces. Les degrés de sévérité de la modération peuvent également varier d’une plateforme à l’autre, ce qui est une source supplémentaire d’incompréhension sur « ce qui est permis et ce qui ne l’est pas » sur Internet.

Hormis pour les règles qui peuvent leur être propres (par exemple sur la nudité dans les œuvres d’art), les plateformes interviennent essentiellement lors d’infractions graves à la législation du pays ou lorsque les signalements effectués par la communauté sont nombreux et concentrés sur un laps de temps assez court.

Les plateformes sont potentiellement davantage démunies face à des problématiques comme le harcèlement insidieux et étalé dans le temps, le dénigrement formulé dans un registre langagier sarcastique, non-ordurier, etc.

Penses-tu qu’il serait possible d’éduquer les internautes sur ces sujets ? Comme des cours dans les écoles comme il existe des cours d’éducation civique. 

Vu l’importance des réseaux sociaux et messageries dans le quotidien des jeunes, il devient difficile de ne pas aborder le sujet dans le contexte des salles de cours. 89% des 15-21 ans utilisent Instagram et 63% des 16-24 consultent Tiktok quotidiennement. Cela n’a rien d’une habitude marginale, concrètement, tous les élèves sont concernés par le sujet. 

Les initiatives dans les établissements se multiplient, même s’il s’agit souvent d’évènements très ponctuels réalisés par des intervenants externes ou des parenthèses effectuées lors des cours par les professeurs.
Les collèges et lycées n’ont bien sûr pas pour vocation de remplacer leurs enseignements fondamentaux par des tutoriaux sur le bon usage des médias sociaux. Toutefois, des ateliers réguliers, par exemple trimestriels, peuvent être pertinents dans la perspective de responsabiliser sur les usages, informer sur les risques juridiques encourus en cas d’infraction mais aussi aider à construire l’esprit critique des élèves face à la fiabilité des contenus consultés en ligne. 

Car sur ce dernier point, je citerai le très interpellant baromètre Kantar 2021 dans lequel 46% des jeunes affirmaient considérer Tiktok comme une source d’information à part entière…

Généralement, nous avons l’impression que ce sont les plus jeunes qui subissent ces agressions virtuelles, comment pourrait-on donc mieux les préparer à l’utilisation des réseaux ? 

Selon moi, la réponse à cette question est en deux volets.

Premièrement, la prévention. Notamment vis-à-vis des comportements mettant à risque les adolescents : partage d’informations personnelles, multiplication des photos et vidéos les mettant en scène, mauvais réglages des paramètres de confidentialité,…

Au moment de poster un contenu, l’utilisateur (quel que soit son âge, d’ailleurs) se devrait de passer en revue une sorte de checklist mentale. Ai-je envie que mes photos et vidéos de moi soient potentiellement vues par des centaines de milliers d’inconnus ? Que celles-ci soient enregistrées et conservées durant des années par des individus aux intentions douteuses, même si je les supprime entre temps ? Ce que je montre ou dis aujourd’hui, aurai-je toujours envie de le montrer ou de le dire dans 10 ans ?  

Deuxièmement, les sanctions et leur graduation. Un des principes de l’éducation est que l’apprentissage passe par la répétition. Supprimer le compte d’un utilisateur d’une plateforme sociale est souvent une réponse tardive à un comportement grave qui est la conséquence d’une dérive plus ou moins longue. Qui plus est, le bannissement définitif d’un compte n’a généralement pour effet que d’inciter l’internaute à se re-créer un nouvel alias dans la foulée. A l’inverse, les avertissements et micro-sanctions (mute ou ban pour des durées courtes, de quelques heures à quelques jours, assorti d’une explication qui ne soit pas générique) peuvent avoir des effets vertueux si et seulement si ceux-ci sont réactifs et systématisés dès les premiers dérapages. Leur application ponctuelle est, elle aussi, dénuée d’effets positifs. Ce ne sont dans le fond que l’extension de pratiques assez répandues sur les espaces de type Chat, lorsque ceux-ci sont modérés correctement. 

Le challenge dans le cas de médias sociaux réside bien sûr dans le volume considérable de contributions à vérifier. Seule une modération assistée par l’Intelligence Artificielle peut scanner l’intégralité des contenus et réagir sous quelques secondes pour décider et appliquer une mesure pédagogique proportionnelle à l’infraction. L’être humain conserve bien sûr toute sa place dans un tel dispositif, notamment pour les activités de post-tracking, en vérifiant les verdicts donnés par la machine, en les affinant et en enrichissant ainsi les modèles d’IA. Une approche de modération mixte humain/machine, où l’humain passe en revue les contenus identifiés comme « à risque » par l’IA, a également du sens dans une perspective plus qualitative et individualisée de la modération. 

Les pouvoirs publics essaient généralement de légiférer sur ces sujets, mais est-ce vraiment le seul moyen qui existe, et est-ce que cela parle aux gens de manière générale ?

Le futur DSA (Digital Services Act) européen qui devrait rentrer en application en 2023 va dans le bon sens et devrait renforcer les initiatives nationales comme la loi Avia. Globalement, vu l’importance des médias sociaux en tant que nouvelles agora, la modération ne pourra plus être une brique secondaire lors de la construction d’un espace communataire, mais sera bien au cœur de la réflexion. 

Et, on tend à l’oublier, mais la cellule familiale joue également un rôle crucial dans la prévention des comportements à risques. La même étude e-Enfance évoquée plus haut relate que 83% des parents interrogés dans le panel reconnaissent ne pas savoir exactement quelle est l’activité de leur enfant sur les réseaux sociaux. Il est légitime d’attendre un certain encadrement de la part de l’Etat et de la part des plateformes, mais il convient également aux parents de ne pas se déresponsabiliser de ces missions d’éducation et de contrôle. Vouloir savoir où sort son adolescent de 14 ans n’a rien d’incongru. Il ne devrait donc pas l’être davantage de vouloir savoir quel usage il fait d’outils le connectant à des millions d’autres personnes. 

---

Si votre entreprise souhaite protéger ses communautés et ses espaces de communication, n’hésitez pas à nous contacter pour que l’on établisse ensemble comment la modération pourrait devenir votre fidèle alliée.