5 raisons de ne pas automatiser toute votre modération

Les outils de modération automatique sont doués de fonctions complexes.

Ils font gagner un temps précieux au modérateur (donc une économie pour vous) sans pour autant pouvoir se substituer à lui. Voici pourquoi.

Modération de contenus : une mission 24/24, 7 jours sur 7

Réguler les échanges, modérer les contenus générés par les utilisateurs sur les espaces de contribution tels que les sites, les forums, les blogs, les réseaux sociaux, les tchats est un métier exercé par des professionnels 24/24, 7 jours sur 7.

Le modérateur surveille les contenus publiés. Il est le garant de la qualité des discussions sur le web participatif. Il veille au respect des règles fixées par l’éditeur du site, protège le public de comportements éventuellement inappropriés, irrévérencieux, délictueux ou malsains.

Le modérateur peut être amené à effacer des contributions illégales, insultantes, trop publicitaires ou plus généralement contraires à la charte de modération.

Modération automatique intelligente : rêve ou réalité ?

Il peut être légitime d’imaginer une solution de filtrage entièrement automatisée.

L’objectif étant d’offrir aux clients la meilleure qualité de modération possible.

En effet, en volume, une part importante des flux peut être traitée automatiquement.
La modération automatique peut être intelligente (nous avons fait de grandes avancées en termes de programmation) mais la machine peut-elle se substituer totalement à l’homme ?

Rien n’est moins sûr (pour l’instant). Explications en 5 points.

Comme nous allons le démontrer la modération automatique simplifie le travail de la modération humaine mais elle a aussi ses limites.

#1 Analyses sémantiques : l’homme est irremplaçable

Attention, la modération automatique est douée : elle peut détecter ceux que l’on appelle les « haters » qui affichent leur haine de long en large, les « rabâcheurs » qui passent leur temps à râler sur tout et sur tout le monde et va traiter leurs messages.  Elle est en capacité de repérer les fautes d’orthographe et de les pondérer.

Mais la modération humaine est indéniablement plus efficace que la modération automatique face aux subtilités du langage. Lorsque les nuances sémantiques sont ambiguës ou confuses.

Des textes peuvent être jugés acceptables par la machine sans que les phrases aient un sens.

Comment des algorithmes pourraient-ils détecter l’ironie d’une tournure de phrase ? Impossible à l’heure actuelle.

A l’inverse, certains propos peuvent être passés automatiquement (et injustement) à la trappe.

En termes d’analyse sémantique, l’homme est irremplaçable.

 

#2 Les images illicites : rien ne vaut la vigilance humaine

L’analyse automatique des images ou des vidéos existe mais elle est peu avancée.

Les outils font un tri qui manque de finesse et de précision. Par exemple, l’outil est capable d’identifier les photos de personnes qui peuvent sembler dévêtues mais rien ne remplacera l’œil humain pour vérifier que ces photos sont bien dans la charte éditoriale du site.

Une vérification manuelle reste donc obligatoire pour compléter le travail du système de filtrage.

 

#3 Les processus d’escalade : qui mieux que l’homme est capable de les gérer

Question de rapidité de réaction. Mais pas seulement. Imaginez un outil paramétré sur un mot clé qui, dans les heures qui suivent, est utilisé en abondance dans les commentaires sur les réseaux.

Que fait la machine ? Elle alerte…sans discontinuer.

Encore une fois, l’intervention humaine est nécessaire pour réviser ce paramétrage, l’affiner et trouver, dans les meilleurs délais, une solution. Sous peine d’être parasité par des milliers d’alertes.

 

#4 Quoi qu’il arrive, rester maître de la relation client

L’homme est capable d’administrer un espace en live, de désamorcer, voire d’anticiper, une crise. Le système a bien sûr son rôle à jouer.

Prenons un exemple. Un prestataire de téléphonie mobile reçoit un flux croissant de contenus  Le support donne l’alerte. Cela peut signifier une panne importante au niveau national qui nécessite de prendre des mesures.

A ce stade avancé, l’homme reprend la main et supervise la relation avec ses clients.

 

#5 Le picking régulier obligatoire pour garantir la qualité de la modération

 Le modérateur peut contrôler une imperfection du système. Et corriger une erreur de paramétrage.

Seule l’intervention humaine peut garantir la fiabilité du système et modifier par exemple, le niveau d’automatisation et le paramétrage de l’outil.

 

#6 (bonus !) Attention aux contenus qui passent à la trappe !

En tant que modérateur, vous pouvez vous appuyer sur un outil de modération automatique qui est censé gérer 100% des contenus.

Néanmoins, l’intervention humaine reste nécessaire pour qualifier des contenus identifiés par les utilisateurs et considérés comme inappropriés.

En effet l’outil peut ignorer cette tentative de fraude ou ce propos choquant pour x raison, soit parce que le texte correspond à la charte de modération sur la forme mais pas sur le fond, ou simplement parce que le message n’utilise pas les mots clés paramétrés dans l’outil.

Dans ce cas, une personne doit s’occuper manuellement de ce contenu identifié par un ou plusieurs utilisateurs.

 

La preuve par l’exemple : modération du forum Au Féminin.com

Les forums sont parfois l’objet de pratiques frauduleuses.

Des utilisateurs peuvent essayer de vendre un produit, un service ou autre, de manière détournée. Une pratique difficile à cerner pour un outil mais qui peut être repérée et identifié  par un utilisateur ou détectée par un modérateur.

Le site au féminin.com, par exemple, interdit toute pratique commerciale – sauf accord – comme la charte de modération le précise. L’œil du modérateur est donc indispensable pour traquer toute pratique abusive !

L’homme et l’outil automatique se complètent parfaitement.

Un système mixte automatique/manuel est une solution digne de confiance.

Et pour vous, le moyen le plus efficace de diminuer le coût humain de la modération.