📖 Lexique de la modération
Qu'est-ce que la modération automatique ?
En bref
La modération automatique est l'utilisation d'un logiciel (listes de mots, règles, apprentissage automatique ou modèles de langage) pour analyser les contenus des internautes et prendre ou proposer une décision de modération sans qu'une personne examine chaque contenu.
La forme la plus ancienne est la liste de mots interdits : tout commentaire contenant un terme banni est bloqué. C'est simple mais grossier : on laisse passer les insultes écrites avec des fautes volontaires et on bloque des phrases innocentes qui contiennent par hasard un mot de la liste. Les systèmes actuels utilisent des modèles d'IA qui lisent la phrase entière et son contexte.
Exemple : une chaîne YouTube reçoit des milliers de commentaires par vidéo. Un système automatique masque en quelques secondes les liens de spam et les insultes évidentes, et le community manager ne regarde que les quelques dizaines de commentaires sur lesquels le système hésite.
L'automatisation apporte vitesse et cohérence, mais elle se trompe (faux positifs et faux négatifs), et le DSA impose d'indiquer quand des moyens automatisés ont été utilisés pour une décision (article 17). La bonne pratique : automatiser les cas clairs, envoyer les cas douteux à des personnes, et garder un motif pour chaque décision.
OpenModeration automatise la modération selon les règles de chaque client, masque automatiquement les infractions claires, laisse la critique visible et fait traiter les cas douteux par sa propre équipe. Vous voyez chaque décision et son motif en temps réel et pouvez intervenir à tout moment.