📖 Lexique de la modération
Qu'est-ce que la modération hybride ?
En bref
La modération hybride est un modèle dans lequel un logiciel traite automatiquement les contenus sans ambiguïté et des personnes examinent les cas ambigus ou sensibles, pour que chaque décision soit prise par celui qui est le mieux placé pour la prendre.
Une modération uniquement humaine ne tient pas les volumes, et une modération uniquement automatique se trompe sur l'ironie, les citations, l'argot et le contexte. La modération hybride répartit le travail : la machine gère le volume et la vitesse, l'humain gère la nuance et la responsabilité.
Exemple : sous le post d'une marque annonçant une hausse de prix, l'IA masque aussitôt les insultes évidentes et le spam, laisse visibles les plaintes vives mais légitimes, et envoie à un modérateur un commentaire qui pourrait être une menace voilée. Celui-ci tranche en quelques secondes, avec tout le contexte.
Pour les médias, les marques et les organismes publics, c'est la façon d'être à la fois rapide et juste. Ce modèle correspond aussi au DSA, qui prévoit que les réclamations contre les décisions des plateformes en ligne soient traitées sous le contrôle d'un personnel qualifié et pas uniquement par des moyens automatisés (article 20).
OpenModeration repose sur ce modèle : les infractions claires sont masquées automatiquement, la critique reste visible et les cas douteux sont traités par l'équipe OpenModeration. Vous voyez chaque décision en temps réel dans une console et pouvez la modifier quand vous le voulez.