📖 Lexique de la modération
Que fait un modérateur de contenu ?
En bref
Un modérateur de contenu est une personne qui examine les contenus publiés par les internautes (commentaires, posts, images) et décide s'ils respectent les règles d'un service et la loi, puis prend ou confirme la mesure appropriée.
Le modérateur applique la charte à des cas réels, souvent ambigus : plaisanterie ou menace, critique ou harcèlement, citation ou insulte ? Il lui faut du discernement, une bonne connaissance de la communauté et de la langue, et de la constance.
Le métier est exigeant. L'exposition à des contenus violents ou haineux pèse, et la pression des volumes mène à des erreurs. L'automatisation aide en lui retirant les cas évidents, pour qu'il consacre son temps aux décisions qui demandent du jugement.
Exemple : un média confie ses commentaires à OpenModeration. L'IA masque automatiquement les infractions claires, les quelques dizaines de cas douteux sont traités par l'équipe OpenModeration, et la rédaction n'a rien à faire : elle voit chaque décision et son motif en temps réel dans la console, et peut reprendre la main à tout moment. La modération peut aussi être entièrement externalisée.