📖 Lexique de la modération
Qu'est-ce qu'un faux positif en modération ?
En bref
En modération, un faux positif est un contenu légitime identifié à tort comme contraire aux règles, et donc masqué, supprimé ou signalé alors qu'il aurait dû rester visible.
Les faux positifs sont la face visible de la sur-modération. Un lecteur qui voit disparaître son commentaire raisonnable se sent censuré, et peut le faire savoir bruyamment ailleurs. Pour un média ou un organisme public, supprimer une critique légitime est en soi un risque pour la réputation.
Exemple : un filtre à mots-clés bloque un commentaire sur la ville de « Montcuq » parce que le nom contient une chaîne interdite. Autre classique : un commentaire qui cite une insulte pour la dénoncer est supprimé comme s'il en était l'auteur.
Réduire les faux positifs suppose des modèles qui lisent le contexte, des seuils réglés avec soin, des cas douteux confiés à des personnes et la possibilité de contester une décision. OpenModeration laisse la critique visible, ne masque automatiquement que les infractions claires et enregistre un motif écrit pour chaque décision, ce qui permet de repérer et corriger les erreurs.