📖 Lexique de la modération
Qu'est-ce qu'un faux négatif en modération ?
En bref
En modération, un faux négatif est un contenu qui enfreint les règles mais n'est pas détecté, et reste donc visible alors qu'il aurait dû être masqué ou supprimé.
Les faux négatifs sont les ratés d'un système de modération : l'insulte écrite avec des chiffres à la place des lettres, le lien frauduleux caché derrière un raccourcisseur d'URL, le harcèlement qui ne se comprend qu'à la lumière des dix commentaires précédents.
Exemple : sous un post de jeu-concours d'une marque, un faux compte reprenant son nom répond à chaque participant « vous avez gagné, réclamez votre lot ici ». Si la modération le laisse passer, des clients risquent de donner leurs coordonnées bancaires à un fraudeur.
Il y a toujours un arbitrage entre faux négatifs et faux positifs : un seuil plus strict attrape plus d'abus mais supprime plus de contenus légitimes. Le bon équilibre dépend du public et du risque, d'où l'intérêt de régler la modération par client et par cas d'usage, comme le fait OpenModeration.