📖 Lexique de la modération
Qu'est-ce qu'un seuil de modération ?
En bref
Un seuil de modération est la valeur limite appliquée au score de confiance d'un modèle qui détermine le sort d'un contenu : action automatique au-dessus, revue humaine ou aucune action en dessous.
Les seuils transforment des scores en décisions. Beaucoup de systèmes en utilisent deux : un seuil haut au-dessus duquel le contenu est masqué automatiquement, et un seuil plus bas qui délimite la zone des contenus douteux envoyés à une personne.
Exemple : une marque de jouets fixe un seuil très bas pour les insultes, parce que son public est jeune et sa tolérance minimale. Un site d'actualité politique fixe un seuil plus élevé, parce que le débat vif fait partie de sa raison d'être et qu'il ne veut pas supprimer des opinions tranchées mais légitimes.
Relever un seuil réduit les faux positifs mais augmente les faux négatifs, et inversement. Il n'existe pas de bonne valeur universelle : tout dépend du public, de la catégorie de contenu et du coût de chaque type d'erreur. OpenModeration adapte la modération aux règles et aux cas d'usage de chaque client et fait traiter la zone de doute par sa propre équipe, pendant que vous voyez chaque décision en temps réel.