📖 Glossario della moderazione
Che cos'è un falso positivo nella moderazione?
In breve
Nella moderazione, un falso positivo è un contenuto legittimo identificato per errore come contrario alle regole e quindi nascosto, rimosso o segnalato quando avrebbe dovuto restare visibile.
I falsi positivi sono il lato visibile dell'eccesso di moderazione. Un lettore che vede sparire il proprio commento ragionevole si sente censurato, e potrebbe dirlo ad alta voce altrove. Per un editore di notizie o un ente pubblico, rimuovere una critica legittima è di per sé un rischio reputazionale.
Esempio: un filtro per parole chiave blocca il commento “la partita dello Scunthorpe è stata bellissima” perché il nome della città contiene una sequenza vietata. Un altro classico: un commento che cita un insulto per condannarlo viene rimosso come se fosse l'insulto stesso.
Ridurre i falsi positivi significa usare modelli che leggono il contesto, impostare le soglie con cura, inviare i casi dubbi alle persone e permettere agli utenti di contestare le decisioni. OpenModeration mantiene visibile la critica, nasconde automaticamente solo le violazioni evidenti e registra una motivazione scritta per ogni decisione, così gli errori possono essere individuati e corretti.