📖 Glossario della moderazione
Che cos'è una soglia di moderazione?
In breve
Una soglia di moderazione è il valore limite applicato al punteggio di confidenza di un modello che decide cosa succede a un contenuto: azione automatica sopra la soglia, esame umano o nessuna azione sotto.
Le soglie trasformano i punteggi in decisioni. Molti sistemi ne usano due: una alta, oltre la quale il contenuto viene nascosto automaticamente, e una più bassa che definisce la fascia di contenuti dubbi inviati a una persona.
Esempio: un brand per bambini imposta una soglia molto bassa per gli insulti, perché il suo pubblico è giovane e la sua tolleranza minima. Un sito di informazione politica ne imposta una più alta, perché il dibattito acceso fa parte della sua missione e non vuole rimuovere opinioni taglienti ma legittime.
Alzare una soglia riduce i falsi positivi ma aumenta i falsi negativi, e viceversa. Non esiste un valore giusto universale: dipende dal pubblico, dalla categoria di contenuto e dal costo di ogni tipo di errore. OpenModeration adatta la moderazione alle regole e ai casi d'uso di ciascun cliente e fa gestire la zona dubbia dal proprio team, mentre tu vedi ogni decisione in tempo reale.