📖 Glossario della moderazione
Che cos'è la moderazione human-in-the-loop?
In breve
Human-in-the-loop (HITL) indica un sistema automatico in cui una persona esamina, conferma o corregge alcune decisioni della macchina, di solito quelle incerte, delicate o contestate.
Nella moderazione, human-in-the-loop significa che l'IA non ha l'ultima parola su tutto. I casi sotto una soglia di confidenza, o in categorie delicate come minacce o autolesionismo, vengono inviati a una persona, che vede il contenuto, il suo contesto e il motivo per cui il sistema lo ha segnalato.
Esempio: un commento dice che un politico va “fatto fuori” alle prossime elezioni. Un sistema basato su parole chiave potrebbe leggervi una minaccia; una persona capisce subito la figura retorica e lo lascia visibile.
L'esame umano conta anche sul piano legale e reputazionale. Il Regolamento sui servizi digitali impone alle piattaforme online di gestire i reclami contro le decisioni di moderazione sotto la supervisione di personale adeguatamente qualificato, non solo con mezzi automatizzati (articolo 20). In OpenModeration, i casi dubbi e le decisioni contestate sono esaminati dal nostro team, e tu vedi ogni decisione in tempo reale in un'unica console.