📖 Glossário de moderação
O que é um falso negativo na moderação?
Em resumo
Na moderação, um falso negativo é um conteúdo que viola as regras, mas não é detectado, e por isso continua visível quando deveria ter sido ocultado ou removido.
Os falsos negativos são as falhas de um sistema de moderação: o insulto escrito com números no lugar das letras, o link de golpe escondido atrás de um encurtador de URL, o assédio que só faz sentido para quem leu os dez comentários anteriores.
Exemplo: sob o post de sorteio de uma marca, uma conta falsa que copia o nome da marca responde a cada participante com "você ganhou, resgate seu prêmio aqui". Se a moderação deixar passar, os clientes podem entregar seus dados bancários a um fraudador.
Sempre há um equilíbrio entre falsos negativos e falsos positivos: um limite mais rigoroso detecta mais abusos, mas remove mais conteúdo legítimo. O equilíbrio certo depende do público e do risco, e é por isso que as regras de moderação devem ser definidas por cliente e por caso de uso, como faz a OpenModeration.