📖 Glossário de moderação
O que é um falso positivo na moderação?
Em resumo
Na moderação, um falso positivo é um conteúdo legítimo identificado por engano como violação das regras e, por isso, ocultado, removido ou sinalizado quando deveria ter continuado visível.
Os falsos positivos são o lado visível do excesso de moderação. Um leitor que vê seu comentário razoável desaparecer se sente censurado e pode dizer isso em voz alta em outro lugar. Para um veículo de notícias ou um órgão público, remover críticas legítimas já é, por si só, um risco de reputação.
Exemplo: um filtro de palavras-chave bloqueia o comentário "o jogo em Scunthorpe foi ótimo" porque o nome da cidade contém uma sequência proibida. Outro clássico: um comentário que cita um insulto para condená-lo é removido como se fosse o próprio insulto.
Reduzir os falsos positivos significa usar modelos que leem o contexto, definir os limites com cuidado, enviar os casos duvidosos a pessoas e permitir que os usuários contestem as decisões. A OpenModeration mantém as críticas visíveis, só oculta automaticamente as violações claras e registra uma justificativa por escrito para cada decisão, para que os erros possam ser identificados e corrigidos.