📖 Glossário de moderação
O que é um limite de moderação?
Em resumo
Um limite de moderação é o valor de corte aplicado à pontuação de confiança de um modelo que decide o que acontece com um conteúdo: ação automática acima dele, revisão humana ou nenhuma ação abaixo dele.
Os limites transformam pontuações em decisões. Muitos sistemas usam dois: um alto, acima do qual o conteúdo é ocultado automaticamente, e um mais baixo, que define a faixa de conteúdo duvidoso enviada a uma pessoa.
Exemplo: uma marca infantil define um limite muito baixo para insultos, porque seu público é jovem e sua tolerância é mínima. Um site de notícias políticas define um limite mais alto, porque o debate acalorado faz parte da sua proposta e ele não quer remover opiniões duras, mas legítimas.
Aumentar um limite reduz os falsos positivos, mas aumenta os falsos negativos, e vice-versa. Não existe um valor certo universal: ele depende do público, da categoria de conteúdo e do custo de cada tipo de erro. A OpenModeration adapta a moderação às regras e aos casos de uso de cada cliente e faz com que a zona de dúvida seja tratada pela sua própria equipe, enquanto você vê cada decisão em tempo real.