📖 Glossário de moderação
O que é moderação automatizada?
Em resumo
Moderação automatizada é o uso de software (filtros de palavras-chave, regras, aprendizado de máquina ou modelos de linguagem) para analisar o conteúdo dos usuários e tomar ou propor uma decisão de moderação sem que uma pessoa analise cada item.
A forma mais antiga de moderação automatizada é a lista de palavras-chave: qualquer comentário que contenha uma palavra proibida é bloqueado. É simples, mas grosseira, porque deixa passar insultos escritos com truques de grafia e bloqueia frases inocentes que por acaso contêm uma palavra da lista. Os sistemas modernos usam modelos de IA que leem a frase inteira e seu contexto.
Exemplo: um canal do YouTube recebe milhares de comentários por vídeo. Um sistema automatizado oculta links de spam e insultos claros em segundos, e o community manager só olha as poucas dezenas de comentários sobre os quais o sistema tem dúvida.
A automação traz velocidade e consistência, mas comete erros (falsos positivos e falsos negativos), e o Regulamento dos Serviços Digitais (DSA) exige que os prestadores informem quando meios automatizados foram usados em uma decisão (artigo 17). A boa prática é automatizar os casos claros, enviar os duvidosos a pessoas e registrar uma justificativa para cada decisão.
A OpenModeration automatiza a moderação de acordo com as regras de cada cliente, oculta automaticamente as violações claras, mantém as críticas visíveis e faz com que os casos duvidosos sejam tratados pela sua própria equipe. Você vê cada decisão e sua justificativa em tempo real e pode intervir a qualquer momento.