Moderação automática de comentários: como a IA decide
Automático não quer dizer às cegas. Veja o que acontece nos segundos depois que um comentário é publicado: o que a IA lê, como pesa o contexto e a ironia, onde ficam os limites e quais casos ela deixa, de propósito, para uma pessoa.
Quem confia em nós
O problema
Listas de palavras julgam a letra de um comentário, não o sentido. Escondem “a defesa foi massacrada hoje” e deixam passar “volta pra sua terra”. E um filtro que esconde comentários sem dizer por quê não se sustenta diante de ninguém.
Como a OpenModeration resolve
Nossa IA lê o comentário com o que está em volta: a matéria ou o post, a mensagem a que ele responde, o idioma. Ela pontua cada categoria das suas regras e compara cada pontuação com dois limites: abaixo do primeiro, publica; acima do segundo, esconde; no meio, uma pessoa decide.
O resultado
Os casos claros são resolvidos em segundos, dia e noite. Os incertos vão para os nossos moderadores em vez de serem adivinhados. Cada decisão, automática ou humana, vem com uma frase que a explica.
O que a IA lê antes de decidir
Quatro sinais, lidos em conjunto. Nenhum deles é uma lista de palavras proibidas.
A página
A mesma frase não significa o mesmo embaixo da crônica de um jogo e embaixo de uma notícia policial. A IA lê o assunto antes do comentário.
A conversa
Uma resposta é lida junto com a mensagem que ela responde. Sarcasmo contra um argumento não é tratado como ataque a uma pessoa.
Ironia e linguagem cifrada
Grafias disfarçadas, emojis usados como insulto, mensagens em código: a IA olha o que se quer dizer, não só o que está escrito.
As suas regras
Cada categoria é julgada pelas regras definidas com você em linguagem simples: o que você aceita, o que recusa e onde quer cautela.
Seis comentários, seis decisões
Exemplos ilustrativos: a mesma IA chega a resultados diferentes conforme o contexto e as suas regras.
Embaixo da crônica de um jogo de futebol
“A zaga foi massacrada hoje, que vexame.”
Publicado
Palavra violenta, sentido esportivo. Crítica ao desempenho de um time, sem nenhuma pessoa visada.
Embaixo de uma notícia sobre um novo ministro
“Ótimo, mais um gênio no comando. Mal posso esperar.”
Publicado
Irônico, mas dirigido ao cargo de uma figura pública. A crítica política é permitida pelas suas regras.
Resposta a outro leitor
“Gente como ela devia voltar pra terra dela.”
Escondido
Exclusão pela origem, dirigida a uma pessoa. Viola a regra sobre conteúdo de ódio.
Embaixo de um post no Instagram
“Ganhe R$ 500 por dia em casa, me chama no direct 💰”
Escondido
Spam comercial pedindo contato. Viola a regra sobre golpes e publicidade.
Embaixo de uma notícia local
“Todo mundo sabe o que rola naquele bairro à noite…”
Enviado à nossa equipe
Possível insinuação sobre um grupo, sem alvo explícito. A pontuação fica entre os dois limites: um moderador decide.
Embaixo de uma matéria sobre a Câmara Municipal
“O prefeito mentiu sobre o orçamento e deveria renunciar.”
Publicado
Acusação dura contra um político eleito, num debate político. Não é insulto nem ameaça.
Limites: onde o automático para
Para cada categoria das suas regras, dois limites dividem os comentários em três resultados. Definimos esses limites com você e os ajustamos depois do teste com seus comentários.
| Categoria | Publicado automaticamente | Enviado à nossa equipe | Escondido automaticamente |
|---|---|---|---|
| Insultos | Tom áspero, sem alvo | Insulto que pode ser citação ou piada | Insulto dirigido a uma pessoa |
| Ódio | Debate sobre um tema sensível | Generalização ambígua sobre um grupo | Ataque por origem, religião, gênero… |
| Ameaças | Violência figurada (vou matar essa prova) | Intenção pouco clara | Ameaça explícita contra alguém |
| Spam e golpes | Link pertinente à conversa | Mensagem promocional repetida | Oferta fraudulenta, phishing |
| Fora do tema | Comentário paralelo que continua educado | Mensagem longa sem relação | Flood, campanhas de copiar e colar |
Mais rígido ou mais flexível? Você escolhe por categoria: um portal de notícias com muito tráfego e a página de uma marca raramente usam os mesmos limites.
Por que as equipes escolhem a OpenModeration
Ela não chuta
Quando a IA tem dúvida, o comentário vai para os nossos moderadores, que decidem segundo as suas regras.
Denúncias e recursos continuam humanos
Denúncias de usuários e decisões contestadas são analisadas por uma pessoa da nossa equipe, como exige o DSA.
A última palavra é sua
Você vê cada decisão automática em tempo real, com a justificativa, e pode reverter qualquer uma delas.
Perguntas frequentes
Como funciona a moderação automática de comentários?
Cada comentário é lido com seu contexto, pontuado em cada categoria das suas regras e comparado com dois limites: publicar, esconder ou enviar a uma pessoa. O processo inteiro leva alguns segundos.
A IA entende ironia?
Muito melhor do que uma lista de palavras, porque lê o comentário junto com a página e a conversa. Quando a ironia deixa um comentário realmente ambíguo, a pontuação fica entre os limites e nossa equipe decide.
O que acontece quando a IA erra?
Você pode reverter qualquer decisão no console, e os autores podem recorrer. Os erros recorrentes servem para ajustar com você as regras e os limites.
Em quais idiomas funciona?
Os comentários são analisados no próprio idioma, incluindo os idiomas do seu público, sem uma etapa de tradução que perca nuances.
Posso conferir as decisões antes de ativar?
Sim. Um teste gratuito em sandbox com seus comentários reais mostra cada decisão e sua justificativa antes de qualquer coisa ir ao ar.
Veja a IA decidir com os seus próprios comentários.
Agende uma conversa: passamos seus comentários recentes pela IA e revisamos com você cada decisão e sua justificativa.
Sem cartão de crédito · Em conformidade com o DSA · Em conformidade com o RGPD
Ficou com dúvidas? contact@openmoderation.com