Funcionalidades
O OpenModeration cobre toda a cadeia, do recebimento de um comentário até a ação sobre ele.
Integração única
Um único endpoint de API, um único formato de resposta. Quando conectamos um modelo de IA melhor, nada muda no seu código.
Nossa própria IA de moderação
Envie o conteúdo uma vez e receba um veredito claro (aprovado/reprovado) e as pontuações por categoria, de acordo com as suas regras e os seus casos de uso.
Categorias de conteúdo prontas
Categorias prontas para uso: ódio, assédio, conteúdo sexual, violência, automutilação, spam, desinformação, dados pessoais e mais.
Validada por outras IAs
Nos casos delicados, outros modelos de IA arbitram a decisão antes de ela ser aplicada. Menos erros, menos comentários ocultados por engano.
Decisões de moderação mais inteligentes
As decisões levam em conta a conversa, o histórico do autor, o canal e as suas próprias políticas.
Revisão de conteúdo em massa
Envie até 10.000 itens de uma vez para processamento assíncrono. Os resultados são enviados ao seu sistema assim que ficam prontos.
Políticas de moderação personalizadas
Defina as suas próprias categorias. Forneça exemplos e deixe a IA classificar o conteúdo do seu jeito.
Painel de moderação
Uma interface web para conduzir a moderação do dia a dia.
Gestão de acessos
Crie e gerencie chaves de acesso. Defina limites de uso por chave.
Gestão de equipe e funções
Dê acesso ao painel a quem você quiser, atribua funções e defina permissões sem passar pelo departamento de TI.
Gestão de denúncias
As denúncias dos usuários são tratadas pela nossa equipe, e você acompanha o status de cada uma, para que nenhum comentário sinalizado fique esquecido.
Histórico de atividade
Cada requisição de moderação é registrada com o veredito, o tempo de resposta e as pontuações por categoria.
Monitoramento do serviço
Veja em tempo real o status do serviço: disponibilidade, tempos de resposta e taxas de erro.
Relatórios de desempenho
Acompanhe o volume de moderação e as taxas de sinalização e veja a evolução dos custos.
Gestão de conectores
Conecte as suas contas de redes sociais com as suas próprias credenciais.
Configuração de regras
Defina palavras proibidas, ajuste os limites por categoria e escreva as suas regras em linguagem natural. Essas três ferramentas não exigem código.
Moderação automatizada
Você define as suas regras de moderação com três ferramentas: palavras proibidas, limites por categoria e as suas próprias regras escritas em linguagem natural.
Regras de IA sensíveis ao contexto
Combine as pontuações de confiança da IA com as suas próprias regras, em vez de depender apenas de listas de palavras-chave.
Ações automáticas
Quando um limite é ultrapassado, o Action Engine pode ocultar, excluir, sinalizar, notificar ou marcar como spam.
Humano no circuito
Os casos limítrofes são revisados pela nossa equipe. Você vê cada decisão em tempo real e pode dar a palavra final quando quiser.
Revisão manual pela nossa equipe
O conteúdo sinalizado é aprovado ou rejeitado por uma pessoa da nossa equipe. Você não tem nada a fazer, mas pode intervir a qualquer momento.
Notificações por webhook
Receba alertas em tempo real sobre conteúdo sinalizado, lotes concluídos, erros e muito mais.
Trilha de auditoria completa
Cada ação é registrada com a regra que a disparou, a ação executada e o resultado.
Integrações com plataformas
Conecte-se diretamente às redes sociais e ao seu blog para coletar e moderar o conteúdo automaticamente.
Receba comentários e publicações. Oculte ou remova automaticamente o conteúdo que viola as suas regras.
Modere comentários e mensagens do Instagram. Proteja o seu perfil de conteúdo tóxico ou de spam.
YouTube
Colete os comentários dos vídeos. Marque como spam ou retenha para revisão.
WordPress
Modere os comentários do seu blog. Aprove, retenha para revisão ou marque como spam automaticamente.
Use os seus próprios acessos
Use os seus próprios tokens de plataforma. Nunca os armazenamos em texto puro.
Receptor de webhook genérico
Colete conteúdo de qualquer plataforma que ofereça webhooks de saída.
Callback de webhook genérico
Envie os resultados da moderação para o seu próprio webhook em integrações sob medida.
Um formato, seja qual for o modelo por trás
Quando conectamos um modelo de IA melhor ou mais barato, os resultados mantêm o mesmo formato: você só integra uma vez.
O mesmo formato sempre, sem código extra quando a IA evolui.
Chaves de acesso seguras, com permissões delimitadas e limites de uso por chave.
Documentação interativa da API gerada automaticamente, para testar requisições direto do navegador.
# Uma chamada, pontuações padronizadas
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "Seu texto a moderar aqui",
"language": "pt"
}'
# Resposta (sempre no mesmo formato)
{
"id": "modr_01JXK...",
"results": [{
"category": "hate",
"score": 0.02,
"flagged": false
}],
"flagged": false,
"usage": {
"latency_ms": 243
}
}Proteja sua marca em poucos minutos.
Conecte seu site ou suas páginas e conte para a gente quais são suas regras e seus casos de uso. A gente implanta a moderação e cuida dela por você: nossa equipe trata os casos duvidosos e as denúncias, e você vê cada decisão e a justificativa em tempo real.
Sem cartão de crédito · Em conformidade com o DSA · Em conformidade com o RGPD
Ficou com dúvidas? contact@openmoderation.com