Você conecta suas páginas. Nós moderamos. Você vê tudo.
Nenhuma ferramenta de moderação para operar: nossa IA e nossa equipe aplicam as suas regras dia e noite, e você mantém a visão completa e a palavra final.
Três passos, e nada para operar
-
1
Você conecta suas páginas
Site, Facebook, Instagram, YouTube ou WordPress: nossa equipe as conecta com você e configura suas regras a partir da sua política e dos seus casos de uso.
-
2
Nossa IA e nossa equipe moderam com as suas regras
Nossa IA lê cada comentário no seu contexto e resolve os casos claros. Os casos delicados são conferidos por outros modelos de IA; os duvidosos, as denúncias e os recursos ficam com a nossa equipe.
-
3
Você vê tudo em tempo real
Cada decisão vem com o motivo por escrito. Você acompanha tudo no console e pode intervir ou corrigir quando quiser.
Sua equipe não precisa fazer nada, a não ser que queira. O histórico de cada decisão fica disponível para as suas obrigações do DSA.
O que acontece com cada comentário
As decisões são aplicadas diretamente no seu site e nas suas páginas, e cada uma fica registrada com o motivo.
Comentários saudáveis vão ao ar
Comentários construtivos, mesmo críticos, são publicados normalmente. A conversa continua.
Abusos não chegam aos seus leitores
Insultos, ameaças e spam são ocultados no Facebook e no Instagram e recusados no YouTube e no seu site, com o motivo por escrito.
Casos duvidosos vão para a nossa equipe
Quando a IA fica em dúvida, o comentário é separado e a nossa equipe decide segundo as suas regras. Nada é publicado por engano, nada se perde.
Suas ferramentas ficam informadas
Se quiser, cada decisão pode ser enviada para as suas próprias ferramentas: suas equipes ficam informadas sem mudar de hábitos.
Veja primeiro com os seus próprios comentários
Testamos a OpenModeration com os seus comentários reais, em silêncio e em paralelo ao seu fornecedor atual, se você tiver um. Você compara decisão por decisão antes de escolher.
Para desenvolvedores
Por dentro: o fluxo em quatro etapas
Por trás dos três passos, cada comentário passa por quatro etapas técnicas. Veja o que a sua equipe técnica precisa saber.
1. Coleta
Os comentários chegam pela API, por um webhook ou por um conector de rede social.
2. Moderação por IA
Nossa IA analisa o comentário; outros modelos conferem os casos delicados.
3. Regras e ações
Suas regras são avaliadas e as ações rodam automaticamente.
4. Revisão humana
Nossa equipe cuida dos casos duvidosos; você pode intervir a qualquer momento.
Os comentários chegam de todo lugar
Envie os comentários pela API REST, por um webhook genérico ou pelos conectores nativos, que buscam os comentários automaticamente.
- API: POST /v1/moderation, um a um ou em lote
- Webhooks: um endpoint genérico recebe e normaliza os dados externos
- Conectores: Facebook, Instagram, YouTube e WordPress
Exemplo: um comentário do Facebook
// O Facebook envia o comentário por webhook
{
"source": "facebook",
"content_id": "comment_123",
"author_id": "user_456",
"text": "Comment text here...",
"metadata": {"post_url": "..."}
}A IA modera o comentário
Cada comentário é analisado pela nossa IA de moderação, desenvolvida internamente e configurada com as suas regras. Os casos delicados são conferidos por outros modelos de IA. Os resultados voltam num formato padrão, com notas de 0,0 a 1,0 por categoria.
- O formato da resposta nunca muda
- Quando sai um modelo melhor, nós o conectamos: nada muda para você
Resposta padronizada
{
"results": [{
"category": "hate",
"score": 0.02,
"flagged": false
}],
"flagged": false,
"usage": {
"latency_ms": 243
}
}Suas regras são aplicadas automaticamente
As regras combinam palavras proibidas para um bloqueio imediato, limites por categoria e regras escritas em linguagem comum, que a IA aplica conforme o contexto. Nossa equipe as configura com você; seus desenvolvedores também podem gerenciá-las pela API.
- Palavras proibidas bloqueiam um comentário na hora, antes de qualquer chamada à IA
- Os limites por categoria disparam as ações automaticamente
- As regras em linguagem comum dão o tom dos seus espaços
Configuração pela API
// Configure seus limites de moderação
PUT /v1/settings
{
"thresholds": {
"hate": { "accepted": 0.3, "rejected": 0.7 },
"harassment": { "accepted": 0.3, "rejected": 0.7 },
"sexual": { "accepted": 0.2, "rejected": 0.8 },
"violence": { "accepted": 0.3, "rejected": 0.7 },
"self-harm": { "accepted": 0.2, "rejected": 0.8 },
"spam": { "accepted": 0.4, "rejected": 0.8 }
},
"actions": {
"on_reject": ["hide", "flag_for_review"]
}
}Tudo fica registrado
Cada decisão, da IA ou da nossa equipe, é registrada com o motivo, o autor e as ações executadas. Webhooks podem avisar suas ferramentas a cada decisão.
- Cada correção é registrada com autor e justificativa
- Histórico completo para auditorias e relatórios do DSA
Trilha de auditoria de cada comentário
// Trilha de auditoria completa de cada comentário
{
"content_id": "...",
"source": "webhook",
"platform": "facebook",
"status": "actioned",
"moderation": {
"flagged": true,
"results": [...]
},
"actions": [{
"rule": "Hide hate speech",
"type": "hide",
"status": "executed"
}]
}Proteja sua marca em poucos minutos.
Conecte seu site ou suas páginas e conte para a gente quais são suas regras e seus casos de uso. A gente implanta a moderação e cuida dela por você: nossa equipe trata os casos duvidosos e as denúncias, e você vê cada decisão e a justificativa em tempo real.
Sem cartão de crédito · Em conformidade com o DSA · Em conformidade com o RGPD
Ficou com dúvidas? contact@openmoderation.com