Uma API de moderação de texto que age a partir da pontuação.
Um único endpoint envia comentários, chat, mensagens e avaliações com a nossa própria IA, validada por outros modelos nos casos delicados. Pré-filtragem, regras personalizadas, limites duplos e uma trilha de auditoria pronta para o DSA estão incluídos.
Plano gratuito · Sem cartão de crédito · Referência OpenAPI
Modere qualquer texto com uma única requisição
Envie o texto para um único endpoint. Nossa IA de moderação o analisa, e outros modelos de IA validam os casos delicados. As pontuações voltam em um só formato, com limites que você controla.
- ✓10 categorias, multilíngue. Cada texto é analisado no próprio idioma. Ódio, assédio, conteúdo sexual, violência, automutilação, spam, dados pessoais e as suas próprias categorias.
- ✓Pré-filtro. O spam evidente e as palavras proibidas são bloqueados antes de qualquer chamada à IA.
- ✓Limites duplos. Os casos claros são aprovados ou rejeitados automaticamente, e a zona cinzenta é revisada pela nossa equipe.
- ✓Lotes de até 10 mil textos. As chamadas em lote usam o mesmo schema das chamadas unitárias.
# Modere qualquer texto — comentários, chat, mensagens, avaliações
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "comentário do usuário aqui",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Resposta (formato padronizado)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Feita para todos os casos de uso de moderação de texto
Uma API para todos os lugares onde os usuários escrevem.
Comentários e avaliações
Oculte automaticamente discurso de ódio, spam e vazamento de dados pessoais em comentários, avaliações e posts de fórum antes que sejam publicados.
Chat e mensagens
Moderação em tempo real em muitos idiomas, com latência abaixo de 250ms e ações automáticas.
Prompts de aplicativos de IA
Filtre o que os usuários enviam e o que o seu LLM responde. As suas próprias categorias podem mudar com o tempo.
Anúncios de marketplace
Sinalize anúncios de spam, golpes e conteúdo proibido em títulos e descrições já no momento da entrada.
API de modelo bruto vs OpenModeration
Uma pontuação bruta de toxicidade não é um sistema de moderação.
| Recurso | API de texto de modelo bruto | OpenModeration |
|---|---|---|
| Motor de IA | Um único modelo (dependência) | Nossa própria IA, validada por outros modelos; modelos melhores conectados assim que surgem |
| Regras personalizadas | Por sua conta | Palavras proibidas, limites e regras em linguagem natural aplicadas pela IA, sem código |
| Revisão humana | Por sua conta | Casos duvidosos tratados pela nossa equipe; você vê cada decisão em tempo real e pode intervir |
| Trilha de auditoria | Apenas logs da API | Exportação DSA completa das decisões da IA e humanas |
| Preço | Definido por cada fornecedor, de gratuito (OpenAI) a cobrado por chamada | Plano gratuito de até 1.000 comentários analisados/mês · Pro a partir de 99 €/mês |
API de moderação de texto: perguntas frequentes
O que é uma API de moderação de texto?
Uma API de moderação de texto atribui pontuações ao que os usuários escrevem (ódio, assédio, conteúdo sexual, violência, spam, dados pessoais…) para que o seu aplicativo possa aprovar, sinalizar ou rejeitar automaticamente. O OpenModeration usa a sua própria IA de moderação atrás de um único endpoint, validada por outros modelos de IA nos casos delicados, com um só formato de resposta, regras personalizadas e uma trilha de auditoria.
Qual API de moderação de texto devo escolher?
As APIs de modelo bruto (OpenAI, Azure, Mistral) são rápidas de começar, mas prendem você a um único modelo, parado entre uma atualização e outra. O OpenModeration usa a sua própria IA de moderação, valida os casos delicados com outros modelos de IA, conecta modelos melhores assim que surgem e acrescenta pré-filtragem, regras e a revisão humana dos casos duvidosos pela nossa equipe.
Quanto custa uma API de moderação de texto?
O endpoint de moderação da OpenAI é gratuito, a Mistral define o próprio preço do seu modelo de moderação e o Azure AI Content Safety cobra por 1.000 registros de texto depois de uma faixa gratuita de 5.000 registros por mês. O OpenModeration tem um plano gratuito de até 1.000 comentários analisados por mês. O plano Pro em nuvem gerenciada começa em 99 €/mês para 10 mil comentários analisados.
Posso definir regras de moderação personalizadas?
Sim, com três ferramentas e sem código. As palavras proibidas bloqueiam uma mensagem na hora. Os limites por categoria decidem entre aprovação automática, revisão pela nossa equipe e rejeição automática. As suas próprias regras, escritas em linguagem natural, são aplicadas pela nossa IA para categorias como desinformação ou aliciamento de menores (grooming).
Posso migrar do text-moderation-latest da OpenAI?
Sim. Substitua openai.moderations.create por uma única chamada POST /v1/moderation. Você recebe pontuações padronizadas, justificativas por escrito e uma trilha de auditoria e, quando conectamos um modelo de IA melhor, nada muda no seu código.
Todas as decisões de moderação de texto ficam registradas?
Sim. Cada decisão, da IA ou humana, guarda as pontuações, os limites, o revisor e a data e hora. Você pode exportar a trilha de auditoria completa com um clique para os relatórios de transparência do DSA.
Comece a moderar texto em minutos.
Obtenha uma chave de API, copie o exemplo curl e modere o seu primeiro texto hoje, com regras, revisão pela nossa equipe e trilha de auditoria desde o primeiro dia.
Sem cartão de crédito · Em conformidade com o DSA · Em conformidade com o RGPD
Ficou com dúvidas? contact@openmoderation.com