OpenAI Moderation API: omni-moderation-latest, categorias, preço e limites
A OpenAI Moderation API diz se um texto ou uma imagem é potencialmente nocivo, e em qual categoria. Ela é gratuita, rápida de chamar e costuma ser o primeiro passo das equipes que precisam moderar conteúdo de usuários. Este guia resume o que ela detecta, o que devolve e o que fica para você construir.
A resposta curta
- Modelo:
omni-moderation-latest, que aceita entradas de texto e de imagem. Ele não classifica áudio. - Preço: gratuito. A OpenAI informa que "o endpoint de moderação é de uso gratuito", e os arquivos de imagem podem ter até 20 MB.
- Saída: um booleano
flaggede, para cada categoria, um booleano e um score de confiança entre 0 e 1. - Categorias: 13, seis das quais também se aplicam a imagens.
Como chamar a API
Envie uma requisição POST para o endpoint /v1/moderations com o nome do modelo e a sua entrada.
curl https://api.openai.com/v1/moderations -H "Content-Type: application/json" -H "Authorization: Bearer $OPENAI_API_KEY" -d '{
"model": "omni-moderation-latest",
"input": "The comment you want to check"
}'
Você também pode ativar a moderação embutida pelo parâmetro moderation da
Responses API. Nesse caso, o resultado traz seções separadas de input e
output, e qualquer uma delas pode ser um objeto de erro em vez de scores.
O que a resposta contém
flagged:truese o modelo classificar o conteúdo como potencialmente nocivo,falsecaso contrário.categories: um booleano por categoria, que indica se aquela categoria foi violada.category_scores: um score de confiança por categoria, de 0 a 1. Quanto mais alto, maior a confiança.category_applied_input_types: para cada categoria, a quais tipos de entrada (texto, imagem) o score se aplica.
As 13 categorias
Quando você envia só uma imagem, as categorias exclusivas de texto devolvem score 0.
| Categoria | O que cobre | Entradas |
|---|---|---|
| harassment | Linguagem de assédio dirigida a qualquer alvo. | Texto |
| harassment/threatening | Assédio que também inclui violência ou dano grave contra qualquer alvo. | Texto |
| hate | Ódio baseado em raça, gênero, etnia, religião, nacionalidade, orientação sexual, deficiência ou casta. O conteúdo de ódio dirigido a grupos não protegidos conta como assédio. | Texto |
| hate/threatening | Conteúdo de ódio que também inclui violência ou dano grave contra o grupo visado. | Texto |
| illicit | Conselhos ou instruções sobre como cometer atos ilícitos. | Texto |
| illicit/violent | Conteúdo ilícito que também menciona violência ou a obtenção de uma arma. | Texto |
| self-harm | Conteúdo que promove, incentiva ou retrata atos de automutilação. | Texto e imagens |
| self-harm/intent | A pessoa diz que está se automutilando ou que pretende fazê-lo. | Texto e imagens |
| self-harm/instructions | Conteúdo que incentiva a automutilação ou dá instruções de como praticá-la. | Texto e imagens |
| sexual | Conteúdo feito para provocar excitação sexual ou que promove serviços sexuais (educação sexual e bem-estar excluídos). | Texto e imagens |
| sexual/minors | Conteúdo sexual que envolve uma pessoa com menos de 18 anos. | Texto |
| violence | Conteúdo que retrata morte, violência ou lesão física. | Texto e imagens |
| violence/graphic | Conteúdo que retrata morte, violência ou lesão física com detalhes gráficos. | Texto e imagens |
Pontos de atenção
- A OpenAI avisa que políticas personalizadas baseadas em
category_scorespodem precisar de recalibração ao longo do tempo, à medida que o modelo evolui. - Os scores não vêm nos deltas parciais da saída transmitida em streaming quando você usa a moderação embutida.
- Nas chamadas de ferramentas, os argumentos e as saídas das ferramentas são moderados, mas os nomes, as descrições e os schemas das ferramentas não.
- Não envie à Moderation API material de abuso sexual infantil conhecido ou suspeito.
O que a Moderation API deixa por sua conta
Um score não é uma decisão de moderação. Depois de recebê-lo, você ainda precisa decidir onde colocar o limite de cada categoria, o que fazer com os comentários que ficam no meio, como aplicar regras específicas da sua comunidade e como explicar cada remoção ao autor. Segundo o Regulamento dos Serviços Digitais (DSA), os serviços de hospedagem precisam apresentar uma exposição de motivos para cada remoção e dizer se foram usados meios automatizados.
O OpenModeration traz essa camada que falta com a sua própria IA de moderação, verificada por outros modelos de IA nos casos delicados: regras escritas em linguagem natural, os casos duvidosos tratados pela nossa equipe, um console em que você vê cada decisão em tempo real e pode intervir quando quiser, um motivo por escrito para cada decisão e um log de auditoria completo. Quando sai um modelo de IA melhor ou mais barato, nós o conectamos rapidamente. Nada muda do seu lado.
Fonte: guia de moderação da OpenAI, consultado em 20 de outubro de 2026.
Perguntas frequentes
A OpenAI Moderation API é gratuita?
Sim. A OpenAI informa que o endpoint de moderação é de uso gratuito. As imagens enviadas podem ter até 20 MB.
O que é o omni-moderation-latest?
O omni-moderation-latest é o modelo de moderação atual da OpenAI. Ele aceita entradas de texto e de imagem, mas não classifica áudio.
Quais categorias a OpenAI Moderation API detecta?
Treze: harassment, harassment/threatening, hate, hate/threatening, illicit, illicit/violent, self-harm, self-harm/intent, self-harm/instructions, sexual, sexual/minors, violence e violence/graphic. Seis delas também se aplicam a imagens.
O que a OpenAI Moderation API não faz?
Ela devolve scores e sinalizações, nada mais. Decidir o que ocultar, escrever as regras da sua comunidade, revisar os casos limítrofes, explicar cada decisão ao autor e manter uma trilha de auditoria para o DSA fica por sua conta. O OpenModeration cuida de tudo isso: a nossa própria IA de moderação, verificada por outros modelos de IA nos casos delicados, e a nossa equipe trata os casos duvidosos.