API de OpenAI Moderation: omni-moderation-latest, categorías, precio y límites
La API de OpenAI Moderation te dice si un texto o una imagen es potencialmente dañino y en qué categoría. Es gratuita, rápida de llamar y suele ser el primer paso de los equipos que necesitan moderar contenido de usuarios. Esta guía resume qué detecta, qué devuelve y qué te deja por construir.
La respuesta corta
- Modelo:
omni-moderation-latest, que admite texto e imágenes. No clasifica audio. - Precio: gratis. OpenAI afirma que «el endpoint de moderación es de uso gratuito», y los archivos de imagen pueden pesar hasta 20 MB.
- Salida: un booleano
flaggedy, para cada categoría, un booleano y una puntuación de confianza entre 0 y 1. - Categorías: 13, seis de las cuales también se aplican a imágenes.
Cómo llamarla
Envía una petición POST al endpoint /v1/moderations con el nombre del modelo y tu contenido.
curl https://api.openai.com/v1/moderations -H "Content-Type: application/json" -H "Authorization: Bearer $OPENAI_API_KEY" -d '{
"model": "omni-moderation-latest",
"input": "El comentario que quieres revisar"
}'
También puedes activar la moderación en línea mediante el parámetro moderation de la
API Responses. En ese caso, el resultado contiene dos secciones separadas, input y
output, y cualquiera de ellas puede ser un objeto de error en lugar de puntuaciones.
Qué contiene la respuesta
flagged:truesi el modelo clasifica el contenido como potencialmente dañino,falseen caso contrario.categories: un booleano por categoría, que indica si esa categoría se infringe.category_scores: una puntuación de confianza por categoría, de 0 a 1. Cuanto más alta, mayor es la confianza.category_applied_input_types: para cada categoría, a qué tipos de entrada (texto, imagen) se aplica la puntuación.
Las 13 categorías
Si solo envías una imagen, las categorías exclusivas de texto devuelven una puntuación de 0.
| Categoría | Qué abarca | Entradas |
|---|---|---|
| harassment | Lenguaje acosador hacia cualquier objetivo. | Texto |
| harassment/threatening | Acoso que además incluye violencia o daños graves hacia cualquier objetivo. | Texto |
| hate | Odio por motivos de raza, género, origen étnico, religión, nacionalidad, orientación sexual, discapacidad o casta. El contenido de odio dirigido a grupos no protegidos se considera acoso. | Texto |
| hate/threatening | Contenido de odio que además incluye violencia o daños graves hacia el grupo al que se dirige. | Texto |
| illicit | Consejos o instrucciones para cometer actos ilícitos. | Texto |
| illicit/violent | Contenido ilícito que además hace referencia a la violencia o a la obtención de un arma. | Texto |
| self-harm | Contenido que promueve, fomenta o representa actos de autolesión. | Texto e imágenes |
| self-harm/intent | La persona que habla expresa que se está autolesionando o que tiene intención de hacerlo. | Texto e imágenes |
| self-harm/instructions | Contenido que fomenta la autolesión o da instrucciones sobre cómo llevarla a cabo. | Texto e imágenes |
| sexual | Contenido destinado a provocar excitación sexual o que promueve servicios sexuales (se excluyen la educación sexual y el bienestar). | Texto e imágenes |
| sexual/minors | Contenido sexual en el que aparece una persona menor de 18 años. | Texto |
| violence | Contenido que representa la muerte, la violencia o lesiones físicas. | Texto e imágenes |
| violence/graphic | Contenido que representa la muerte, la violencia o lesiones físicas con detalle explícito. | Texto e imágenes |
Aspectos a tener en cuenta
- OpenAI advierte de que las políticas personalizadas que se basan en
category_scorespueden necesitar una recalibración con el tiempo, a medida que el modelo evoluciona. - Con la moderación en línea, las puntuaciones no se incluyen en los deltas parciales de la salida en streaming.
- Con las llamadas a herramientas, se moderan los argumentos y las salidas de las herramientas, pero no sus nombres, descripciones ni esquemas.
- No envíes a la API Moderation material de abuso sexual infantil, ni conocido ni sospechoso.
Lo que la API Moderation deja en tus manos
Una puntuación no es una decisión de moderación. Una vez que la tienes, todavía debes decidir dónde fijar el umbral de cada categoría, qué hacer con los comentarios intermedios, cómo aplicar las normas propias de tu comunidad y cómo explicar cada retirada a su autor. Según la Ley de Servicios Digitales (DSA), los servicios de alojamiento de datos deben facilitar una declaración de motivos por cada retirada e indicar si se han utilizado medios automatizados.
OpenModeration ofrece la capa que falta, con su propia IA de moderación: normas redactadas en lenguaje sencillo, dos umbrales por categoría con una zona gris que revisa nuestro equipo, una consola donde ves cada decisión en tiempo real y puedes intervenir cuando quieras, una explicación por escrito para cada decisión y un registro de auditoría completo. En los casos delicados, otros modelos de IA arbitran la decisión, y cuando sale un modelo mejor o más barato, el equipo lo conecta rápido, sin que cambie nada por tu parte.
Fuente: guía de moderación de OpenAI (en inglés), consultada el 20 de octubre de 2026.
Preguntas frecuentes
¿Es gratis la API de OpenAI Moderation?
Sí. OpenAI indica que el endpoint de moderación es de uso gratuito. Las imágenes pueden pesar hasta 20 MB.
¿Qué es omni-moderation-latest?
omni-moderation-latest es el modelo de moderación actual de OpenAI. Admite texto e imágenes, pero no clasifica audio.
¿Qué categorías detecta la API de OpenAI Moderation?
Trece: harassment, harassment/threatening, hate, hate/threatening, illicit, illicit/violent, self-harm, self-harm/intent, self-harm/instructions, sexual, sexual/minors, violence y violence/graphic. Seis de ellas también se aplican a imágenes.
¿Qué no hace la API de OpenAI Moderation?
Devuelve puntuaciones e indicadores, nada más. Decidir qué ocultar, redactar las normas de tu comunidad, revisar los casos dudosos, explicar cada decisión a su autor y mantener un registro de auditoría para la DSA queda en tus manos. OpenModeration aporta esa capa con su propia IA de moderación, arbitrada por otros modelos de IA en los casos delicados.