API OpenAI Moderation: omni-moderation-latest, categorie, prezzi e limiti
L'API OpenAI Moderation ti dice se un testo o un'immagine è potenzialmente dannoso e in quale categoria rientra. È gratuita, veloce da chiamare ed è spesso il primo passo per i team che devono moderare i contenuti degli utenti. Questa guida riassume cosa rileva, cosa restituisce e cosa ti lascia da costruire.
In breve
- Modello:
omni-moderation-latest, che accetta testo e immagini. Non classifica l'audio. - Prezzo: gratuito. OpenAI afferma che «l'endpoint di moderazione è gratuito», e i file immagine possono pesare fino a 20 MB.
- Output: un booleano
flaggede, per ogni categoria, un booleano e un punteggio di confidenza compreso tra 0 e 1. - Categorie: 13, di cui sei valgono anche per le immagini.
Come chiamarla
Invia una richiesta POST all'endpoint /v1/moderations con il nome del modello e il tuo contenuto.
curl https://api.openai.com/v1/moderations -H "Content-Type: application/json" -H "Authorization: Bearer $OPENAI_API_KEY" -d '{
"model": "omni-moderation-latest",
"input": "Il commento che vuoi verificare"
}'
Puoi anche attivare la moderazione inline tramite il parametro moderation della
Responses API. In quel caso il risultato contiene due sezioni separate, input e
output, e ciascuna può essere un oggetto di errore anziché dei punteggi.
Cosa contiene la risposta
flagged:truese il modello classifica il contenuto come potenzialmente dannoso, altrimentifalse.categories: un booleano per categoria, che indica se quella categoria viene violata.category_scores: un punteggio di confidenza per categoria, da 0 a 1. Più è alto, maggiore è la confidenza.category_applied_input_types: per ogni categoria, i tipi di input (testo, immagine) a cui si applica il punteggio.
Le 13 categorie
Se invii solo un'immagine, le categorie riservate al testo restituiscono un punteggio di 0.
| Categoria | Cosa copre | Input |
|---|---|---|
| harassment | Linguaggio molesto nei confronti di qualsiasi bersaglio. | Testo |
| harassment/threatening | Molestie che includono anche violenza o danni gravi nei confronti di qualsiasi bersaglio. | Testo |
| hate | Odio basato su razza, genere, etnia, religione, nazionalità, orientamento sessuale, disabilità o casta. I contenuti d'odio rivolti a gruppi non protetti rientrano nelle molestie. | Testo |
| hate/threatening | Contenuti d'odio che includono anche violenza o danni gravi nei confronti del gruppo preso di mira. | Testo |
| illicit | Consigli o istruzioni su come commettere atti illeciti. | Testo |
| illicit/violent | Contenuti illeciti che fanno anche riferimento alla violenza o al procurarsi un'arma. | Testo |
| self-harm | Contenuti che promuovono, incoraggiano o rappresentano atti di autolesionismo. | Testo e immagini |
| self-harm/intent | Chi scrive dichiara di praticare, o di voler praticare, atti di autolesionismo. | Testo e immagini |
| self-harm/instructions | Contenuti che incoraggiano l'autolesionismo o danno istruzioni su come praticarlo. | Testo e immagini |
| sexual | Contenuti pensati per suscitare eccitazione sessuale o che promuovono servizi sessuali (esclusi educazione sessuale e benessere). | Testo e immagini |
| sexual/minors | Contenuti sessuali che coinvolgono una persona di età inferiore ai 18 anni. | Testo |
| violence | Contenuti che rappresentano morte, violenza o lesioni fisiche. | Testo e immagini |
| violence/graphic | Contenuti che rappresentano morte, violenza o lesioni fisiche in modo crudo e dettagliato. | Testo e immagini |
Punti da tenere a mente
- OpenAI avverte che le policy personalizzate basate su
category_scorespotrebbero richiedere una ricalibrazione nel tempo, man mano che il modello evolve. - Con la moderazione inline, i punteggi non sono inclusi nei delta parziali dell'output in streaming.
- Con le chiamate a strumenti, vengono moderati gli argomenti e gli output degli strumenti, ma non i nomi, le descrizioni e gli schemi degli strumenti.
- Non inviare all'API Moderation materiale pedopornografico noto o sospetto.
Cosa ti lascia da fare l'API Moderation
Un punteggio non è una decisione di moderazione. Una volta ottenuto, devi ancora stabilire dove fissare la soglia di ogni categoria, cosa fare dei commenti che stanno nel mezzo, come applicare le regole specifiche della tua community e come spiegare ogni rimozione all'autore. Ai sensi del Digital Services Act, i servizi di hosting devono fornire una motivazione chiara e specifica per ogni rimozione e indicare se sono stati usati strumenti automatizzati.
OpenModeration aggiunge questo livello mancante, sopra la propria IA di moderazione verificata da altri modelli: regole scritte in linguaggio semplice, due soglie per categoria con una zona grigia rivista dal nostro team, una console in cui vedi ogni decisione in tempo reale, una motivazione scritta per ogni decisione e un registro di audit completo. Quando esce un modello di IA migliore o più economico, lo colleghiamo, senza alcuna modifica alla tua integrazione.
Fonte: guida di OpenAI sulla moderazione (in inglese), consultata il 20 ottobre 2026.
Domande frequenti
L'API OpenAI Moderation è gratuita?
Sì. OpenAI dichiara che l'endpoint di moderazione è gratuito. Le immagini possono pesare fino a 20 MB.
Che cos'è omni-moderation-latest?
omni-moderation-latest è l'attuale modello di moderazione di OpenAI. Accetta testo e immagini, ma non classifica l'audio.
Quali categorie rileva l'API OpenAI Moderation?
Tredici: harassment, harassment/threatening, hate, hate/threatening, illicit, illicit/violent, self-harm, self-harm/intent, self-harm/instructions, sexual, sexual/minors, violence e violence/graphic. Sei di queste valgono anche per le immagini.
Cosa non fa l'API OpenAI Moderation?
Restituisce punteggi e segnalazioni, niente di più. Decidere cosa nascondere, scrivere le regole della tua community, esaminare i casi dubbi, spiegare ogni decisione all'autore e tenere un registro di audit per il DSA resta compito tuo. OpenModeration aggiunge questo livello sopra omni-moderation-latest e altri modelli.