Un'API di moderazione del testo che non si limita a dare un punteggio.
Un solo endpoint modera ogni testo (commenti, chat, messaggi, recensioni) con la nostra IA, verificata da altri modelli sui casi delicati. Prefiltraggio, regole personalizzate, doppia soglia e registro di audit pronto per il DSA inclusi.
Piano gratuito · Nessuna carta di credito · Documentazione OpenAPI
Modera qualsiasi testo con una sola richiesta
Invii il testo a un unico endpoint. Quando esce un modello di IA migliore, lo colleghiamo: la tua richiesta non cambia. I punteggi tornano standardizzati, con soglie che controlli tu.
- ✓10 categorie, multilingue: odio, molestie, contenuti sessuali, violenza, autolesionismo, spam, dati personali e categorie personalizzate.
- ✓Prefiltraggio: blocca lo spam evidente e le parole vietate prima di qualsiasi chiamata all'IA.
- ✓Doppia soglia: i casi chiari vengono approvati o respinti in automatico, la zona grigia la rivede il nostro team.
- ✓Batch fino a 10.000 testi: stesso schema delle chiamate su testo singolo.
# Modera qualsiasi testo: commenti, chat, messaggi, recensioni
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "user comment here",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Risposta (formato standardizzato)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Pensata per ogni caso d'uso della moderazione del testo
Un'unica API per ogni spazio in cui gli utenti scrivono.
Commenti e recensioni
Nascondi in automatico incitamento all'odio, spam e fughe di dati personali in commenti, recensioni e post dei forum prima che vengano pubblicati.
Chat e messaggistica
Moderazione del testo in tempo reale in più lingue, con latenza inferiore a 250 ms e azioni automatiche.
Prompt delle app di IA
Filtra sia gli input degli utenti sia gli output dei modelli di IA, anche su categorie personalizzate e in evoluzione.
Annunci dei marketplace
Segnala annunci spam, truffe e contenuti vietati in titoli e descrizioni già al momento dell'acquisizione.
API di un solo modello o OpenModeration
Un punteggio di tossicità grezzo non è un sistema di moderazione.
| Funzionalità | API di testo di un solo modello | OpenModeration |
|---|---|---|
| Motore di IA | Un solo modello (lock-in) | La nostra IA, verificata da altri modelli; i modelli migliori collegati appena escono |
| Regole personalizzate | Fai da te | Parole vietate, soglie, regole in linguaggio naturale applicate dall'IA, senza codice |
| Revisione umana | Fai da te | Casi dubbi gestiti dal nostro team; vedi tutto in tempo reale e intervieni quando vuoi |
| Registro di audit | Solo i log dell'API | Esportazione DSA completa, decisioni dell'IA e umane |
| Prezzo | Fissato da ciascun editore, da gratuito (OpenAI) a fatturato per chiamata | Piano gratuito · Pro da 99 €/mese |
API di moderazione del testo: domande frequenti
Che cos'è un'API di moderazione del testo?
Un'API di moderazione del testo assegna un punteggio ai testi generati dagli utenti (odio, molestie, contenuti sessuali, violenza, spam, dati personali…) così la tua app può approvarli, segnalarli o respingerli in automatico. OpenModeration fa funzionare la propria IA di moderazione dietro un unico endpoint, verificata da altri modelli sui casi delicati, con un formato di risposta standardizzato, regole personalizzate e un registro di audit.
Quale API di moderazione del testo scegliere?
Le API basate su un solo modello (OpenAI, Azure, Mistral) si avviano in fretta ma ti vincolano a un unico modello, fermo tra un aggiornamento e l'altro. OpenModeration usa la propria IA di moderazione, fa arbitrare i casi delicati da altri modelli e collega rapidamente i modelli migliori appena escono. In più: prefiltraggio, regole, casi dubbi gestiti dal nostro team e una console in tempo reale.
Quanto costa un'API di moderazione del testo?
L'endpoint di moderazione di OpenAI è gratuito, Mistral fissa il prezzo del proprio modello di moderazione e Azure AI Content Safety fattura per 1.000 record di testo oltre una soglia gratuita di 5.000 record al mese. OpenModeration ha un piano gratuito fino a 1.000 richieste al mese; il piano Pro parte da 99 € al mese per 10.000 richieste.
Posso definire regole di moderazione personalizzate?
Sì, con tre strumenti e senza codice: parole vietate (blocco immediato), soglie per categoria (approvazione automatica, revisione da parte del nostro team o rifiuto automatico) e le tue regole in linguaggio naturale, applicate dalla nostra IA per categorie personalizzate come la disinformazione o l'adescamento di minori (grooming).
Posso migrare da openai text-moderation-latest?
Sì. Sostituisci openai.moderations.create con una sola chiamata POST /v1/moderation. Ottieni punteggi standardizzati, motivazioni scritte e un registro di audit, e quando colleghiamo un modello di IA migliore, nel tuo codice non cambia nulla.
Ogni decisione di moderazione del testo viene registrata?
Sì. Ogni decisione, dell'IA o umana, conserva i punteggi, le soglie, il revisore e la data e ora. Esporti il registro di audit completo in un clic per i report di trasparenza DSA.
Inizia a moderare testi in pochi minuti.
Ottieni una chiave API, copia l'esempio curl e modera il tuo primo testo oggi stesso, con regole, casi dubbi gestiti dal nostro team e registri di audit fin dal primo giorno.
Nessuna carta di credito richiesta · Conforme al DSA · Conforme al GDPR
Domande? contact@openmoderation.com