Une API de modération de texte qui transforme les scores en décisions.
Un seul point d'accès envoie chaque texte (commentaires, chat, messages, avis) vers notre propre IA de modération, arbitrée par d'autres modèles d'IA sur les cas délicats. Le préfiltrage, les règles sur mesure, le double seuil et un journal d'audit prêt pour le DSA sont inclus.
Offre gratuite · Sans carte bancaire · Référence OpenAPI
Modérez n'importe quel texte en une requête
Envoyez votre texte vers un seul point d'accès. Quand un modèle d'IA plus performant sort, on le branche de notre côté : votre intégration ne change pas. Les scores reviennent dans un format standardisé, avec des seuils que vous maîtrisez.
- ✓10 catégories, multilingue : haine, harcèlement, contenus sexuels, violence, automutilation, spam, données personnelles et catégories sur mesure via LLM.
- ✓Préfiltrage : bloquez le spam évident et les mots interdits avant toute analyse par l'IA.
- ✓Double seuil : approbation automatique, zone grise traitée par notre équipe, rejet automatique.
- ✓Lots jusqu'à 10 000 textes, avec le même schéma que les appels unitaires.
# Modérez n'importe quel texte : commentaires, chat, messages, avis
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "user comment here",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Réponse (format standardisé)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Conçue pour tous les usages de la modération de texte
Une seule API, partout où vos utilisateurs écrivent.
Commentaires et avis
Masquez automatiquement discours de haine, spam et fuites de données personnelles dans les commentaires, avis et messages de forum, avant leur publication.
Chat et messagerie
Une modération de texte en temps réel dans plusieurs langues, avec une latence inférieure à 250 ms et des actions automatiques.
Prompts d'applications IA
Filtrez à la fois les entrées des utilisateurs et les réponses des LLM. Appuyez-vous sur une modération par LLM pour des catégories sur mesure et évolutives.
Annonces de marketplace
Signalez dès leur dépôt les annonces de spam, les arnaques et les contenus interdits dans les titres et les descriptions.
API d'un seul éditeur ou OpenModeration
Un score de toxicité brut ne constitue pas un système de modération.
| Capacité | API de texte d'un seul éditeur | OpenModeration |
|---|---|---|
| Modèle d'IA | Un seul, figé entre deux mises à jour | Notre IA, arbitrée par d'autres modèles ; les nouveaux modèles sont branchés rapidement |
| Règles sur mesure | À développer soi-même | Mots interdits, seuils, règles en langage courant appliquées par LLM, sans code |
| Revue humaine | À développer soi-même | Faite par notre équipe ; vous suivez tout en temps réel dans la console |
| Journal d'audit | Logs d'API uniquement | Export DSA complet des décisions IA et humaines |
| Tarifs | Fixés par chaque éditeur, de gratuit (OpenAI) à facturé à l'appel | Gratuit jusqu'à 1 000 requêtes/mois · cloud géré dès 99 €/mois |
API de modération de texte : FAQ
Qu'est-ce qu'une API de modération de texte ?
Une API de modération de texte attribue des scores aux textes générés par les utilisateurs (haine, harcèlement, contenus sexuels, violence, spam, données personnelles…) pour que votre application puisse les approuver, les signaler ou les rejeter automatiquement. OpenModeration fait tourner sa propre IA de modération, arbitrée par d'autres modèles d'IA sur les cas délicats, derrière un seul point d'accès, avec un format de réponse standardisé, des règles sur mesure et un journal d'audit.
Quelle API de modération de texte choisir ?
Les API d'un seul éditeur (OpenAI, Azure, Mistral) permettent de démarrer vite, mais vous enferment dans un seul modèle, figé entre deux mises à jour. OpenModeration s'appuie sur sa propre IA, fait arbitrer les cas délicats par d'autres modèles d'IA et branche rapidement les nouveaux modèles plus performants, sans changement de votre côté. Préfiltrage, règles et console de revue sont inclus.
Combien coûte une API de modération de texte ?
Le point d'accès de modération d'OpenAI est gratuit, Mistral fixe lui-même le prix de son modèle de modération, et Azure AI Content Safety facture par tranche de 1 000 enregistrements de texte au-delà d'un palier gratuit de 5 000 enregistrements par mois. OpenModeration est gratuit jusqu'à 1 000 requêtes par mois ; le cloud géré démarre ensuite à 99 €/mois pour 10 000 requêtes, et le préfiltrage écarte d'emblée 10 à 30 % des contenus évidents.
Puis-je définir des règles de modération sur mesure ?
Oui, avec trois outils et sans code : les mots interdits (blocage immédiat), les seuils par catégorie (approbation automatique, revue humaine par notre équipe ou rejet automatique) et des règles en langage courant, appliquées par des LLM pour des catégories sur mesure comme la désinformation ou le grooming.
Puis-je migrer depuis openai text-moderation-latest ?
Oui. Remplacez openai.moderations.create par un seul appel POST /v1/moderation. Les scores reviennent dans un format standardisé, et vous gagnez règles sur mesure, revue humaine par notre équipe et journal d'audit sans réécrire votre code.
Chaque décision de modération de texte est-elle enregistrée ?
Oui. Chaque décision, prise par l'IA ou par un humain, conserve les scores de l'IA, les seuils, le nom du relecteur et l'horodatage. Exportez le journal d'audit complet en un clic pour vos rapports de transparence DSA.
Commencez à modérer du texte en quelques minutes.
Obtenez une clé d'API, copiez l'exemple curl et modérez votre premier texte. Règles, revue des cas douteux par notre équipe et journal d'audit sont disponibles dès le premier jour.
Sans carte bancaire · Conforme au DSA · Conforme au RGPD
Une question ? contact@openmoderation.com