Fonctionnalités
La plateforme couvre toute la chaîne de modération, de la collecte des contenus jusqu'à l'action. L'API n'en est qu'une partie.
Une seule intégration
Un point d'accès API unique relié à notre propre IA de modération. Les résultats arrivent toujours dans le même format, sans code supplémentaire.
Notre propre IA, arbitrée par d'autres
Envoyez un contenu une seule fois et recevez un verdict clair (accepté ou refusé) ainsi que les scores par catégorie. Sur les cas délicats, d'autres modèles d'IA arbitrent la décision avant qu'elle soit appliquée.
Catégories de contenus prêtes à l'emploi
Des catégories toutes faites couvrant la haine, le harcèlement, les contenus sexuels, la violence, l'automutilation, le spam, la désinformation, les données personnelles et plus encore.
Toujours le meilleur modèle du marché
Quand un modèle d'IA plus performant ou moins cher sort, nous le branchons rapidement. Rien ne change de votre côté, et vous profitez des progrès de l'IA.
Des décisions de modération plus justes
Tenez compte du contexte de la conversation, de l'historique de l'auteur, du type de canal et de vos propres politiques pour des décisions plus précises.
Revue de contenus en masse
Envoyez jusqu'à 10 000 contenus d'un coup pour un traitement asynchrone. Les résultats sont transmis à votre système dès qu'ils sont prêts.
Politiques de modération sur mesure
Définissez vos propres catégories en langage courant. Fournissez des exemples et laissez le modèle classer les contenus à votre façon.
Console de modération
Une interface web complète pour piloter vos opérations de modération de contenu.
Gestion des accès
Créez et gérez vos clés d'accès. Fixez des limites d'usage et des permissions pour chaque clé.
Gestion de l'équipe et des rôles
Invitez vos collègues, attribuez des rôles et définissez les permissions pour qu'ils suivent les décisions en temps réel.
Gestion des signalements
Les signalements des utilisateurs sont traités par notre équipe. Vous suivez leur résolution en temps réel, et aucun contenu signalé ne passe entre les mailles du filet.
Historique d'activité
Chaque requête de modération est enregistrée avec son verdict, la règle appliquée, le temps de réponse et les scores par catégorie.
Suivi de l'état du service
Consultez en temps réel la disponibilité, les temps de réponse et le taux d'erreur de la modération.
Rapports de performance
Suivez le volume de modération et les taux de signalement, et analysez l'évolution des décisions par catégorie.
Gestion des connecteurs
Connectez vos comptes de réseaux sociaux avec vos propres identifiants.
Configuration des règles
Définissez vos mots interdits, réglez les seuils par catégorie et rédigez vos règles en langage courant : trois outils simples, sans code.
Modération automatique
Définissez vos règles de modération avec trois outils simples : les mots interdits, les seuils par catégorie et vos consignes rédigées en langage courant.
Règles d'IA sensibles au contexte
Combinez les scores de confiance de l'IA avec les règles de votre communauté, et sortez d'une logique de mots-clés rigide et fragile.
Actions automatiques
Lorsqu'un seuil est dépassé, le moteur d'actions prend le relais : masquer, supprimer, signaler, notifier ou marquer comme spam.
L'humain dans la boucle
Les cas nuancés ou limites sont traités par notre équipe. Vous voyez chaque décision et pouvez intervenir quand vous voulez.
Revue humaine par notre équipe
Les contenus signalés sont examinés par notre équipe. Vous gardez la main : vous pouvez approuver ou rejeter vous-même à tout moment.
Notifications par webhook
Recevez des alertes en temps réel pour les contenus signalés, la fin d'un traitement par lots, les erreurs de traitement, et plus encore.
Journal d'audit complet
Chaque action est enregistrée : la règle déclenchée, l'action effectuée et le résultat.
Intégrations aux plateformes
Connectez-vous directement aux réseaux sociaux et à votre blog pour récupérer et modérer automatiquement les contenus.
Recevez commentaires et publications. Masquez ou supprimez automatiquement les contenus qui enfreignent vos règles.
Modérez les commentaires et les messages Instagram. Protégez votre profil des contenus toxiques ou indésirables.
YouTube
Récupérez les commentaires de vos vidéos. Les spams sont marqués automatiquement, les cas douteux traités par notre équipe.
WordPress
Modérez les commentaires de votre blog. Approuvez, mettez en attente ou marquez comme spam automatiquement.
Vos propres accès aux plateformes
Utilisez vos propres jetons de plateforme. Nous ne les stockons jamais en clair.
Réception de webhooks génériques
Récupérez les contenus de toute plateforme capable d'envoyer des webhooks sortants.
Rappel par webhook générique
Envoyez les résultats de modération vers votre propre webhook pour vos intégrations sur mesure.
Une API prévisible
Les résultats gardent le même format, même quand nous branchons un nouveau modèle d'IA. Une seule intégration suffit.
Le même format d'une version de modèle à l'autre, sans une ligne de code en plus.
Des clés d'accès sécurisées, avec des permissions ciblées et des limites d'usage pour chaque clé.
Une documentation d'API interactive, générée automatiquement. Testez vos requêtes directement depuis votre navigateur.
# Une requête, une réponse standardisée
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "Your text to moderate here",
"language": "en"
}'
# Réponse (toujours le même format)
{
"id": "modr_01JXK...",
"results": [{
"category": "hate",
"score": 0.02,
"flagged": false
}],
"flagged": false,
"usage": {
"latency_ms": 243
}
}Protégez votre marque en quelques minutes.
Connectez votre site ou vos pages et partagez vos règles et vos cas d'usage. Nous mettons en place la modération et la faisons tourner pour vous : notre équipe traite les cas douteux et les signalements, et vous voyez chaque décision et son explication en temps réel.
Sans carte bancaire · Conforme au DSA · Conforme au RGPD
Une question ? contact@openmoderation.com