Présentation d'OpenModeration, une IA de modération qui suit le marché
Nous annonçons aujourd'hui OpenModeration, une plateforme de modération de contenu qui repose sur sa propre IA, arbitrée par d'autres modèles d'IA sur les cas délicats, et qui progresse au rythme du marché.
Le problème que nous résolvons
Beaucoup d'outils de modération reposent sur un seul algorithme maison, figé entre deux mises à jour. Pendant que les modèles d'IA deviennent chaque année meilleurs et moins chers, ces outils restent bloqués sur le modèle d'hier, et leurs clients avec eux.
Pendant ce temps, le volume de contenus générés par les utilisateurs progresse de 30 à 40 % par an. Le DSA impose légalement aux plateformes de modérer. Et l'UE prend l'application du texte très au sérieux : les amendes peuvent atteindre 6 % du chiffre d'affaires mondial.
Le marché a besoin d'une modération qui suit les progrès de l'IA, sans que chaque nouveau modèle oblige ses clients à tout refaire.
Ce que nous construisons
OpenModeration est une plateforme de modération complète, pas un simple proxy d'API :
- Notre propre IA de modération : entraînée pour la modération des commentaires et paramétrée selon vos règles et vos cas d'usage.
- Arbitrage par d'autres IA : sur les cas délicats, d'autres modèles d'IA arbitrent la décision avant qu'elle soit appliquée.
- Indépendante des modèles : quand un modèle d'IA plus performant ou moins cher sort, nous le branchons rapidement. Rien ne change de votre côté.
- API de modération : POST /v1/moderation renvoie un verdict et des scores standardisés par catégorie.
- Moteur d'actions : définissez vos règles avec trois outils simples, à savoir des mots interdits, des seuils par catégorie et des consignes rédigées en langage courant.
- Connecteurs natifs : intégration de Facebook, Instagram, YouTube et WordPress en BYOC (vos propres identifiants).
- Tableau de bord d'administration : une interface React Admin pour gérer les clés, consulter les journaux et analyser l'utilisation.
- Journal d'audit conforme au DSA : chaque modération est consignée dans le détail et exportable pour la conformité.
Pourquoi la transparence
La modération est avant tout une affaire de confiance. Une plateforme de modération propriétaire est une boîte noire : vous ne pouvez vérifier ni ce qu'elle fait, ni comment elle prend ses décisions, ni où vont vos données.
C'est pourquoi chaque décision d'OpenModeration s'accompagne d'une explication écrite, et chaque étape est consignée dans un journal d'audit complet. Vos données sont hébergées dans l'Union européenne et restent exportables.
La suite
Nous lançons le bloc 1 (l'API de modération et le tableau de bord) et livrerons les blocs 2 et 3 (ingestion, moteur d'actions, connecteurs) dans les prochains mois. Notre offre SaaS hébergée suivra plus tard dans l'année.
Si vous construisez une plateforme qui a besoin de modération, vos retours nous intéressent. Parlons-en : présentez-nous vos cas d'usage et dites-nous ce que vous en pensez.