Eine Text-Moderation-API, die mehr kann als Scores vergeben.
Ein einziger Endpunkt moderiert jeden Text (Kommentare, Chats, Nachrichten, Bewertungen) mit unserer eigenen KI, die bei heiklen Fällen von weiteren Modellen geprüft wird. Vorfilterung, eigene Regeln, doppelte Schwellenwerte und ein DSA-tauglicher Audit-Trail sind inklusive.
Kostenlos bis 1.000 Anfragen/Monat · Keine Kreditkarte · OpenAPI-Referenz
Jeden Text mit einer einzigen Anfrage moderieren
Senden Sie Text an einen einzigen Endpunkt. Unsere Moderations-KI analysiert ihn, und weitere KI-Modelle prüfen heikle Fälle. Die Scores kommen standardisiert zurück, mit Schwellenwerten, die Sie selbst festlegen.
- ✓10 Kategorien, mehrsprachig: Hassrede, Belästigung, sexuelle Inhalte, Gewalt, Selbstverletzung, Spam, personenbezogene Daten und eigene Kategorien.
- ✓Vorfilterung: Offensichtlichen Spam und verbotene Wörter blockieren, bevor die KI überhaupt analysiert.
- ✓Doppelte Schwellenwerte: automatisch freigeben, Graubereich → Prüfung durch unser Team, automatisch ablehnen.
- ✓Batch mit bis zu 10.000 Texten: dasselbe Schema wie bei Einzelaufrufen.
# Beliebigen Text moderieren: Kommentare, Chats, Nachrichten, Bewertungen
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "Nutzerkommentar hier",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Antwort (standardisiertes Format)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Für jeden Anwendungsfall der Textmoderation gemacht
Eine API für jede Stelle, an der Nutzer etwas eintippen.
Kommentare & Bewertungen
Hassrede, Spam und preisgegebene personenbezogene Daten in Kommentaren, Bewertungen und Forenbeiträgen automatisch ausblenden, bevor sie online gehen.
Chat & Messaging
Textmoderation in Echtzeit über mehrere Sprachen hinweg, mit einer Latenz unter 250 ms und automatischen Aktionen.
Prompts in KI-Apps
Filtern Sie sowohl Nutzereingaben als auch LLM-Ausgaben. Ihre eigenen Kategorien können sich mit der Zeit wandeln.
Marktplatz-Angebote
Spam-Angebote, Betrug und verbotene Inhalte in Titeln und Beschreibungen schon beim Einstellen markieren.
Reine Modell-API vs. OpenModeration
Ein roher Toxizitäts-Score ist noch kein Moderationssystem.
| Funktion | Reine Modell-Text-API | OpenModeration |
|---|---|---|
| KI-Engine | Ein Modell (Lock-in) | Unsere eigene KI, von weiteren Modellen geprüft; bessere Modelle werden angebunden, sobald sie erscheinen |
| Eigene Regeln | Selbst bauen | Verbotene Wörter, Schwellenwerte und Regeln in natürlicher Sprache, von der KI angewendet, ohne Code |
| Menschliche Prüfung | Selbst bauen | Zweifelsfälle übernimmt unser Team; Sie sehen jede Entscheidung in Echtzeit und können eingreifen |
| Audit-Trail | Nur API-Logs | Vollständiger DSA-Export, KI- und menschliche Entscheidungen |
| Preise | Vom jeweiligen Hersteller festgelegt, von kostenlos (OpenAI) bis zur Abrechnung pro Aufruf | Kostenlos bis 1.000 Anfragen/Monat · Pro ab 99 €/Monat |
Text-Moderation-API: häufige Fragen
Was ist eine Text-Moderation-API?
Eine Text-Moderation-API bewertet nutzergenerierte Texte (Hassrede, Belästigung, sexuelle Inhalte, Gewalt, Spam, personenbezogene Daten …), damit Ihre Anwendung sie automatisch freigeben, markieren oder ablehnen kann. OpenModeration nutzt hinter einem einzigen Endpunkt eine eigene Moderations-KI, bei heiklen Fällen von weiteren KI-Modellen geprüft, mit standardisiertem Antwortformat, eigenen Regeln und Audit-Trail.
Welche Text-Moderation-API sollte ich wählen?
Reine Modell-APIs (OpenAI, Azure, Mistral) sind schnell eingebunden, binden Sie aber an ein einziges Modell, das zwischen zwei Updates stillsteht. OpenModeration nutzt eine eigene Moderations-KI, lässt heikle Fälle von weiteren KI-Modellen prüfen, bindet bessere Modelle an, sobald sie erscheinen, und ergänzt Vorfilterung, Regeln und die Prüfung von Zweifelsfällen durch unser Team.
Was kostet eine Text-Moderation-API?
Der Moderations-Endpunkt von OpenAI ist kostenlos, Mistral legt den Preis für sein Moderationsmodell selbst fest, und Azure AI Content Safety berechnet pro 1.000 Textdatensätze, nach einem kostenlosen Kontingent von 5.000 Datensätzen pro Monat. OpenModeration ist bis 1.000 Anfragen pro Monat kostenlos. Der Pro-Tarif beginnt bei 99 €/Monat für 10.000 Anfragen.
Kann ich eigene Moderationsregeln definieren?
Ja. Drei Werkzeuge, ganz ohne Code: verbotene Wörter (sofortige Sperre), Schwellenwerte pro Kategorie (automatisch freigeben / Prüfung durch unser Team / automatisch ablehnen) und Ihre Regeln in natürlicher Sprache, die unsere KI für eigene Kategorien wie Desinformation oder Cybergrooming durchsetzen.
Kann ich von OpenAI text-moderation-latest migrieren?
Ja. Ersetzen Sie openai.moderations.create durch einen einzigen POST /v1/moderation-Aufruf. Sie erhalten standardisierte Scores, schriftliche Begründungen und einen Audit-Trail, und wenn wir ein besseres KI-Modell anbinden, ändert sich nichts an Ihrem Code.
Wird jede Entscheidung der Textmoderation protokolliert?
Ja. Zu jeder KI- und jeder menschlichen Entscheidung bleiben die Scores, die Schwellenwerte, der prüfende Moderator und der Zeitstempel erhalten. Den vollständigen Audit-Trail exportieren Sie mit einem Klick für Ihre DSA-Transparenzberichte.
In wenigen Minuten mit der Textmoderation starten.
API-Schlüssel holen, curl-Beispiel kopieren und noch heute Ihren ersten Text moderieren, mit Regeln, menschlicher Prüfung durch unser Team und Audit-Trail vom ersten Tag an.
Keine Kreditkarte erforderlich · DSA-konform · DSGVO-konform
Fragen? contact@openmoderation.com