Een tekstmoderatie-API die ook iets doet met de score.
Eén endpoint modereert reacties, chat, berichten en reviews met onze eigen AI, bij lastige gevallen gecontroleerd door andere modellen. Voorfiltering, eigen regels, dubbele drempels en een audittraject dat klaar is voor de DSA zijn inbegrepen.
Gratis abonnement · Geen creditcard · OpenAPI-referentie
Elke tekst modereren, met één verzoek
Stuur tekst naar één endpoint. Onze moderatie-AI analyseert hem, en andere AI-modellen controleren de lastige gevallen. Scores komen terug in één formaat, met drempels die jij bepaalt.
- ✓10 categorieën, meertalig. Haat, intimidatie, seksuele content, geweld, zelfbeschadiging, spam, persoonsgegevens en je eigen categorieën.
- ✓Voorfilter. Duidelijke spam en verboden woorden worden geblokkeerd vóór elke AI-aanroep.
- ✓Dubbele drempels. Duidelijke gevallen worden automatisch goedgekeurd of afgewezen, en het grijze gebied wordt beoordeeld door ons team.
- ✓Batches tot 10.000 teksten. Batchaanroepen gebruiken hetzelfde schema als aanroepen voor één tekst.
# Modereer elke tekst: reacties, chat, berichten, reviews
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "user comment here",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Response (gestandaardiseerd formaat)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Gemaakt voor elke use case van tekstmoderatie
Eén API voor elke plek waar gebruikers typen.
Reacties en reviews
Verberg haatzaaiende taal, spam en gelekte persoonsgegevens in reacties, reviews en forumberichten automatisch, nog voordat ze online staan.
Chat en berichten
Realtime moderatie in veel talen, met een latentie onder 250 ms en automatische acties.
Prompts in AI-apps
Filter wat gebruikers insturen en wat je LLM antwoordt. Je eigen categorieën kunnen in de loop van de tijd veranderen.
Advertenties op marktplaatsen
Markeer spamadvertenties, oplichting en verboden content in titels en beschrijvingen zodra ze binnenkomen.
Kale model-API vs OpenModeration
Een kale toxiciteitsscore is nog geen moderatiesysteem.
| Functie | Kale tekst-API van een model | OpenModeration |
|---|---|---|
| AI-engine | Eén model (lock-in) | Onze eigen AI, gecontroleerd door andere modellen; betere modellen worden aangesloten zodra ze uitkomen |
| Eigen regels | Zelf bouwen | Verboden woorden, drempels en regels in gewone taal toegepast door AI, zonder code |
| Menselijke beoordeling | Zelf bouwen | Twijfelgevallen afgehandeld door ons team; jij ziet elke beslissing in realtime en kunt ingrijpen |
| Audittraject | Alleen API-logs | Volledige DSA-export van beslissingen door AI en mensen |
| Prijs | Bepaald door elke leverancier, van gratis (OpenAI) tot betalen per aanroep | Gratis abonnement tot 1.000 verzoeken per maand · Pro vanaf € 99 per maand |
Tekstmoderatie-API: veelgestelde vragen
Wat is een tekstmoderatie-API?
Een tekstmoderatie-API geeft scores aan wat gebruikers schrijven (haat, intimidatie, seksuele content, geweld, spam, persoonsgegevens…) zodat je app het automatisch kan goedkeuren, markeren of afwijzen. OpenModeration draait zijn eigen moderatie-AI achter één endpoint, bij lastige gevallen gecontroleerd door andere AI-modellen, met één responseformaat, eigen regels en een audittraject.
Welke tekstmoderatie-API moet ik kiezen?
Kale model-API's (OpenAI, Azure, Mistral) zijn snel op te starten, maar binden je aan één model dat tussen twee updates stilstaat. OpenModeration draait zijn eigen moderatie-AI, laat lastige gevallen controleren door andere AI-modellen, sluit betere modellen aan zodra ze uitkomen en voegt voorfiltering, regels en menselijke beoordeling van twijfelgevallen door ons team toe.
Wat kost een tekstmoderatie-API?
Het moderatie-endpoint van OpenAI is gratis, Mistral bepaalt zelf de prijs van zijn moderatiemodel, en Azure AI Content Safety rekent per 1.000 tekstrecords af na een gratis tegoed van 5.000 records per maand. OpenModeration heeft een gratis abonnement tot 1.000 verzoeken per maand. Het Pro-abonnement in de beheerde cloud begint bij € 99 per maand voor 10.000 verzoeken.
Kan ik eigen moderatieregels opstellen?
Ja, met drie hulpmiddelen en zonder code. Verboden woorden blokkeren een bericht direct. Drempels per categorie bepalen of iets automatisch wordt goedgekeurd, door ons team wordt beoordeeld of automatisch wordt afgewezen. Je eigen regels, in gewone taal geschreven, worden door onze AI toegepast voor categorieën zoals desinformatie of grooming.
Kan ik overstappen van openai text-moderation-latest?
Ja. Vervang openai.moderations.create door één aanroep van POST /v1/moderation. Je krijgt gestandaardiseerde scores, schriftelijke motiveringen en een audittraject, en als wij een beter AI-model aansluiten, verandert er niets aan je code.
Wordt elke moderatiebeslissing vastgelegd?
Ja. Bij elke beslissing van de AI of van een mens worden de scores, drempels, beoordelaar en tijdstempel bewaard. Je exporteert het volledige audittraject met één klik voor je DSA-transparantieverslagen.
Begin binnen enkele minuten met tekstmoderatie.
Vraag een API-sleutel aan, kopieer het curl-voorbeeld en modereer vandaag nog je eerste tekst, met regels, menselijke beoordeling door ons team en een audittraject vanaf dag één.
Geen creditcard nodig · DSA-conform · AVG-conform
Vragen? contact@openmoderation.com