Maak kennis met OpenModeration, het centrale moderatieplatform
Vandaag kondigen we OpenModeration aan, een platform voor contentmoderatie dat draait op onze eigen moderatie-AI, waarbij andere AI-modellen de lastige gevallen controleren.
Het probleem dat we oplossen
Veel moderatietools draaien op één eigen algoritme dat tussen twee updates stilstaat. Ondertussen worden AI-modellen elk jaar beter en goedkoper, en platforms die vastzitten aan het model van gisteren missen die vooruitgang.
Ondertussen groeit de hoeveelheid door gebruikers gegenereerde content met 30 tot 40% per jaar. De DSA verplicht platforms wettelijk om te modereren. En de EU handhaaft dat: boetes kunnen oplopen tot 6% van de wereldwijde omzet.
De markt heeft een standaardlaag nodig, zoals betalingen Stripe hebben en communicatie Twilio.
Wat we bouwen
OpenModeration is een volledig moderatieplatform. Naast de API omvat het:
- Onze eigen moderatie-AI. POST /v1/moderation geeft gestandaardiseerde scores per categorie, en andere AI-modellen controleren de lastige gevallen.
- Modelonafhankelijke engine. Komt er een beter of goedkoper AI-model uit, dan sluiten we het snel aan. Voor jou verandert er niets.
- Action Engine. Stel regels op met drie tools: verboden woorden, drempels per categorie en je eigen regels in gewone taal.
- Native connectoren. Integratie met Facebook, Instagram, YouTube en WordPress via BYOC (Bring Your Own Credentials, met je eigen inloggegevens).
- Beheerconsole. Een React Admin-interface om sleutels te beheren, logs te bekijken en het gebruik te analyseren.
- DSA-conforme audittrail. Elke moderatie wordt volledig vastgelegd en kan worden geëxporteerd voor compliance.
Waarom transparantie
Moderatie draait om vertrouwen. Een moderatietool die alleen "verwijderd" of "behouden" teruggeeft, is een black box: je kunt niet controleren wat hij doet, hoe hij beslist of waar je gegevens naartoe gaan.
Bij OpenModeration wordt elke beslissing schriftelijk uitgelegd en vastgelegd in een volledige audittrail. De gegevens worden gehost in de EU en je kunt ze exporteren wanneer je maar wilt.
Wat er nog komt
We starten met Blok 1 (de kern-API voor moderatie en de console) en leveren Blok 2 en 3 (ingestie, Action Engine, connectoren) in de komende maanden. Onze gehoste SaaS volgt later dit jaar.
Bouw je een platform dat moderatie nodig heeft? Dan horen we graag je feedback. Plan een gesprek en laat ons weten wat je ervan vindt.