OpenModeration vorgestellt: die einheitliche Moderationsplattform

Heute stellen wir OpenModeration vor: eine Plattform, die Content Moderation hinter einer einzigen API vereint, mit einer eigenen Moderations-KI, die in heiklen Fällen von weiteren KI-Modellen gegengeprüft wird.

Das Problem, das wir lösen

Content Moderation ist fragmentiert. Viele Tools beruhen auf einem einzigen hauseigenen Algorithmus, der zwischen zwei Updates stillsteht. Wer selbst ein KI-Modell integriert, muss bei jedem Modellwechsel seine Moderationspipeline neu schreiben, während jedes Jahr bessere und günstigere Modelle erscheinen.

Gleichzeitig wächst das Volumen nutzergenerierter Inhalte jährlich um 30 bis 40 %. Der DSA verpflichtet Plattformen gesetzlich zur Moderation. Und die EU meint es ernst mit der Durchsetzung: Die Bußgelder können bis zu 6 % des weltweiten Umsatzes erreichen.

Der Markt braucht eine standardisierte Schicht. So wie Stripe für Zahlungen oder Twilio für Kommunikation.

Was wir bauen

OpenModeration ist eine vollständige Moderationsplattform und nicht bloß ein API-Proxy:

• Einheitliche API: POST /v1/moderation liefert immer dasselbe standardisierte Format, mit einer schriftlichen Begründung für jede Entscheidung.
• Gegengeprüfte KI: Unsere eigene Moderations-KI wird in heiklen Fällen von weiteren KI-Modellen gegengeprüft. Kommt ein besseres oder günstigeres Modell heraus, binden wir es schnell an. Für Sie ändert sich nichts.
• Action Engine: Regeln mit drei einfachen Werkzeugen definieren: verbotene Wörter, Schwellenwerte pro Kategorie und Vorgaben, die Sie in Alltagssprache formulieren.
• Native Konnektoren: Integration von Facebook, Instagram, YouTube und WordPress über die offiziellen APIs der Plattformen, mit Ihren eigenen Zugangsdaten.
• Admin-Dashboard: React-Admin-Oberfläche zum Verwalten von Schlüsseln, Einsehen von Logs und Analysieren der Nutzung.
• DSA-konformer Audit-Trail: Jede Moderation wird mit allen Details protokolliert und lässt sich für die Compliance exportieren.

Warum Transparenz

Bei Moderation geht es im Kern um Vertrauen. Eine Moderation, die ihre Entscheidungen nicht erklärt, ist eine Blackbox: Sie können nicht nachvollziehen, was sie tut, wie sie Entscheidungen trifft oder wohin Ihre Daten fließen.

Deshalb begründet OpenModeration jede Entscheidung schriftlich und hält sie in einem vollständigen Audit-Trail fest. Ihre Daten werden in der EU gehostet und lassen sich jederzeit exportieren.

Wie es weitergeht

Wir starten mit Block 1 (der zentralen Moderations-API und dem Dashboard) und liefern Block 2 und 3 (Datenerfassung, Action Engine, Konnektoren) in den kommenden Monaten aus. Unser gehostetes SaaS folgt im Laufe des Jahres.

Wenn Sie eine Plattform entwickeln, die Moderation braucht, freuen wir uns über Ihr Feedback. Vereinbaren Sie einen Termin: Wir zeigen Ihnen die Plattform und richten sie gemeinsam mit Ihnen auf Ihre Regeln und Anwendungsfälle ein.