Automatische Kommentarmoderation: So entscheidet die KI
Automatisch heißt nicht blind. Das passiert in den Sekunden nach dem Absenden eines Kommentars: was die KI liest, wie sie Kontext und Ironie gewichtet, wo die Schwellenwerte liegen und welche Fälle sie bewusst einem Menschen überlässt.
Sie vertrauen uns
Das Problem
Wortlisten urteilen über den Wortlaut, nicht über die Bedeutung. Sie sperren „Die Abwehr wurde heute abgeschlachtet“ und lassen „Geh doch zurück, wo du herkommst“ durch. Und ein Filter, der Kommentare ohne Begründung ausblendet, lässt sich niemandem gegenüber verteidigen.
Der Ansatz von OpenModeration
Unsere KI liest den Kommentar mit seinem Umfeld: Artikel oder Post, die Nachricht, auf die er antwortet, seine Sprache. Sie bewertet jede Kategorie Ihrer Regeln und vergleicht den Wert mit zwei Schwellen: darunter wird veröffentlicht, darüber ausgeblendet, dazwischen entscheidet ein Mensch.
Das Ergebnis
Eindeutige Fälle sind in Sekunden erledigt, Tag und Nacht. Unsichere Fälle gehen an unsere Moderatorinnen und Moderatoren, statt geraten zu werden. Jede Entscheidung, ob automatisch oder menschlich, kommt mit einem erklärenden Satz.
Was die KI liest, bevor sie entscheidet
Vier Signale, gemeinsam gelesen. Keines davon ist eine Liste verbotener Wörter.
Die Seite
Derselbe Satz bedeutet unter einem Spielbericht etwas anderes als unter einem Artikel über ein Verbrechen. Die KI liest das Thema vor dem Kommentar.
Das Gespräch
Eine Antwort wird zusammen mit der Nachricht gelesen, auf die sie sich bezieht. Spott über ein Argument ist kein Angriff auf eine Person.
Ironie und Codes
Verfremdete Schreibweisen, Emojis als Beleidigung, Chiffren: Die KI achtet darauf, was gemeint ist, nicht nur darauf, was dasteht.
Ihre Regeln
Jede Kategorie wird an den Regeln gemessen, die wir mit Ihnen in Alltagssprache festgelegt haben: was Sie zulassen, was nicht und wo Sie Vorsicht wünschen.
Sechs Kommentare, sechs Entscheidungen
Beispiele zur Veranschaulichung: Dieselbe KI kommt je nach Kontext und Ihren Regeln zu unterschiedlichen Ergebnissen.
Unter einem Bundesliga-Spielbericht
„Die Abwehr wurde heute regelrecht abgeschlachtet, was für ein Desaster.“
Veröffentlicht
Gewaltvokabular im sportlichen Sinn. Kritik an einer Mannschaftsleistung, keine Person im Visier.
Unter einem Artikel über eine neue Ministerin
„Super, noch ein Genie an der Spitze. Ich kann es kaum erwarten.“
Veröffentlicht
Ironisch, aber gegen die Rolle einer Person des öffentlichen Lebens gerichtet. Politische Kritik ist nach Ihren Regeln erlaubt.
Antwort auf eine andere Leserin
„Solche Leute wie die gehören zurück, wo sie herkommen.“
Ausgeblendet
Ausgrenzung aufgrund der Herkunft, gegen eine Person gerichtet. Verstößt gegen die Regel zu Hassinhalten.
Unter einem Instagram-Post
„500 € am Tag von zu Hause verdienen, schreib mir per DM 💰“
Ausgeblendet
Werbespam mit Kontaktaufforderung. Verstößt gegen die Regel zu Betrug und Werbung.
Unter einer Lokalnachricht
„Wir wissen ja alle, was in dem Viertel nachts so los ist…“
An unser Team
Mögliche Anspielung auf eine Gruppe, ohne ausdrückliches Ziel. Der Wert liegt zwischen den beiden Schwellen: Ein Moderator entscheidet.
Unter einem Artikel über den Stadtrat
„Der Bürgermeister hat beim Haushalt gelogen und sollte zurücktreten.“
Veröffentlicht
Harter Vorwurf gegen einen Amtsträger in einer politischen Debatte. Weder Beleidigung noch Drohung.
Schwellenwerte: Wo die Automatik endet
Für jede Kategorie Ihrer Regeln teilen zwei Schwellen die Kommentare in drei Ergebnisse. Wir legen sie mit Ihnen fest und justieren sie nach dem Test auf Ihren Kommentaren.
| Kategorie | Automatisch veröffentlicht | An unser Team | Automatisch ausgeblendet |
|---|---|---|---|
| Beleidigungen | Rauer Ton ohne Ziel | Beleidigung, die Zitat oder Scherz sein kann | Beleidigung gegen eine Person |
| Hass | Debatte über ein heikles Thema | Mehrdeutige Verallgemeinerung über eine Gruppe | Angriff wegen Herkunft, Religion, Geschlecht… |
| Drohungen | Bildhafte Gewalt („Die Prüfung mach ich platt“) | Unklare Absicht | Ausdrückliche Drohung gegen jemanden |
| Spam und Betrug | Link mit Bezug zur Diskussion | Wiederholte Werbebotschaft | Betrügerisches Angebot, Phishing |
| Themenfremdes | Randbemerkung, die sachlich bleibt | Langer Text ohne Bezug | Flooding, Copy-Paste-Kampagnen |
Strenger oder lockerer? Sie wählen pro Kategorie: Eine stark frequentierte Nachrichtenseite und eine Markenseite setzen selten dieselben Schwellen.
Warum sie OpenModeration wählen
Sie rät nicht
Ist sich die KI unsicher, geht der Kommentar an unsere Moderatorinnen und Moderatoren, die nach Ihren Regeln entscheiden.
Meldungen und Beschwerden bleiben menschlich
Nutzermeldungen und angefochtene Entscheidungen prüft ein Mensch aus unserem Team, wie es der DSA verlangt.
Das letzte Wort haben Sie
Sie sehen jede automatische Entscheidung in Echtzeit mit Begründung und können jede davon ändern.
Häufige Fragen
Wie funktioniert automatische Kommentarmoderation?
Jeder Kommentar wird mit seinem Kontext gelesen, für jede Kategorie Ihrer Regeln bewertet und mit zwei Schwellen verglichen: veröffentlichen, ausblenden oder an einen Menschen weitergeben. Das Ganze dauert wenige Sekunden.
Versteht die KI Ironie?
Weit besser als eine Wortliste, weil sie den Kommentar zusammen mit der Seite und dem Gespräch liest. Macht Ironie einen Kommentar wirklich mehrdeutig, liegt sein Wert zwischen den Schwellen, und unser Team entscheidet.
Was passiert, wenn die KI danebenliegt?
Sie können jede Entscheidung in der Konsole rückgängig machen, und Verfasser können Beschwerde einlegen. Wiederkehrende Fehler nutzen wir, um Ihre Regeln und Schwellen mit Ihnen nachzujustieren.
In welchen Sprachen funktioniert das?
Kommentare werden in ihrer eigenen Sprache analysiert, auch in den Sprachen Ihres Publikums, ohne Übersetzungsschritt, bei dem Nuancen verloren gehen.
Kann ich die Entscheidungen vor dem Start prüfen?
Ja. Ein kostenloser Sandbox-Test auf Ihren echten Kommentaren zeigt jede Entscheidung und ihre Begründung, bevor etwas live geht.
Sehen Sie der KI bei Ihren eigenen Kommentaren zu.
Vereinbaren Sie einen Termin: Wir lassen Ihre jüngsten Kommentare durch die KI laufen und gehen jede Entscheidung samt Begründung mit Ihnen durch.
Keine Kreditkarte erforderlich · DSA-konform · DSGVO-konform
Fragen? contact@openmoderation.com