Sie verbinden Ihre Seiten. Wir moderieren. Sie sehen alles.
Kein Moderationstool, das Sie bedienen müssen: Unsere KI und unser Team wenden Ihre Regeln rund um die Uhr an, und Sie behalten den vollen Überblick und das letzte Wort.
Drei Schritte, und nichts zu bedienen
-
1
Sie verbinden Ihre Seiten
Website, Facebook, Instagram, YouTube oder WordPress: Unser Team verbindet sie mit Ihnen und richtet Ihre Regeln auf Basis Ihrer Netiquette und Anwendungsfälle ein.
-
2
Unsere KI und unser Team moderieren nach Ihren Regeln
Unsere KI liest jeden Kommentar im Kontext und entscheidet die klaren Fälle. Heikle Fälle werden von weiteren KI-Modellen gegengeprüft; Zweifelsfälle, Meldungen und Beschwerden bearbeitet unser Team.
-
3
Sie sehen alles in Echtzeit
Jede Entscheidung kommt mit ihrer schriftlichen Begründung. Sie verfolgen alles in der Konsole und können jederzeit eingreifen oder korrigieren.
Ihr Team muss nichts tun, außer es möchte. Der Verlauf jeder Entscheidung bleibt für Ihre DSA-Pflichten verfügbar.
Was mit jedem Kommentar passiert
Die Entscheidungen werden direkt auf Ihrer Website und Ihren Seiten umgesetzt, und jede wird mit ihrer Begründung protokolliert.
Saubere Kommentare gehen online
Konstruktive Kommentare, auch kritische, werden normal veröffentlicht. Die Diskussion läuft weiter.
Missbrauch erreicht Ihre Leser nicht
Beleidigungen, Drohungen und Spam werden auf Facebook und Instagram ausgeblendet und auf YouTube und Ihrer Website abgelehnt, mit schriftlicher Begründung.
Zweifelsfälle gehen an unser Team
Wenn die KI zögert, wird der Kommentar zurückgehalten und unser Team entscheidet nach Ihren Regeln. Nichts wird versehentlich veröffentlicht, nichts geht verloren.
Ihre Tools bleiben informiert
Auf Wunsch wird jede Entscheidung an Ihre eigenen Tools übermittelt: Ihre Teams sind informiert, ohne ihre Gewohnheiten zu ändern.
Sehen Sie es zuerst an Ihren eigenen Kommentaren
Wir testen OpenModeration mit Ihren echten Kommentaren, still und parallel zu Ihrem aktuellen Dienstleister, falls Sie einen haben. Sie vergleichen Entscheidung für Entscheidung, bevor Sie wählen.
Für Entwickler
Unter der Haube: die Pipeline in vier Stufen
Hinter den drei Schritten durchläuft jeder Kommentar vier technische Stufen. Das muss Ihr Technik-Team wissen.
1. Erfassung
Kommentare kommen über die API, einen Webhook oder einen Social-Media-Konnektor.
2. KI-Moderation
Unsere KI analysiert den Kommentar; weitere Modelle prüfen heikle Fälle gegen.
3. Regeln und Aktionen
Ihre Regeln werden ausgewertet, dann laufen die Aktionen automatisch.
4. Menschliche Prüfung
Unser Team bearbeitet Zweifelsfälle; Sie können jederzeit eingreifen.
Kommentare kommen von überall
Senden Sie Kommentare über die REST-API, einen generischen Webhook oder die nativen Konnektoren, die Kommentare automatisch abrufen.
- API: POST /v1/moderation, einzeln oder im Stapel
- Webhooks: ein generischer Endpunkt empfängt und normalisiert externe Daten
- Konnektoren: Facebook, Instagram, YouTube und WordPress
Beispiel: ein Facebook-Kommentar
// Facebook sendet den Kommentar per Webhook
{
"source": "facebook",
"content_id": "comment_123",
"author_id": "user_456",
"text": "Comment text here...",
"metadata": {"post_url": "..."}
}Die KI moderiert den Kommentar
Jeder Kommentar wird von unserer im Haus entwickelten Moderations-KI analysiert, eingestellt auf Ihre Regeln. Heikle Fälle werden von weiteren KI-Modellen gegengeprüft. Die Ergebnisse kommen in einem Standardformat zurück, mit Werten von 0,0 bis 1,0 pro Kategorie.
- Das Antwortformat ändert sich nie
- Kommt ein besseres Modell heraus, binden wir es ein: Für Sie ändert sich nichts
Standardisierte Antwort
{
"results": [{
"category": "hate",
"score": 0.02,
"flagged": false
}],
"flagged": false,
"usage": {
"latency_ms": 243
}
}Ihre Regeln greifen automatisch
Die Regeln kombinieren verbotene Wörter für eine sofortige Sperre, Schwellenwerte pro Kategorie und Regeln in Alltagssprache, die die KI im Kontext anwendet. Unser Team richtet sie mit Ihnen ein; Ihre Entwickler können sie auch über die API verwalten.
- Verbotene Wörter sperren einen Kommentar sofort, vor jedem KI-Aufruf
- Schwellenwerte pro Kategorie lösen Aktionen automatisch aus
- Regeln in Alltagssprache bestimmen den Ton Ihrer Bereiche
Konfiguration über die API
// Moderationsschwellen festlegen
PUT /v1/settings
{
"thresholds": {
"hate": { "accepted": 0.3, "rejected": 0.7 },
"harassment": { "accepted": 0.3, "rejected": 0.7 },
"sexual": { "accepted": 0.2, "rejected": 0.8 },
"violence": { "accepted": 0.3, "rejected": 0.7 },
"self-harm": { "accepted": 0.2, "rejected": 0.8 },
"spam": { "accepted": 0.4, "rejected": 0.8 }
},
"actions": {
"on_reject": ["hide", "flag_for_review"]
}
}Alles wird protokolliert
Jede Entscheidung, ob von der KI oder von unserem Team, wird mit Begründung, Urheber und ausgeführten Aktionen protokolliert. Webhooks können Ihre Tools über jede informieren.
- Jede Korrektur wird mit Urheber und Begründung gespeichert
- Vollständiger Verlauf für Audits und DSA-Berichte
Audit-Trail für jeden Kommentar
// Vollständiger Audit-Trail für jeden Kommentar
{
"content_id": "...",
"source": "webhook",
"platform": "facebook",
"status": "actioned",
"moderation": {
"flagged": true,
"results": [...]
},
"actions": [{
"rule": "Hide hate speech",
"type": "hide",
"status": "executed"
}]
}Schützen Sie Ihre Marke in wenigen Minuten.
Verbinden Sie Ihre Website oder Ihre Seiten und nennen Sie uns Ihre Regeln und Anwendungsfälle. Wir richten die Moderation ein und betreiben sie für Sie: Unser Team bearbeitet Zweifelsfälle und Meldungen, und Sie sehen jede Entscheidung mit ihrer Begründung in Echtzeit.
Keine Kreditkarte erforderlich · DSA-konform · DSGVO-konform
Fragen? contact@openmoderation.com