📖 Glossar der Moderation
Was ist hybride Moderation?
Kurz gesagt
Hybride Moderation ist ein Moderationsmodell, bei dem Software eindeutige Inhalte automatisch bearbeitet und Menschen die mehrdeutigen oder heiklen Fälle prüfen, sodass jede Entscheidung von dem getroffen wird, der dafür am besten geeignet ist.
Rein menschliche Moderation skaliert nicht, und reine Automatisierung macht Fehler bei Ironie, Zitaten, Slang und Kontext. Hybride Moderation teilt die Arbeit auf: Die Maschine übernimmt Volumen und Geschwindigkeit, Menschen übernehmen Nuancen und Verantwortung.
Beispiel: Unter dem Beitrag einer Marke, die eine Preiserhöhung ankündigt, blendet die KI offensichtliche Beleidigungen und Spam sofort aus, lässt verärgerte, aber berechtigte Beschwerden sichtbar und leitet einen Kommentar, der eine versteckte Drohung sein könnte, an einen Moderator weiter, der mit dem vollständigen Kontext in wenigen Sekunden entscheidet.
Für Medien, Marken und öffentliche Einrichtungen ist hybride Moderation der Weg, zugleich schnell und fair zu sein. Sie passt auch zum Digital Services Act, der erwartet, dass angefochtene Entscheidungen auf Online-Plattformen unter der Aufsicht qualifizierten Personals und nicht ausschließlich automatisiert überprüft werden (Artikel 20).
OpenModeration basiert auf diesem Modell: Eindeutige Verstöße werden automatisch ausgeblendet, Kritik bleibt sichtbar und Zweifelsfälle bearbeitet das OpenModeration-Team. Sie sehen jede Entscheidung in Echtzeit in einer Konsole und können sie jederzeit ändern.