📖 Glossar der Moderation
Was macht ein Content-Moderator?
Kurz gesagt
Ein Content-Moderator ist eine Person, die nutzergenerierte Inhalte wie Kommentare, Beiträge und Bilder prüft, entscheidet, ob sie den Regeln eines Dienstes und dem Gesetz entsprechen, und dann die passende Maßnahme ergreift oder bestätigt.
Moderatoren wenden die Richtlinie auf reale Fälle an, von denen viele mehrdeutig sind: Ist das ein Witz oder eine Drohung, Kritik oder Belästigung, ein Zitat oder eine Beleidigung? Sie brauchen Urteilsvermögen, Kenntnis der Community und der Sprache sowie Konsequenz.
Die Arbeit ist anspruchsvoll. Der Kontakt mit gewalttätigen oder hasserfüllten Inhalten hinterlässt Spuren, und Mengendruck führt zu Fehlern. Automatisierung hilft, indem sie ihnen die offensichtlichen Fälle abnimmt, sodass Menschen ihre Zeit auf Entscheidungen verwenden, die Urteilsvermögen erfordern.
Beispiel: Eine Nachrichtenseite vertraut ihre Kommentare OpenModeration an. Die KI blendet eindeutige Verstöße automatisch aus, die wenigen Dutzend Zweifelsfälle bearbeitet das OpenModeration-Team, und die Redaktion hat nichts zu tun: Sie sieht jede Entscheidung und ihre Begründung in Echtzeit in der Konsole und kann jederzeit übernehmen. Die Moderation lässt sich auch vollständig auslagern.