📖 Glossar der Moderation
Was ist eine Moderationsschwelle?
Kurz gesagt
Eine Moderationsschwelle ist der Grenzwert, der auf den Konfidenzwert eines Modells angewendet wird und entscheidet, was mit einem Inhalt geschieht: automatische Maßnahme oberhalb, menschliche Prüfung oder keine Maßnahme unterhalb.
Schwellenwerte machen aus Werten Entscheidungen. Viele Systeme nutzen zwei: einen hohen, oberhalb dessen Inhalte automatisch ausgeblendet werden, und einen niedrigeren, der den Bereich zweifelhafter Inhalte festlegt, die an einen Menschen gehen.
Beispiel: Eine Kindermarke setzt für Beleidigungen eine sehr niedrige Schwelle, weil ihr Publikum jung und ihre Toleranz minimal ist. Eine politische Nachrichtenseite setzt eine höhere, weil hitzige Debatten zu ihrem Zweck gehören und sie scharfe, aber legitime Meinungen nicht entfernen will.
Eine höhere Schwelle verringert falsch positive Ergebnisse, erhöht aber falsch negative, und umgekehrt. Einen universell richtigen Wert gibt es nicht: Er hängt vom Publikum, der Inhaltskategorie und den Kosten jeder Fehlerart ab. OpenModeration passt die Moderation an die Regeln und Anwendungsfälle jedes Kunden an und lässt den Zweifelsbereich vom eigenen Team bearbeiten, während Sie jede Entscheidung in Echtzeit sehen.