📖 Glossar der Moderation
Was ist ein falsch positives Ergebnis in der Moderation?
Kurz gesagt
In der Moderation ist ein falsch positives Ergebnis ein legitimer Inhalt, der fälschlich als Regelverstoß erkannt und deshalb ausgeblendet, entfernt oder markiert wird, obwohl er hätte sichtbar bleiben sollen.
Falsch positive Ergebnisse sind die sichtbare Seite der Übermoderation. Ein Leser, dessen vernünftiger Kommentar verschwindet, fühlt sich zensiert und sagt das womöglich lautstark anderswo. Für ein Nachrichtenmedium oder eine öffentliche Einrichtung ist das Entfernen berechtigter Kritik schon an sich ein Reputationsrisiko.
Beispiel: Ein Wortfilter blockiert den Kommentar „Das Spiel in Scunthorpe war großartig“, weil der Ortsname eine verbotene Zeichenfolge enthält. Ein weiterer Klassiker: Ein Kommentar, der eine Beleidigung zitiert, um sie zu verurteilen, wird entfernt, als wäre er selbst die Beleidigung.
Weniger falsch positive Ergebnisse erreicht man mit Modellen, die den Kontext lesen, sorgfältig gesetzten Schwellenwerten, der Weitergabe von Zweifelsfällen an Menschen und der Möglichkeit für Nutzer, Entscheidungen anzufechten. OpenModeration lässt Kritik sichtbar, blendet automatisch nur eindeutige Verstöße aus und hält für jede Entscheidung eine schriftliche Begründung fest, damit Fehler erkannt und korrigiert werden können.