📖 Słownik moderacji
Czym jest wynik fałszywie pozytywny w moderacji?
W skrócie
W moderacji wynik fałszywie pozytywny to uprawniona treść błędnie uznana za naruszającą zasady i w efekcie ukryta, usunięta lub oznaczona, choć powinna pozostać widoczna.
Wyniki fałszywie pozytywne to widoczna strona nadmiernej moderacji. Czytelnik, którego rozsądny komentarz znika, czuje się cenzurowany i może głośno mówić o tym w innych miejscach. Dla wydawcy prasowego lub instytucji publicznej usunięcie uzasadnionej krytyki samo w sobie stanowi ryzyko wizerunkowe.
Przykład: filtr słów kluczowych blokuje komentarz „mecz Scunthorpe był świetny”, ponieważ nazwa miasta zawiera zakazany ciąg znaków. Inny klasyczny przypadek: komentarz cytujący obelgę po to, by ją potępić, zostaje usunięty tak, jakby sam był obelgą.
Ograniczanie wyników fałszywie pozytywnych wymaga modeli rozumiejących kontekst, starannie ustawionych progów, kierowania wątpliwych przypadków do ludzi i umożliwienia użytkownikom kwestionowania decyzji. OpenModeration pozostawia krytykę widoczną, automatycznie ukrywa tylko oczywiste naruszenia i zapisuje pisemne uzasadnienie każdej decyzji, dzięki czemu błędy można wykryć i poprawić.