📖 Słownik moderacji
Czym jest próg moderacji?
W skrócie
Próg moderacji to wartość graniczna stosowana do wskaźnika pewności modelu, która decyduje o losie treści: powyżej niej działanie automatyczne, poniżej weryfikacja przez człowieka lub brak działania.
Progi zamieniają wyniki w decyzje. Wiele systemów stosuje dwa: wysoki, powyżej którego treść jest ukrywana automatycznie, i niższy, który wyznacza pasmo wątpliwych treści kierowanych do człowieka.
Przykład: marka produktów dla dzieci ustawia bardzo niski próg dla obelg, ponieważ jej odbiorcy są młodzi, a tolerancja minimalna. Serwis z wiadomościami politycznymi ustawia wyższy, ponieważ gorąca debata należy do jego misji i nie chce usuwać ostrych, ale uzasadnionych opinii.
Podniesienie progu zmniejsza liczbę wyników fałszywie pozytywnych, ale zwiększa liczbę fałszywie negatywnych, i odwrotnie. Nie ma uniwersalnie właściwej wartości: zależy ona od odbiorców, kategorii treści i kosztu każdego rodzaju błędu. OpenModeration dostosowuje moderację do zasad i przypadków użycia każdego klienta, a strefę wątpliwości powierza własnemu zespołowi, podczas gdy Ty widzisz każdą decyzję w czasie rzeczywistym.