📖 Słownik moderacji
Czym jest moderacja automatyczna?
W skrócie
Moderacja automatyczna to wykorzystanie oprogramowania (filtrów słów kluczowych, reguł, modeli uczenia maszynowego lub modeli językowych) do analizy treści użytkowników i podejmowania lub proponowania decyzji moderacyjnych bez weryfikacji każdego elementu przez człowieka.
Najstarszą formą moderacji automatycznej jest lista słów kluczowych: każdy komentarz zawierający zakazane słowo zostaje zablokowany. To proste, ale toporne rozwiązanie, bo przepuszcza obelgi zapisane z ortograficznymi sztuczkami i blokuje niewinne zdania, które przypadkiem zawierają słowo z listy. Nowoczesne systemy wykorzystują modele AI, które czytają całe zdanie i jego kontekst.
Przykład: kanał na YouTube otrzymuje tysiące komentarzy pod każdym filmem. System automatyczny w ciągu kilku sekund ukrywa linki spamowe i oczywiste obelgi, dzięki czemu community manager przegląda tylko kilkadziesiąt komentarzy, co do których system nie ma pewności.
Automatyzacja zapewnia szybkość i spójność, ale popełnia błędy (wyniki fałszywie pozytywne i fałszywie negatywne), a akt o usługach cyfrowych wymaga od dostawców informowania, czy przy podejmowaniu decyzji użyto środków zautomatyzowanych (art. 17). Dobrą praktyką jest automatyzacja oczywistych przypadków, kierowanie wątpliwych do ludzi i zapisywanie uzasadnienia każdej decyzji.
OpenModeration automatyzuje moderację zgodnie z zasadami każdego klienta, automatycznie ukrywa oczywiste naruszenia, pozostawia krytykę widoczną, a wątpliwe przypadki powierza własnemu zespołowi. Śledź każdą decyzję i jej uzasadnienie w czasie rzeczywistym i interweniuj w dowolnym momencie.