Słownik moderacji treści
Pojęcia moderacji komentarzy, DSA i moderacji AI wyjaśnione prosto.
A
- Akt o usługach cyfrowych (DSA)
- Akt o usługach cyfrowych (rozporządzenie (UE) 2022/2065, Digital Services Act) to rozporządzenie Unii Europejskiej ustanawiające zasady dla usług pośrednich, w tym hostingu i platform internetowych, w zakresie nielegalnych treści, przejrzystości moderacji i praw użytkowników.
- Arbitraż między modelami
- Arbitraż między modelami to technika, w której kilka modeli AI analizuje tę samą treść, a ich werdykty są porównywane, tak aby decyzja moderacyjna w delikatnym przypadku nie opierała się na ocenie jednego modelu.
- Astroturfing
- Astroturfing to praktyka tworzenia pozorów spontanicznego, oddolnego poparcia lub sprzeciwu za pomocą fałszywych kont, opłacanych autorów lub skoordynowanych wiadomości, które ukrywają, kto naprawdę za nimi stoi.
B
- Ban (blokada)
- Ban (blokada) to sankcja, która uniemożliwia użytkownikowi publikowanie, komentowanie lub dostęp do społeczności, na ograniczony czas (blokada czasowa lub zawieszenie) albo na stałe.
- Bardzo duża platforma internetowa (VLOP)
- Bardzo duża platforma internetowa (VLOP) to platforma internetowa, która ma średnio co najmniej 45 milionów aktywnych odbiorców miesięcznie w Unii Europejskiej i została jako taka wyznaczona przez Komisję Europejską na podstawie art. 33 aktu o usługach cyfrowych.
- Brand safety
- Brand safety (bezpieczeństwo marki) to zestaw praktyk chroniących reputację marki przed kojarzeniem jej ze szkodliwymi, nielegalnymi lub obraźliwymi treściami, zarówno w reklamach, jak i w sekcjach komentarzy na jej własnych profilach.
- Brigading
- Brigading to skoordynowane działanie, w którym grupa użytkowników, często zorganizowana w innej społeczności, wkracza na stronę lub pod post, by zalać je komentarzami, głosami lub zgłoszeniami w celu narzucenia poglądu lub zaatakowania kogoś.
D
- Dezinformacja
- Dezinformacja to fałszywe lub wprowadzające w błąd informacje tworzone lub udostępniane celowo, by oszukać, zarobić lub wywrzeć wpływ, natomiast misinformacja to fałszywe informacje udostępniane bez zamiaru wprowadzenia w błąd.
- Doxxing
- Doxxing to publikowanie prywatnych lub identyfikujących informacji o osobie, takich jak adres zamieszkania, numer telefonu, miejsce pracy czy dane o rodzinie, bez jej zgody, zwykle w celu zastraszenia jej lub narażenia na nękanie.
- Dziennik aktywności
- Dziennik aktywności moderacji (audit trail) to chronologiczny zapis działań moderacyjnych, który pokazuje, co zrobiono z daną treścią, kiedy, kto lub jaki system to zrobił i z jakiego powodu.
L
- Link phishingowy
- Link phishingowy to link do oszukańczej strony, która podszywa się pod zaufaną usługę, taką jak bank, firma kurierska czy marka, w celu kradzieży danych logowania, danych płatniczych lub danych osobowych.
- LLM (duży model językowy)
- Duży model językowy (LLM) to model sztucznej inteligencji wytrenowany na bardzo dużych zbiorach tekstu, aby rozumieć i generować język; w moderacji potrafi czytać treści w kontekście i stosować zasady zapisane zwykłym językiem.
M
- Moderacja automatyczna
- Moderacja automatyczna to wykorzystanie oprogramowania (filtrów słów kluczowych, reguł, modeli uczenia maszynowego lub modeli językowych) do analizy treści użytkowników i podejmowania lub proponowania decyzji moderacyjnych bez weryfikacji każdego elementu przez człowieka.
- Moderacja hybrydowa
- Moderacja hybrydowa to model, w którym oprogramowanie automatycznie obsługuje jednoznaczne treści, a ludzie weryfikują przypadki niejasne lub drażliwe, tak aby każdą decyzję podejmował ten, kto jest do tego najlepiej przygotowany.
- Moderacja komentarzy
- Moderacja komentarzy to weryfikacja komentarzy publikowanych pod artykułami, filmami lub postami w mediach społecznościowych w celu usunięcia lub ukrycia nadużyć, spamu i nielegalnych treści przy zachowaniu widoczności uzasadnionych opinii, w tym krytyki.
- Moderacja następcza
- Moderacja następcza (postmoderacja) to metoda moderacji, w której treści użytkowników są publikowane natychmiast i weryfikowane później; treści naruszające zasady są ukrywane lub usuwane po ich wykryciu.
- Moderacja reaktywna
- Moderacja reaktywna to metoda moderacji, w której treści są weryfikowane dopiero po zgłoszeniu przez użytkownika, zaufany podmiot sygnalizujący lub organ, a nie sprawdzane systematycznie.
- Moderacja treści
- Moderacja treści to proces weryfikacji treści tworzonych przez użytkowników (komentarzy, postów, zdjęć, filmów) i decydowania, czy je pozostawić, ukryć, usunąć czy ograniczyć, na podstawie zasad platformy i obowiązującego prawa.
- Moderacja wstępna
- Moderacja wstępna (premoderacja) to metoda moderacji, w której treści użytkowników są wstrzymywane i weryfikowane, zanim staną się widoczne publicznie; nic nie zostaje opublikowane bez zatwierdzenia.
- Moderacja z użyciem AI
- Moderacja z użyciem AI to wykorzystanie modeli sztucznej inteligencji, takich jak klasyfikatory i duże modele językowe, do rozumienia treści użytkowników w kontekście oraz decydowania lub sugerowania, czy naruszają one zasady moderacji.
- Moderator treści
- Moderator treści to osoba, która weryfikuje treści tworzone przez użytkowników, takie jak komentarze, posty i zdjęcia, decyduje, czy są zgodne z zasadami usługi i prawem, a następnie podejmuje lub zatwierdza odpowiednie działanie.
- Mowa nienawiści
- Mowa nienawiści to treść, która atakuje, poniża lub podżega do przemocy albo dyskryminacji wobec ludzi ze względu na chronioną cechę, taką jak pochodzenie, religia, płeć, orientacja seksualna czy niepełnosprawność.
N
- Nękanie w internecie
- Nękanie w internecie to obraźliwe zachowania wymierzone w konkretną osobę, często powtarzające się lub skoordynowane, których celem jest zastraszenie, upokorzenie lub uciszenie jej za pomocą obelg, gróźb, niechcianych kontaktów lub ujawniania danych osobowych.
- Nielegalne treści
- W rozumieniu aktu o usługach cyfrowych nielegalne treści to wszelkie informacje, które same w sobie lub w związku z działalnością nie są zgodne z prawem Unii lub państwa członkowskiego; DSA nie określa sam, co jest nielegalne, lecz odsyła do tych przepisów.
O
- Odwołanie
- Odwołanie to procedura, która pozwala użytkownikowi zakwestionować decyzję moderacyjną, taką jak usunięcie komentarza czy zawieszenie konta, i doprowadzić do jej ponownej oceny, najlepiej przez kogoś innego niż system, który ją podjął.
- Oszustwo
- W moderacji oszustwo to treść zaprojektowana, by nakłonić ludzi do przekazania pieniędzy, danych osobowych lub dostępu do konta, na przykład fałszywe konkursy, fałszywe konta obsługi klienta czy zbyt piękne, by były prawdziwe, oferty inwestycyjne.
R
- Rajd (raid)
- Rajd (raid) to nagłe, zorganizowane pojawienie się dużej liczby użytkowników z zewnątrz w sekcji komentarzy, na czacie na żywo lub podczas transmisji, zwykle po to, by ją zakłócić spamem, obelgami lub szokującymi treściami.
- RODO
- Ogólne rozporządzenie o ochronie danych (RODO, rozporządzenie (UE) 2016/679, ang. GDPR) to unijny akt prawny stosowany od 25 maja 2018 r., który reguluje przetwarzanie danych osobowych, w tym nazw, wiadomości i identyfikatorów przetwarzanych przy moderacji komentarzy.
S
- Sentyment a toksyczność
- Sentyment opisuje emocjonalny wydźwięk wiadomości (pozytywny, neutralny lub negatywny), a toksyczność określa, czy jest obraźliwa; negatywny komentarz nie musi być toksyczny, a toksyczny może brzmieć pozytywnie.
- Shadowban
- Shadowban to ograniczenie, w ramach którego treści użytkownika są ukrywane przed innymi lub mniej widoczne, bez wyraźnego poinformowania go o tym, przez co nadal publikuje, nie zdając sobie sprawy, że nikt go nie widzi.
- Spam
- Spam to niezamówione treści publikowane masowo lub wielokrotnie, zwykle w celu reklamy, generowania ruchu lub wprowadzenia w błąd, takie jak linki promocyjne, kopiowane wiadomości i komentarze generowane przez boty.
- Sprawozdanie w zakresie przejrzystości
- Sprawozdanie w zakresie przejrzystości to publiczny dokument, w którym usługa ujawnia dane i informacje o swojej moderacji treści, takie jak otrzymane nakazy, rozpatrzone zgłoszenia, podjęte decyzje i skargi, zgodnie z art. 15 i 24 aktu o usługach cyfrowych.
T
- Toksyczność
- Toksyczność to szerokie określenie treści niegrzecznych, lekceważących lub agresywnych, które mogą skłonić innych do opuszczenia rozmowy, w tym obelg, pogardy, gróźb i ataków osobistych.
- Troll
- Troll to osoba, która celowo publikuje prowokacyjne, obraźliwe lub niezwiązane z tematem wiadomości, aby wywołać reakcje, wykoleić rozmowę lub drażnić innych uczestników.
- Trust and safety
- Trust and safety (T&S, zaufanie i bezpieczeństwo) to zestaw zasad, zespołów i narzędzi, których organizacja używa, aby chronić użytkowników i swoją usługę przed nadużyciami, oszustwami, szkodliwymi i nielegalnymi treściami oraz zapewnić, że można jej ufać.
- Tryb sandbox
- W moderacji tryb sandbox (piaskownica) to ustawienie testowe, w którym system analizuje prawdziwe treści i pokazuje, jakie decyzje by podjął, bez faktycznego ukrywania czy usuwania czegokolwiek.
U
- UGC (treści generowane przez użytkowników)
- Treści generowane przez użytkowników (UGC, user-generated content) to wszelkie treści tworzone i publikowane przez użytkowników usługi, a nie przez samą organizację, takie jak komentarze, opinie, wpisy na forach, zdjęcia i filmy.
- Ukryć czy usunąć
- Ukrycie komentarza sprawia, że staje się niewidoczny dla publiczności, ale zostaje zachowany (a na Facebooku nadal widzą go autor i jego znajomi); usunięcie kasuje go na stałe. Ukrycie jest odwracalne, usunięcie nie.
- Usługa hostingu
- W rozumieniu aktu o usługach cyfrowych usługa hostingu to usługa pośrednia polegająca na przechowywaniu informacji przekazanych przez użytkowników i na ich żądanie; platforma internetowa to usługa hostingu, która dodatkowo rozpowszechnia te informacje publicznie.
- Uzasadnienie decyzji
- Uzasadnienie to jasne i konkretne wyjaśnienie, które usługa hostingu musi przekazać użytkownikowi, gdy ogranicza jego treści lub konto: co postanowiono, na podstawie jakich faktów, na jakiej podstawie prawnej lub umownej i jak można to zakwestionować (art. 17 DSA).
W
- Wewnętrzny system rozpatrywania skarg
- Wewnętrzny system rozpatrywania skarg to procedura, którą platformy internetowe muszą zapewnić na mocy art. 20 aktu o usługach cyfrowych, aby użytkownicy mogli elektronicznie i bezpłatnie kwestionować decyzje o usunięciu lub ograniczeniu ich treści albo zawieszeniu konta.
- Wskaźnik pewności
- Wskaźnik pewności (confidence score) to wartość, często z przedziału od 0 do 1, która określa, na ile model AI jest pewny, że treść należy do danej kategorii, takiej jak spam, obelga czy mowa nienawiści.
- Wynik fałszywie negatywny
- W moderacji wynik fałszywie negatywny to treść naruszająca zasady, która nie została wykryta i pozostaje widoczna, choć powinna zostać ukryta lub usunięta.
- Wynik fałszywie pozytywny
- W moderacji wynik fałszywie pozytywny to uprawniona treść błędnie uznana za naruszającą zasady i w efekcie ukryta, usunięta lub oznaczona, choć powinna pozostać widoczna.
Z
- Zasady moderacji
- Zasady moderacji, często publikowane jako regulamin społeczności lub regulamin komentarzy, to zbiór reguł określających, jakie treści są dozwolone w danej przestrzeni, jakie nie, i jakie działania są podejmowane w razie naruszenia.
- Zaufany podmiot sygnalizujący
- Zaufany podmiot sygnalizujący to podmiot o szczególnej wiedzy fachowej, któremu koordynator ds. usług cyfrowych jego państwa członkowskiego przyznał ten status, a którego zgłoszenia nielegalnych treści platformy internetowe muszą rozpatrywać priorytetowo i bez zbędnej zwłoki (art. 22 DSA).
- Zgłaszanie i działanie
- Zgłaszanie i działanie (notice and action) to mechanizm z art. 16 aktu o usługach cyfrowych, w ramach którego usługi hostingu muszą umożliwić każdemu zgłaszanie treści uznanych za nielegalne, a następnie rozpatrywać zgłoszenia terminowo, starannie, niearbitralnie i obiektywnie.
Chroń swoją markę w kilka minut.
Podłącz swoją stronę lub profile i opisz nam swoje reguły oraz przypadki użycia. Wdrażamy moderację i prowadzimy ją za Ciebie: nasz zespół zajmuje się przypadkami wątpliwymi i zgłoszeniami, a Ty widzisz każdą decyzję i jej uzasadnienie w czasie rzeczywistym.
Bez karty kredytowej · Zgodność z DSA · Zgodność z RODO
Masz pytania? contact@openmoderation.com