📖 Słownik moderacji
Czym jest LLM?
W skrócie
Duży model językowy (LLM) to model sztucznej inteligencji wytrenowany na bardzo dużych zbiorach tekstu, aby rozumieć i generować język; w moderacji potrafi czytać treści w kontekście i stosować zasady zapisane zwykłym językiem.
LLM to technologia, na której opierają się asystenci konwersacyjni. Ich atutem w moderacji jest rozumienie: wychwytują ironię, zakodowane obelgi i kontekst komentowanego artykułu, a także potrafią wykonywać polecenia w rodzaju „krytyka naszych produktów jest dozwolona, osobiste ataki na pracowników nie”.
Przykład: użytkownik pisze „świetna robota jak zawsze” pod postem o opóźnionym pociągu. LLM potrafi rozpoznać sarkazm i zaklasyfikować komentarz jako krytykę, która powinna pozostać widoczna, a nie jako pochwałę czy nadużycie.
LLM mają też ograniczenia: mogą być niespójne między kolejnymi uruchomieniami, dają się oszukać specjalnie spreparowanym tekstem, a ich koszt i szybkość są zmienne. Dlatego poważne systemy moderacji obudowują je zasadami, progami, krzyżową weryfikacją między modelami i kontrolą człowieka. Własna AI moderacyjna OpenModeration jest w delikatnych przypadkach weryfikowana przez inne modele AI, a nowe modele są dodawane w miarę ich pojawiania się.