📖 Słownik moderacji
Czym jest moderacja human-in-the-loop?
W skrócie
Human-in-the-loop (HITL, człowiek w pętli) oznacza system automatyczny, w którym człowiek weryfikuje, potwierdza lub koryguje część decyzji maszyny, zwykle te niepewne, drażliwe lub zakwestionowane.
W moderacji human-in-the-loop oznacza, że AI nie ma ostatniego słowa we wszystkim. Przypadki poniżej progu pewności lub z drażliwych kategorii, takich jak groźby czy samookaleczenia, trafiają do człowieka, który widzi treść, jej kontekst i powód, dla którego system ją oznaczył.
Przykład: komentarz mówi, że polityka trzeba „wykończyć” w najbliższych wyborach. System oparty na słowach kluczowych mógłby uznać to za groźbę; człowiek od razu rozumie przenośnię i pozostawia komentarz widoczny.
Weryfikacja przez człowieka ma też znaczenie prawne i wizerunkowe. Akt o usługach cyfrowych wymaga, by platformy internetowe rozpatrywały skargi na decyzje moderacyjne pod nadzorem odpowiednio wykwalifikowanego personelu, a nie wyłącznie środkami zautomatyzowanymi (art. 20). W OpenModeration wątpliwe przypadki i zakwestionowane decyzje weryfikuje nasz zespół, a Ty widzisz każdą decyzję w czasie rzeczywistym w jednej konsoli.