Automatyczna moderacja komentarzy: jak decyduje AI
Automatycznie nie znaczy na ślepo. Oto co dzieje się w sekundach po publikacji komentarza: co czyta AI, jak waży kontekst i ironię, gdzie leżą progi i które przypadki celowo zostawia człowiekowi.
Zaufali nam
Problem
Listy słów oceniają literę komentarza, a nie jego sens. Ukrywają wpis o obronie rozjechanej w meczu, a przepuszczają wezwanie, by ktoś wracał tam, skąd przyjechał. A filtra, który ukrywa komentarze bez podania powodu, nie da się przed nikim obronić.
Jak rozwiązuje to OpenModeration
Nasza AI czyta komentarz razem z tym, co go otacza: artykułem lub postem, wiadomością, na którą odpowiada, i jego językiem. Ocenia każdą kategorię Twoich zasad, a potem porównuje wynik z dwoma progami: poniżej pierwszego publikuje, powyżej drugiego ukrywa, pomiędzy decyduje człowiek.
Efekt
Jasne przypadki są rozstrzygane w kilka sekund, w dzień i w nocy. Niepewne trafiają do naszych moderatorów, zamiast być zgadywane. Każda decyzja, automatyczna czy ludzka, ma zdanie, które ją wyjaśnia.
Co czyta AI, zanim zdecyduje
Cztery sygnały czytane razem. Żaden z nich nie jest listą zakazanych słów.
Strona
To samo zdanie znaczy co innego pod relacją z meczu, a co innego pod artykułem o przestępstwie. AI czyta temat przed komentarzem.
Rozmowa
Odpowiedź jest czytana razem z wiadomością, której dotyczy. Sarkazm wymierzony w argument nie jest traktowany jak atak na osobę.
Ironia i kodowany język
Zmienione pisownie, emoji użyte jako obelga, aluzje: AI patrzy na to, co ktoś ma na myśli, a nie tylko na to, co napisał.
Twoje zasady
Każda kategoria jest oceniana według zasad ustalonych z Tobą zwykłym językiem: co akceptujesz, czego nie, gdzie chcesz ostrożności.
Sześć komentarzy, sześć decyzji
Przykłady poglądowe: ta sama AI dochodzi do różnych rozstrzygnięć w zależności od kontekstu i Twoich zasad.
Pod relacją z meczu Ekstraklasy
„Obrona dziś kompletnie rozjechana, co za katastrofa.”
Opublikowany
Mocne słowo, sens sportowy. Krytyka gry drużyny, bez ataku na konkretną osobę.
Pod artykułem o nowym ministrze
„Super, kolejny geniusz u władzy. Już się nie mogę doczekać.”
Opublikowany
Ironia, ale wymierzona w rolę osoby publicznej. Krytyka polityczna jest dozwolona w Twoich zasadach.
Odpowiedź innemu czytelnikowi
„Tacy jak ona powinni wracać tam, skąd przyjechali.”
Ukryty
Wykluczenie ze względu na pochodzenie, skierowane do osoby. Narusza zasadę dotyczącą mowy nienawiści.
Pod postem na Instagramie
„Zarabiaj 2000 zł dziennie z domu, napisz na priv 💰”
Ukryty
Spam komercyjny z prośbą o kontakt. Narusza zasadę dotyczącą oszustw i reklamy.
Pod lokalnym newsem
„Wszyscy wiemy, co się dzieje na tym osiedlu po zmroku…”
Przekazany naszemu zespołowi
Możliwa insynuacja wobec grupy, bez wyraźnego celu. Wynik mieści się między progami: decyduje moderator.
Pod artykułem o radzie miasta
„Burmistrz skłamał w sprawie budżetu i powinien odejść.”
Opublikowany
Ostre oskarżenie wobec wybranego urzędnika w debacie politycznej. Ani obelga, ani groźba.
Progi: gdzie kończy się automat
Dla każdej kategorii Twoich zasad dwa progi dzielą komentarze na trzy wyniki. Ustalamy je z Tobą i dostosowujemy po teście na Twoich komentarzach.
| Kategoria | Publikowany automatycznie | Przekazany naszemu zespołowi | Ukrywany automatycznie |
|---|---|---|---|
| Obelgi | Szorstki ton bez adresata | Obelga, która może być cytatem lub żartem | Obelga wymierzona w osobę |
| Nienawiść | Debata na drażliwy temat | Niejednoznaczne uogólnienie o grupie | Atak ze względu na pochodzenie, religię, płeć… |
| Groźby | Przenośna przemoc (zabiję ten egzamin) | Niejasna intencja | Wyraźna groźba wobec kogoś |
| Spam i oszustwa | Link związany z dyskusją | Powtarzana wiadomość promocyjna | Fałszywa oferta, phishing |
| Nie na temat | Dygresja, która pozostaje kulturalna | Długi wpis bez związku z tematem | Flood, akcje kopiuj-wklej |
Surowiej czy łagodniej? Wybierasz dla każdej kategorii osobno: duży serwis informacyjny i strona marki rzadko ustawiają te same progi.
Dlaczego zespoły wybierają OpenModeration
Nie zgaduje
Gdy AI nie ma pewności, komentarz trafia do naszych moderatorów, którzy decydują według Twoich zasad.
Zgłoszenia i odwołania pozostają ludzkie
Zgłoszenia użytkowników i zakwestionowane decyzje rozpatruje osoba z naszego zespołu, tak jak wymaga tego DSA.
Ostatnie słowo należy do Ciebie
Widzisz każdą automatyczną decyzję w czasie rzeczywistym wraz z uzasadnieniem i możesz zmienić każdą z nich.
Najczęstsze pytania
Jak działa automatyczna moderacja komentarzy?
Każdy komentarz jest czytany w kontekście, oceniany w każdej kategorii Twoich zasad i porównywany z dwoma progami: opublikować, ukryć lub przekazać człowiekowi. Całość trwa kilka sekund.
Czy AI rozumie ironię?
Znacznie lepiej niż lista słów, bo czyta komentarz razem ze stroną i rozmową. Gdy ironia czyni komentarz naprawdę niejednoznacznym, wynik wypada między progami i decyduje nasz zespół.
Co się dzieje, gdy AI się pomyli?
Każdą decyzję możesz cofnąć w konsoli, a autorzy mogą się odwołać. Powtarzające się błędy służą do wspólnego dostrojenia zasad i progów.
W jakich językach to działa?
Komentarze są analizowane w ich własnym języku, w tym w językach Twoich odbiorców, bez etapu tłumaczenia, który gubiłby niuanse.
Czy mogę sprawdzić decyzje przed włączeniem?
Tak. Bezpłatny test w sandboksie na Twoich prawdziwych komentarzach pokazuje każdą decyzję i jej uzasadnienie, zanim cokolwiek trafi na produkcję.
Zobacz, jak AI decyduje o Twoich komentarzach.
Umów rozmowę: przepuścimy Twoje ostatnie komentarze przez AI i omówimy każdą decyzję oraz jej uzasadnienie.
Bez karty kredytowej · Zgodność z DSA · Zgodność z RODO
Masz pytania? contact@openmoderation.com