Zgodność z DSA w moderacji komentarzy – prościej, niż myślisz

Akt o usługach cyfrowych (Digital Services Act, DSA) obowiązuje w pełni od 2024 roku, a platformy wciąż się do niego dostosowują. Każda usługa, która przechowuje treści użytkowników z UE – niezależnie od tego, gdzie ma siedzibę – musi reagować na zgłoszenia nielegalnych treści, uzasadniać swoje decyzje moderacyjne i umożliwiać użytkownikom ich zaskarżenie. Kary mogą sięgnąć 6% globalnego rocznego obrotu.

Dla wielu platform najtrudniejsze jest udowodnienie regulatorom, że system moderacji rzeczywiście działa. Potrzebne są do tego trzy elementy: zautomatyzowany proces moderacji, kompletny ślad audytowy oraz możliwość generowania raportów przejrzystości.

Wymogi DSA w skrócie

DSA nie narzuca konkretnej technologii. Wymaga określonych rezultatów:

• Zgłaszanie i działanie (art. 16): użytkownicy muszą mieć możliwość zgłaszania treści, a platformy muszą na te zgłoszenia reagować.
• Raporty przejrzystości (art. 15): platformy muszą publikować raporty z działań w zakresie moderacji treści.
• Uzasadnienie (art. 17): każde usunięcie lub ograniczenie trzeba wyjaśnić użytkownikowi, łącznie z informacją, czy użyto środków zautomatyzowanych.
• System rozpatrywania skarg (art. 20): użytkownicy muszą mieć możliwość odwołania się od decyzji moderacyjnych.
• Ocena ryzyka (art. 34): bardzo duże platformy (ponad 45 mln użytkowników miesięcznie w UE) muszą oceniać ryzyka systemowe.

Dlaczego wyjaśnione decyzje są kluczowe dla zgodności

Osoby odpowiedzialne za zgodność z DSA powinny zadać sobie proste pytanie: jeśli narzędzie do moderacji jest czarną skrzynką, jak pokazać regulatorowi, co ono robi?

Narzędzie, które zwraca tylko „usunięto” albo „pozostawiono”, każe ufać jego zapewnieniom, a takie zaufanie może nie wystarczyć regulatorowi. Trzeba widzieć, dlaczego zapadła każda decyzja.

W OpenModeration każdej decyzji towarzyszy uzasadnienie napisane zwykłym językiem, a sama decyzja trafia do pełnego śladu audytowego. Zespół ds. zgodności widzi dokładnie, która reguła została zastosowana, jakie kryteria wzięto pod uwagę i dokąd trafiają wyniki.

Jak zbudować proces moderacji zgodny z DSA

Tak wygląda konfiguracja zgodna z DSA w OpenModeration:

1. Pozyskiwanie treści: treści trafiają przez API, webhook lub konektory społecznościowe. Każdy element otrzymuje unikalny identyfikator i jest przechowywany w postaci zaszyfrowanej.
2. Moderacja AI: treść analizuje nasza własna AI do moderacji, a trudne przypadki weryfikują inne modele AI. Wynik zawiera oceny dla każdej kategorii oraz decyzję: oznaczone lub nieoznaczone.
3. Ocena reguł: reguły łączą zakazane słowa (natychmiastowa blokada), progi kategorii (decyzje automatyczne) oraz własne reguły zapisane zwykłym językiem.
4. Rejestrowanie audytowe: każdy krok jest zapisywany: treść, oceny, dopasowana reguła, podjęte działanie, znacznik czasu.
5. Eksport na potrzeby przejrzystości: GET /v1/analytics/usage dostarcza dane potrzebne do raportów przejrzystości DSA.

Jak spełnić konkretne wymogi DSA

Ślad audytowy: OpenModeration rejestruje każdą moderację wraz z opóźnieniem, ocenami i decyzją. Dane są przechowywane zgodnie ze skonfigurowaną polityką (domyślnie 7 dni dla tekstu wejściowego, 90 dni dla logów). Wszystko można wyeksportować na potrzeby audytów regulacyjnych.

Raporty przejrzystości: API analityczne udostępnia dane o użyciu według okresu i kategorii. Obejmuje łączną liczbę zapytań, odsetek oznaczonych treści i podjęte działania – czyli to, czego wymagają raporty przejrzystości DSA.

Suwerenność danych: dane są przechowywane w UE i można je wyeksportować w dowolnym momencie. Ma to znaczenie dla zgodności z RODO i dla ocen ryzyka w ramach DSA. Wdrożenie on-premise jest możliwe na życzenie: porozmawiajmy.

Weryfikacja przez człowieka: przypadkami granicznymi, zgłoszeniami użytkowników i odwołaniami zajmuje się nasz zespół, a Ty widzisz każdą decyzję w czasie rzeczywistym i możesz interweniować, co odpowiada wymogom DSA dotyczącym rozpatrywania skarg i odwołań.