Przedstawiamy OpenModeration: zunifikowaną platformę moderacji
Dziś ogłaszamy OpenModeration, platformę moderacji treści opartą na własnej AI do moderacji, której decyzje w trudnych przypadkach weryfikują inne modele AI.
Jaki problem rozwiązujemy
Wiele narzędzi do moderacji opiera się na jednym własnym algorytmie, który stoi w miejscu między aktualizacjami. Tymczasem modele AI co roku są lepsze i tańsze, a platformy przywiązane do wczorajszego modelu tracą ten postęp.
Tymczasem ilość treści tworzonych przez użytkowników rośnie o 30–40% rocznie. DSA prawnie zobowiązuje platformy do moderacji, a UE egzekwuje te przepisy: kary mogą sięgnąć 6% globalnego obrotu.
Rynek potrzebuje standardowej warstwy, tak jak płatności mają Stripe, a komunikacja Twilio.
Co budujemy
OpenModeration to kompletna platforma moderacji. Poza samym API obejmuje:
- Własna AI do moderacji. POST /v1/moderation zwraca ujednolicone wyniki dla każdej kategorii, a trudne przypadki weryfikują inne modele AI.
- Silnik niezależny od modelu. Gdy pojawia się lepszy lub tańszy model AI, szybko go podłączamy. Po Twojej stronie nic się nie zmienia.
- Action Engine. Reguły definiowane trzema narzędziami: zakazane słowa, progi kategorii oraz własne reguły zapisane zwykłym językiem.
- Natywne konektory. Facebook, Instagram, YouTube i WordPress, podłączane przez Twoje własne konta na platformach.
- Panel administracyjny. Interfejs React Admin do zarządzania kluczami, przeglądania logów i analizy użycia.
- Ślad audytowy zgodny z DSA. Każda moderacja jest w całości rejestrowana i można ją wyeksportować na potrzeby zgodności.
Dlaczego przejrzystość
Moderacja opiera się na zaufaniu. Narzędzie, które zwraca tylko „usunięto” albo „pozostawiono”, to czarna skrzynka: nie da się sprawdzić, co robi, jak podejmuje decyzje ani dokąd trafiają dane.
W OpenModeration każda decyzja jest wyjaśniona na piśmie i zapisana w pełnym śladzie audytowym. Dane są przechowywane w UE i można je wyeksportować w dowolnym momencie.
Co dalej
Startujemy z Blokiem 1 (podstawowe API moderacji i panel), a w najbliższych miesiącach udostępnimy Bloki 2 i 3 (pozyskiwanie treści, silnik akcji, konektory). Hostowana wersja SaaS pojawi się jeszcze w tym roku.
Jeśli budujesz platformę, która potrzebuje moderacji, chętnie poznamy Twoją opinię. Umów rozmowę i podziel się z nami swoimi uwagami.