Jedno API do moderacji treści.
AI, która stale się poprawia.
Integrację piszesz tylko raz. Jeden endpoint moderacji oparty na naszej własnej AI, weryfikowanej w trudnych przypadkach przez inne modele, z wstępnym filtrowaniem, własnymi regułami, endpointami wsadowymi i dziennikiem audytu gotowym na DSA.
Darmowy plan · Bez karty kredytowej · Dokumentacja OpenAPI
To samo żądanie, coraz lepsza AI
Nasz silnik nie jest przywiązany do jednego modelu: gdy pojawia się lepszy lub tańszy model AI, podłączamy go. Państwa żądanie się nie zmienia. Wyniki wracają w jednym, ujednoliconym formacie, z progami, które ustawiasz samodzielnie.
- ✓Ujednolicone endpointy moderacji. Wywołania pojedyncze i wsadowe (do 10 tys. elementów) korzystają z tego samego schematu.
- ✓Filtrowanie wstępne. Oczywisty spam i zakazane słowa są blokowane, zanim nastąpi jakiekolwiek wywołanie AI.
- ✓Podwójne progi. Jednoznaczne przypadki są automatycznie zatwierdzane lub odrzucane, a szarą strefą zajmuje się nasz zespół.
- ✓AI weryfikowana. W trudnych przypadkach inne modele AI rozstrzygają decyzję, zanim zostanie zastosowana.
# Moderacja tekstu — jedno żądanie, jedna ujednolicona odpowiedź
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "Tekst do moderacji",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Odpowiedź (ujednolicony format)
{
"flagged": false,
"results": [{ "category": "hate", "score": 0.02, "flagged": false }],
"usage": { "latency_ms": 243 }
}Dlaczego zespoły wybierają OpenModeration
Surowy wynik modelu to jeszcze nie system moderacji.
| Funkcja | Surowe API modelu | OpenModeration API |
|---|---|---|
| Silnik AI | Jeden model (uzależnienie) | Własna AI weryfikowana przez inne modele; lepsze modele podłączane, gdy się pojawiają |
| Format odpowiedzi | Własny u każdego dostawcy | Ujednolicone wyniki + werdykt „flagged” |
| Filtrowanie wstępne | Nie | Tak, oczywisty spam jest blokowany przed jakimkolwiek wywołaniem AI |
| Własne reguły | We własnym zakresie | Zakazane słowa, progi, reguły zapisane zwykłym językiem i stosowane przez AI |
| Weryfikacja + audyt | We własnym zakresie | Wątpliwymi przypadkami zajmuje się nasz zespół, panel w czasie rzeczywistym, eksport DSA |
| Dokumentacja | Dokumentacja dostawcy | Dokumentacja OpenAPI → |
Zacznij od swojego stosu
Migracja w mniej niż godzinę albo moderacja komentarzy w mediach społecznościowych bez kodu.
Migracja z OpenAI
Zastąp wywołania text-moderation / omni-moderation jednym endpointem z pisemnymi uzasadnieniami.
Porównanie z Mistral Moderation
Jeden model a nasza weryfikowana AI, reguły i dziennik audytu.
Platforma moderacji bez kodu
Wystarczy podłączyć Państwa strony: resztą zajmujemy się my, a Państwo widzą każdą decyzję w czasie rzeczywistym.
API do moderacji treści: najczęstsze pytania
Czym jest API do moderacji treści?
API do moderacji treści ocenia to, co publikują użytkownicy (mowa nienawiści, nękanie, treści seksualne, przemoc, spam, dane osobowe…), aby aplikacja mogła automatycznie zatwierdzić, oznaczyć lub odrzucić wpis. OpenModeration udostępnia za jednym endpointem własną AI do moderacji, weryfikuje trudne przypadki innymi modelami AI i zawsze zwraca ten sam format odpowiedzi.
Które API do moderacji najlepiej sprawdzi się w dużej firmie podlegającej regulacjom?
W przypadku platform regulowanych warto szukać pisemnych uzasadnień, pełnego dziennika audytu, hostingu w UE i weryfikacji wątpliwych przypadków przez ludzi. OpenModeration zapewnia wszystkie cztery: trudne przypadki weryfikują inne modele AI, wątpliwymi zajmuje się nasz zespół, a każda decyzja jest rejestrowana na potrzeby raportów DSA.
Ile kosztuje API do moderacji?
Endpoint moderacji OpenAI jest bezpłatny, Mistral sam ustala cenę swojego modelu moderacji, a Azure AI Content Safety nalicza opłaty za każde 1000 rekordów tekstowych po przekroczeniu darmowego limitu 5000 rekordów miesięcznie. OpenModeration oferuje darmowy plan do 1000 żądań miesięcznie. Zarządzany plan chmurowy Pro zaczyna się od 99 €/miesiąc za 10 tys. żądań.
Czy można przejść z OpenAI text-moderation-latest?
Tak. Wystarczy zastąpić openai.moderations.create jednym wywołaniem POST /v1/moderation. Otrzymują Państwo ujednolicone wyniki, pisemne uzasadnienia i dziennik audytu, a gdy podłączamy lepszy model AI, w Państwa kodzie nic się nie zmienia.
Czy można zdefiniować własne reguły moderacji?
Tak, za pomocą trzech narzędzi. Zakazane słowa natychmiast blokują komentarz. Progi dla poszczególnych kategorii decydują o automatycznym zatwierdzeniu, weryfikacji lub odrzuceniu. Własne reguły, zapisane zwykłym językiem, stosuje nasza AI dla Państwa własnych kategorii.
Gdzie znajduje się pełna dokumentacja API?
Interaktywna dokumentacja jest dostępna pod adresem api.openmoderation.com/docs (OpenAPI). Ta strona omawia pojęcia i porównania. Stamtąd wystarczy skopiować przykład curl do własnego stosu.
Jedna integracja, AI, która stale się poprawia.
Odbierz klucz API, skopiuj przykład curl i zmoderuj pierwszy tekst w kilka minut, z dziennikiem audytu od pierwszego dnia.
Bez karty kredytowej · Zgodność z DSA · Zgodność z RODO
Masz pytania? contact@openmoderation.com