API do moderacji tekstu, które działa na podstawie wyniku.
Jeden endpoint moderuje komentarze, czat, wiadomości i opinie naszą własną AI, weryfikowaną w trudnych przypadkach przez inne modele. W zestawie: filtrowanie wstępne, własne reguły, podwójne progi i dziennik audytu gotowy na DSA.
Darmowy plan · Bez karty kredytowej · Dokumentacja OpenAPI
Moderacja dowolnego tekstu jednym żądaniem
Wyślij tekst do jednego endpointu. Nasza AI do moderacji go analizuje, a inne modele AI weryfikują trudne przypadki. Wyniki wracają w jednym formacie, z progami, które ustawiasz samodzielnie.
- ✓10 kategorii, wielojęzyczność. Mowa nienawiści, nękanie, treści seksualne, przemoc, samookaleczenia, spam, dane osobowe i własne kategorie.
- ✓Filtrowanie wstępne. Oczywisty spam i zakazane słowa są blokowane, zanim nastąpi jakiekolwiek wywołanie AI.
- ✓Podwójne progi. Jednoznaczne przypadki są automatycznie zatwierdzane lub odrzucane, a szarą strefą zajmuje się nasz zespół.
- ✓Wsadowo do 10 tys. tekstów. Wywołania wsadowe korzystają z tego samego schematu co pojedyncze.
# Moderacja dowolnego tekstu — komentarze, czat, wiadomości, opinie
curl -X POST https://api.openmoderation.com/v1/moderation \
-H "Authorization: Bearer om_key_..." \
-H "Content-Type: application/json" \
-d '{
"input": "komentarz użytkownika",
"categories": ["hate", "harassment", "sexual", "violence", "self-harm", "spam"],
"threshold": 0.5
}'
# Odpowiedź (ujednolicony format)
{
"flagged": false,
"results": [{ "category": "harassment", "score": 0.03, "flagged": false }],
"usage": { "latency_ms": 212 }
}Do każdego zastosowania moderacji tekstu
Jedno API dla każdego miejsca, w którym piszą użytkownicy.
Komentarze i opinie
Automatyczne ukrywanie mowy nienawiści, spamu i wycieków danych osobowych w komentarzach, opiniach i postach na forum, zanim zostaną opublikowane.
Czat i komunikatory
Moderacja w czasie rzeczywistym w wielu językach, z opóźnieniem poniżej 250 ms i automatycznymi działaniami.
Prompty w aplikacjach AI
Filtrowanie tego, co wysyłają użytkownicy, i tego, co odpowiada Państwa LLM. Własne kategorie mogą zmieniać się z czasem.
Ogłoszenia w marketplace’ach
Oznaczanie spamu, oszustw i zakazanych treści w tytułach i opisach ogłoszeń już w chwili ich dodania.
Surowe API modelu a OpenModeration
Surowy wynik toksyczności to jeszcze nie system moderacji.
| Funkcja | Surowe API tekstowe modelu | OpenModeration |
|---|---|---|
| Silnik AI | Jeden model (uzależnienie) | Własna AI weryfikowana przez inne modele; lepsze modele podłączane, gdy się pojawiają |
| Własne reguły | We własnym zakresie | Zakazane słowa, progi i reguły zapisane zwykłym językiem, stosowane przez AI, bez kodu |
| Weryfikacja przez człowieka | We własnym zakresie | Wątpliwymi przypadkami zajmuje się nasz zespół; widzą Państwo każdą decyzję w czasie rzeczywistym i mogą interweniować |
| Dziennik audytu | Tylko logi API | Pełny eksport DSA decyzji AI i ludzi |
| Ceny | Ustalane przez każdego dostawcę API, od bezpłatnych (OpenAI) po płatne za wywołanie | Darmowy plan do 1000 żądań/mies. · Pro od 99 €/mies. |
API do moderacji tekstu: najczęstsze pytania
Czym jest API do moderacji tekstu?
API do moderacji tekstu ocenia to, co piszą użytkownicy (mowa nienawiści, nękanie, treści seksualne, przemoc, spam, dane osobowe…), aby aplikacja mogła automatycznie zatwierdzić, oznaczyć lub odrzucić wpis. OpenModeration udostępnia za jednym endpointem własną AI do moderacji, weryfikowaną w trudnych przypadkach przez inne modele AI, z jednym formatem odpowiedzi, własnymi regułami i dziennikiem audytu.
Które API do moderacji tekstu wybrać?
Surowe API modeli (OpenAI, Azure, Mistral) pozwalają szybko zacząć, ale wiążą z jednym modelem, który stoi w miejscu między aktualizacjami. OpenModeration korzysta z własnej AI do moderacji, weryfikuje trudne przypadki innymi modelami AI, podłącza lepsze modele, gdy się pojawiają, i dodaje filtrowanie wstępne, reguły oraz weryfikację wątpliwych przypadków przez nasz zespół.
Ile kosztuje API do moderacji tekstu?
Endpoint moderacji OpenAI jest bezpłatny, Mistral sam ustala cenę swojego modelu moderacji, a Azure AI Content Safety nalicza opłaty za każde 1000 rekordów tekstowych po przekroczeniu darmowego limitu 5000 rekordów miesięcznie. OpenModeration oferuje darmowy plan do 1000 żądań miesięcznie. Zarządzany plan chmurowy Pro zaczyna się od 99 €/miesiąc za 10 tys. żądań, a wstępne filtrowanie eliminuje 10–30% płatnych wywołań.
Czy można zdefiniować własne reguły moderacji?
Tak, za pomocą trzech narzędzi i bez kodu. Zakazane słowa natychmiast blokują wiadomość. Progi dla poszczególnych kategorii decydują o automatycznym zatwierdzeniu, weryfikacji przez nasz zespół lub automatycznym odrzuceniu. Własne reguły, zapisane zwykłym językiem, stosuje nasza AI dla kategorii takich jak dezinformacja czy grooming.
Czy można przejść z OpenAI text-moderation-latest?
Tak. Wystarczy zastąpić openai.moderations.create jednym wywołaniem POST /v1/moderation. Otrzymują Państwo ujednolicone wyniki, pisemne uzasadnienia i dziennik audytu, a gdy podłączamy lepszy model AI, w Państwa kodzie nic się nie zmienia.
Czy każda decyzja moderacyjna jest rejestrowana?
Tak. Każda decyzja AI i człowieka zachowuje wyniki, progi, osobę weryfikującą i znacznik czasu. Pełny dziennik audytu można wyeksportować jednym kliknięciem na potrzeby raportów przejrzystości DSA.
Zacznij moderować tekst w kilka minut.
Odbierz klucz API, skopiuj przykład curl i zmoderuj pierwszy tekst jeszcze dziś, z regułami, weryfikacją wątpliwych przypadków przez nasz zespół i dziennikiem audytu od pierwszego dnia.
Bez karty kredytowej · Zgodność z DSA · Zgodność z RODO
Masz pytania? contact@openmoderation.com