Apresentando o OpenModeration: a plataforma de moderação unificada
Hoje anunciamos o OpenModeration, uma plataforma de moderação de conteúdo construída sobre a sua própria IA de moderação, com os casos delicados verificados por outros modelos de IA.
O problema que estamos resolvendo
Muitas ferramentas de moderação dependem de um único algoritmo próprio, congelado entre duas atualizações. Enquanto isso, os modelos de IA ficam melhores e mais baratos a cada ano, e as plataformas presas ao modelo de ontem perdem esse avanço.
Enquanto isso, o volume de conteúdo gerado por usuários cresce 30-40% ao ano. O DSA obriga legalmente as plataformas a moderar. E a UE fiscaliza: as multas podem chegar a 6% do faturamento global.
O mercado precisa de uma camada padrão, assim como os pagamentos têm a Stripe e as comunicações têm a Twilio.
O que estamos construindo
O OpenModeration é uma plataforma de moderação completa. Além da API, ela inclui:
- A nossa própria IA de moderação. POST /v1/moderation devolve scores padronizados por categoria, e outros modelos de IA verificam os casos delicados.
- Motor independente de modelo. Quando sai um modelo de IA melhor ou mais barato, nós o conectamos rapidamente. Nada muda do seu lado.
- Action Engine. Defina regras com três ferramentas: palavras proibidas, limites por categoria e as suas próprias regras escritas em linguagem natural.
- Conectores nativos. Integração com Facebook, Instagram, YouTube e WordPress: basta conectar as suas páginas, nós cuidamos do resto.
- Painel de administração. Uma interface React Admin para gerenciar chaves, consultar logs e analisar o uso.
- Trilha de auditoria em conformidade com o DSA. Cada moderação é registrada na íntegra e pode ser exportada para fins de conformidade.
Por que a transparência
A moderação depende de confiança. Uma ferramenta de moderação que só devolve "removido" ou "mantido" é uma caixa-preta: você não consegue verificar o que ela faz, como toma as decisões nem para onde vão os seus dados.
Com o OpenModeration, cada decisão é explicada por escrito e registrada em uma trilha de auditoria completa. Os dados ficam hospedados na UE, e você pode exportá-los sempre que precisar.
Próximos passos
Estamos lançando com o Bloco 1 (a API de moderação principal e o painel) e vamos entregar os Blocos 2 e 3 (ingestão, Action Engine, conectores) nos próximos meses. O nosso SaaS hospedado chega ainda este ano.
Se você está construindo uma plataforma que precisa de moderação, adoraríamos ouvir a sua opinião. Agende uma conversa e conte para nós o que achou.