Presentamos OpenModeration, la plataforma de moderación unificada
Hoy anunciamos OpenModeration, una plataforma de moderación de contenido con su propia IA, que aplica tus reglas y explica cada decisión por escrito.
El problema que resolvemos
Muchas herramientas de moderación dependen de un único algoritmo propio, congelado entre dos actualizaciones. Mientras tanto, los modelos de IA mejoran y se abaratan cada año, pero las plataformas que dependen de ese algoritmo no aprovechan ese progreso.
Mientras tanto, el volumen de contenido generado por usuarios crece entre un 30 y un 40 % al año. La DSA obliga legalmente a las plataformas a moderar, y la UE vigila su aplicación: las multas pueden alcanzar el 6 % de la facturación mundial.
El mercado necesita una moderación que siga el progreso de la IA en lugar de envejecer.
Lo que estamos construyendo
OpenModeration es una plataforma de moderación completa, con mucho más que un proxy de API:
- Nuestra propia IA de moderación: entrenada para moderar comentarios y configurada según tus reglas y tus casos de uso, accesible con una sola llamada POST /v1/moderation.
- Arbitrada por otras IA: en los casos delicados, otros modelos de IA arbitran la decisión antes de aplicarla. Cuando sale un modelo mejor o más barato, lo conectamos rápido, sin que cambie nada por tu parte.
- Motor de acciones: define reglas con tres herramientas sencillas: palabras prohibidas, umbrales por categoría y tus reglas redactadas en lenguaje claro.
- Conectores nativos: integración con Facebook, Instagram, YouTube y WordPress: conectas tus propias cuentas en unos clics.
- Panel de administración: interfaz React Admin para gestionar el acceso, consultar los registros y analizar el uso.
- Registro de auditoría conforme a la DSA: cada moderación queda registrada con todo detalle y se puede exportar para el cumplimiento normativo.
Por qué la transparencia
La moderación es, en el fondo, una cuestión de confianza. Una plataforma de moderación opaca es una caja negra: no puedes verificar qué hace, cómo toma sus decisiones ni adónde van tus datos.
Por eso OpenModeration explica cada decisión por escrito y guarda un registro de auditoría completo, de la IA y de las personas. Tus datos se alojan en la UE y puedes exportarlos cuando quieras.
Próximos pasos
Lanzamos con el Bloque 1 (la API de moderación principal y el panel de control) y entregaremos los Bloques 2 y 3 (ingesta, motor de acciones, conectores) en los próximos meses. Nuestro SaaS gestionado llegará más adelante este año.
Si estás construyendo una plataforma que necesita moderación, nos encantaría conocer tu opinión. Cuéntanos tus reglas y tus casos de uso: lo ponemos en marcha contigo.