Cumplir la DSA de forma sencilla en la moderación de comentarios
La Ley de Servicios Digitales de la UE (DSA) entró plenamente en vigor en 2024, y su impacto todavía se deja sentir en todo el sector tecnológico. Cualquier servicio que aloje contenido de usuarios para personas en la UE, tenga su sede donde la tenga, debe actuar ante las notificaciones de contenido ilícito, explicar sus decisiones de moderación y permitir que los usuarios las impugnen. Las multas pueden alcanzar el 6 % del volumen de negocio anual mundial.
Para muchas plataformas, la DSA plantea un reto de fondo: ¿cómo demuestras a los reguladores que tu sistema de moderación funciona? La respuesta exige tres cosas: una cadena de moderación automatizada, un registro de auditoría completo y la capacidad de generar informes de transparencia.
Los requisitos de la DSA, simplificados
La DSA no impone una tecnología concreta. Exige resultados:
- Notificación y acción (art. 16): los usuarios deben poder denunciar contenidos. Las plataformas deben actuar ante las notificaciones.
- Informes de transparencia (art. 15): las plataformas deben publicar informes sobre sus actividades de moderación de contenido.
- Declaración de motivos (art. 17): cada retirada o restricción debe explicarse al usuario, indicando también si se han utilizado medios automatizados.
- Sistema de reclamaciones (art. 20): los usuarios deben poder recurrir las decisiones de moderación.
- Evaluación de riesgos (art. 34): las plataformas de muy gran tamaño (más de 45 millones de usuarios mensuales en la UE) deben evaluar los riesgos sistémicos.
Por qué la transparencia importa para el cumplimiento
Esta es una pregunta que deberían hacerse los responsables de cumplimiento de la DSA: si tu plataforma de moderación es una caja negra propietaria, ¿cómo vas a demostrar a un regulador lo que hace?
Muchas herramientas pueden afirmar que moderan el contenido, pero no explican por qué ocultan un comentario ni dejan rastro de quién tomó cada decisión. Te fías de lo que dicen, y esa confianza podría no bastarle a un regulador.
Con OpenModeration, cada decisión llega con una explicación por escrito y queda en un registro de auditoría completo. Tu equipo de cumplimiento puede verificar exactamente cómo se modera el contenido, qué reglas propias se aplican y si la decisión fue automática o la tomó un moderador.
Cómo montar una cadena de moderación conforme a la DSA
Así es una configuración conforme a la DSA con OpenModeration:
- Ingesta del contenido: recibe el contenido por API, webhook o conectores sociales. Cada elemento recibe un identificador único y se almacena cifrado.
- Moderación con IA: la IA de moderación de OpenModeration analiza el contenido y, en los casos delicados, otros modelos de IA arbitran la decisión. Los resultados incluyen puntuaciones por categoría y una decisión de marcado o no marcado.
- Evaluación de reglas: tus reglas combinan palabras prohibidas para el bloqueo inmediato, umbrales por categoría para las decisiones automáticas y las reglas que has redactado según tus casos de uso.
- Registro de auditoría: cada paso queda registrado: contenido, puntuaciones, explicación escrita, regla aplicada, acción tomada y marca de tiempo.
- Exportación para la transparencia: GET /v1/analytics/usage proporciona los datos necesarios para los informes de transparencia de la DSA.
Cómo cumplir requisitos concretos de la DSA
Registro de auditoría: OpenModeration registra cada moderación con la latencia, las puntuaciones, la decisión y su explicación por escrito. Los datos se conservan según la política que configures (por defecto, 7 días para el texto de entrada y 90 días para los registros). Todo se puede exportar para las auditorías regulatorias.
Informes de transparencia: la API de analítica ofrece datos de uso por periodo y categoría. El total de peticiones, las tasas de marcado y las acciones aplicadas son los datos que piden los informes de transparencia de la DSA.
Datos en la UE: OpenModeration está alojado en la Unión Europea y puedes exportar tus datos cuando quieras. Es un punto clave para el RGPD y para las evaluaciones de riesgos de la DSA. Si necesitas un despliegue on-premise, es posible bajo petición: hablemos.
Revisión humana: los casos límite, las denuncias y los recursos los gestiona nuestro equipo, no el tuyo, lo que cubre los requisitos de la DSA sobre la gestión de reclamaciones y recursos. Tú ves cada decisión en tiempo real y puedes intervenir cuando quieras.