Conformidade com o DSA na moderação de comentários, sem complicação

O Regulamento dos Serviços Digitais da UE (DSA, na sigla em inglês) entrou plenamente em vigor em 2024, e as plataformas ainda estão se adaptando. Todo serviço que hospeda conteúdo de usuários para pessoas na UE, onde quer que tenha sede, precisa agir sobre as notificações de conteúdo ilegal, explicar as suas decisões de moderação e permitir que os usuários as contestem. As multas podem chegar a 6% do faturamento anual global.

Para muitas plataformas, a parte difícil é provar aos reguladores que o seu sistema de moderação funciona. Isso exige três coisas: um pipeline de moderação automatizado, uma trilha de auditoria completa e a capacidade de gerar relatórios de transparência.

As exigências do DSA, simplificadas

O DSA não impõe uma tecnologia específica. Ele exige resultados:

• Notificação e ação (art. 16): os usuários precisam poder denunciar conteúdo. As plataformas precisam agir sobre as notificações.
• Relatórios de transparência (art. 15): as plataformas precisam publicar relatórios sobre as suas atividades de moderação de conteúdo.
• Exposição de motivos (art. 17): cada remoção ou restrição precisa ser explicada ao usuário, indicando inclusive se foram usados meios automatizados.
• Sistema de reclamações (art. 20): os usuários precisam poder recorrer das decisões de moderação.
• Avaliação de riscos (art. 34): as plataformas de muito grande dimensão (mais de 45 milhões de usuários mensais na UE) precisam avaliar os riscos sistêmicos.

Por que decisões explicadas importam para a conformidade

Os responsáveis pela conformidade com o DSA deveriam fazer uma pergunta simples. Se a sua ferramenta de moderação é uma caixa-preta, como você vai mostrar a um regulador o que ela faz?

Uma ferramenta que só devolve "removido" ou "mantido" obriga você a confiar no que ela afirma, e essa confiança pode não bastar para um regulador. Você precisa ver por que cada decisão foi tomada.

Com o OpenModeration, cada decisão vem com um motivo escrito em linguagem simples e fica registrada em uma trilha de auditoria completa. Você vê em tempo real exatamente qual regra foi aplicada, quais critérios foram usados e para onde vão os resultados.

Como montar um pipeline de moderação em conformidade com o DSA

Veja como fica uma configuração em conformidade com o DSA usando o OpenModeration:

1. Ingestão do conteúdo: receba o conteúdo pela API, por webhook ou pelos conectores de redes sociais. Cada item recebe um ID único e é armazenado com criptografia.
2. Moderação por IA: a nossa própria IA de moderação analisa o conteúdo, e outros modelos de IA verificam os casos delicados. Os resultados incluem scores por categoria e uma decisão de sinalizado/não sinalizado.
3. Avaliação das regras: as suas regras combinam palavras proibidas para bloqueio imediato, limites por categoria para decisões automáticas e as suas próprias regras escritas em linguagem natural.
4. Registro de auditoria: cada etapa é registrada: conteúdo, scores, regra acionada, ação aplicada, horário.
5. Exportação para transparência: GET /v1/analytics/usage fornece os dados necessários para os relatórios de transparência do DSA.

Como atender a exigências específicas do DSA

Trilha de auditoria: o OpenModeration registra cada moderação com a latência, os scores e a decisão. Os dados são retidos conforme a política que você configurar (por padrão, 7 dias para o texto de entrada e 90 dias para os logs). Tudo pode ser exportado para auditorias regulatórias.

Relatórios de transparência: a API de análise fornece os dados de uso por período e categoria. Ela cobre o total de requisições, as taxas de sinalização e as ações aplicadas, que é o que os relatórios de transparência do DSA pedem.

Soberania dos dados: os dados ficam hospedados na UE e você pode exportá-los a qualquer momento. Isso importa para a conformidade com o RGPD e para as avaliações de risco do DSA. A implantação on-premise é possível mediante solicitação: vamos conversar.

Revisão humana: os casos duvidosos, as denúncias e as contestações são tratados pela nossa equipe, atendendo às exigências do DSA sobre o tratamento de reclamações e recursos. Você vê cada decisão em tempo real e pode intervir quando quiser.