Conformità DSA semplice per la moderazione dei commenti
Il Digital Services Act (DSA) dell'UE è pienamente applicabile dal 2024 e i suoi effetti si fanno ancora sentire in tutto il settore tecnologico. Qualsiasi servizio che ospita contenuti degli utenti per persone nell'UE, ovunque abbia sede, deve dare seguito alle segnalazioni di contenuti illegali, motivare le proprie decisioni di moderazione e permettere agli utenti di contestarle. Le sanzioni possono arrivare al 6% del fatturato annuo mondiale.
Per molte piattaforme il DSA pone una sfida di fondo: come dimostrare alle autorità che il proprio sistema di moderazione funziona? La risposta richiede tre elementi: una pipeline di moderazione automatica, un registro di audit completo e la capacità di produrre relazioni di trasparenza.
Gli obblighi del DSA, in sintesi
Il DSA non impone una tecnologia specifica. Impone dei risultati:
- Segnalazione e azione (art. 16): gli utenti devono poter segnalare i contenuti. Le piattaforme devono dare seguito alle segnalazioni.
- Relazioni di trasparenza (art. 15): le piattaforme devono pubblicare relazioni sulle proprie attività di moderazione dei contenuti.
- Motivazione delle decisioni (art. 17): ogni rimozione o limitazione deve essere spiegata all'utente, indicando anche se sono stati usati strumenti automatizzati.
- Sistema di reclamo (art. 20): gli utenti devono poter contestare le decisioni di moderazione.
- Valutazione dei rischi (art. 34): le piattaforme di dimensioni molto grandi (oltre 45 milioni di utenti mensili nell'UE) devono valutare i rischi sistemici.
Perché la trasparenza delle decisioni conta per la conformità
Ecco una domanda che ogni responsabile della conformità al DSA dovrebbe porsi: se la tua piattaforma di moderazione è una scatola nera proprietaria, come puoi dimostrare a un'autorità che cosa fa?
Le piattaforme proprietarie possono dichiarare di moderare i contenuti, ma non puoi ispezionarne la logica. Non puoi verificare che trattino i contenuti correttamente. Non puoi sottoporre a audit il loro processo decisionale. Ti fidi delle loro dichiarazioni, e quella fiducia potrebbe non bastare a un'autorità di vigilanza.
La soluzione è una moderazione che spiega ogni decisione per iscritto. Ogni decisione è tracciabile nel registro di audit, con la regola applicata e il motivo. Il tuo team di compliance può controllare esattamente come vengono moderati i contenuti, quali criteri, scritti da te, vengono applicati e dove finiscono i risultati.
Costruire una pipeline di moderazione conforme al DSA
Ecco come si presenta una configurazione conforme al DSA con OpenModeration:
- Acquisizione dei contenuti: i contenuti arrivano tramite API, webhook o connettori social. Ogni elemento riceve un ID univoco e viene archiviato cifrato.
- Moderazione con IA: la nostra IA di moderazione analizza il contenuto e altri modelli di IA verificano i casi delicati. I risultati includono i punteggi per categoria e una decisione segnalato/non segnalato.
- Valutazione delle regole: le tue regole combinano parole vietate per il blocco immediato, soglie per categoria per le decisioni automatiche e le regole che hai scritto tu in linguaggio naturale.
- Registro di audit: ogni passaggio viene registrato: contenuto, punteggi, regola applicata, azione eseguita, data e ora.
- Esportazione per la trasparenza: GET /v1/analytics/usage fornisce i dati necessari per le relazioni di trasparenza previste dal DSA.
Rispondere ai singoli obblighi del DSA
Registro di audit: OpenModeration registra ogni moderazione con latenza, punteggi e decisione. I dati vengono conservati secondo la politica che hai configurato (per impostazione predefinita 7 giorni per il testo in ingresso e 90 giorni per i log). Tutto è esportabile per gli audit delle autorità.
Relazioni di trasparenza: l'API di analytics fornisce i dati di utilizzo per periodo e categoria. Richieste totali, tassi di segnalazione, azioni intraprese: esattamente ciò che chiedono le relazioni di trasparenza del DSA.
Sovranità dei dati: i dati sono ospitati nell'UE e restano esportabili in qualsiasi momento. Un requisito essenziale per la conformità al GDPR e per le valutazioni dei rischi previste dal DSA. Serve un'installazione on-premise? È possibile su richiesta: parliamone.
Revisione umana: i casi limite li gestisce il nostro team di moderatori umani, soddisfacendo gli obblighi del DSA in materia di gestione dei reclami e di ricorsi.