DSA-Konformität leicht gemacht für die Kommentarmoderation

Der Digital Services Act (DSA) der EU gilt seit 2024 vollständig, und seine Auswirkungen sind in der Tech-Branche noch immer deutlich zu spüren. Jeder Dienst, der Nutzerinhalte für Menschen in der EU hostet, muss unabhängig von seinem Sitz auf Meldungen rechtswidriger Inhalte reagieren, seine Moderationsentscheidungen begründen und Nutzern den Widerspruch dagegen ermöglichen. Die Bußgelder können bis zu 6 % des weltweiten Jahresumsatzes erreichen.

Für viele Plattformen stellt der DSA eine grundlegende Herausforderung dar: Wie beweisen Sie den Aufsichtsbehörden, dass Ihr Moderationssystem funktioniert? Dafür braucht es drei Dinge: eine automatisierte Moderationspipeline, einen lückenlosen Audit-Trail und die Möglichkeit, Transparenzberichte zu erstellen.

Die DSA-Anforderungen im Überblick

Der DSA schreibt keine bestimmte Technologie vor. Er verlangt Ergebnisse:

• Melde- und Abhilfeverfahren (Art. 16): Nutzer müssen Inhalte melden können. Plattformen müssen auf Meldungen reagieren.
• Transparenzberichte (Art. 15): Plattformen müssen Berichte über ihre Moderationstätigkeit veröffentlichen.
• Begründung (Art. 17): Jede Entfernung oder Einschränkung muss dem Nutzer erklärt werden, einschließlich der Angabe, ob automatisierte Mittel eingesetzt wurden.
• Beschwerdesystem (Art. 20): Nutzer müssen Moderationsentscheidungen anfechten können.
• Risikobewertung (Art. 34): Sehr große Plattformen (mehr als 45 Millionen monatliche Nutzer in der EU) müssen systemische Risiken bewerten.

Warum Transparenz für die Compliance zählt

Diese Frage sollten sich DSA-Compliance-Verantwortliche stellen: Wenn Ihre Moderation eine Blackbox ist, wie wollen Sie einer Aufsichtsbehörde nachweisen, was sie tut?

Viele Tools liefern nur einen Score oder ein Urteil, ohne Erklärung. Sie können nicht nachvollziehen, ob Inhalte korrekt behandelt werden. Sie können die Entscheidungsfindung nicht auditieren. Sie verlassen sich auf die Aussagen des Anbieters, und dieses Vertrauen reicht einer Aufsichtsbehörde womöglich nicht.

Eine Moderation, die jede Entscheidung schriftlich begründet und lückenlos protokolliert, löst dieses Problem. Jede Entscheidung lässt sich nachvollziehen. Ihr Compliance-Team sieht genau, wie Inhalte moderiert werden, welche Ihrer Regeln gegriffen hat und ob automatisch oder von einem Moderator entschieden wurde.

Eine DSA-konforme Moderationspipeline aufbauen

So sieht ein DSA-konformes Setup mit OpenModeration aus:

1. Erfassung der Inhalte: Inhalte kommen per API, Webhook oder Social-Media-Konnektor an. Jedes Element erhält eine eindeutige ID und wird verschlüsselt gespeichert.
2. KI-Moderation: Unsere eigene Moderations-KI analysiert den Inhalt, heikle Fälle werden von weiteren KI-Modellen gegengeprüft. Die Ergebnisse enthalten Scores pro Kategorie und eine Entscheidung „markiert“ oder „nicht markiert“.
3. Regelauswertung: Ihre Regeln kombinieren verbotene Wörter für die sofortige Sperre, Schwellenwerte pro Kategorie für automatische Entscheidungen und Vorgaben, die Sie in Alltagssprache formulieren.
4. Audit-Logging: Jeder Schritt wird protokolliert: Inhalt, Modell, Scores, ausgelöste Regel, ergriffene Maßnahme, Zeitstempel.
5. Transparenz-Export: GET /v1/analytics/usage liefert die Daten, die Sie für die DSA-Transparenzberichte benötigen.

Konkrete DSA-Anforderungen erfüllen

Audit-Trail: OpenModeration protokolliert jede Moderation mit Modell, Latenz, Scores, Entscheidung und schriftlicher Begründung. Die Daten werden gemäß Ihrer konfigurierten Richtlinie aufbewahrt (standardmäßig 7 Tage für Eingabetexte, 90 Tage für Logs). Alles lässt sich für behördliche Prüfungen exportieren.

Transparenzberichte: Die Analytics-API liefert Nutzungsdaten nach Zeitraum, Maßnahme und Kategorie. Gesamtzahl der Anfragen, Markierungsquoten, Einsatz automatisierter Mittel: genau das, was DSA-Transparenzberichte verlangen.

Datensouveränität: Ihre Daten werden in der EU gehostet und lassen sich jederzeit exportieren. Das ist wichtig für die DSGVO-Konformität und die Risikobewertungen nach dem DSA. Eine On-Premise-Bereitstellung ist auf Anfrage möglich: Sprechen wir darüber.

Menschliche Prüfung: Grenzfälle, Nutzermeldungen und Beschwerden bearbeitet unser Team, nicht Ihres. So sind die DSA-Anforderungen an die Bearbeitung von Beschwerden und Einsprüchen erfüllt, und Sie sehen in der Konsole jede Entscheidung in Echtzeit und können jederzeit eingreifen.