Glossar der Content Moderation
Die Begriffe der Kommentarmoderation, des DSA und der KI-Moderation, einfach erklärt.
A
- Aktivitätsprotokoll
- Ein Moderations-Audit-Trail oder Aktivitätsprotokoll ist eine chronologische Aufzeichnung der Moderationsmaßnahmen, die zeigt, was mit welchem Inhalt geschah, wann, durch wen oder durch welches System und aus welchem Grund.
- Astroturfing
- Astroturfing ist die Praxis, den Anschein spontaner Unterstützung oder Ablehnung aus der Bevölkerung zu erwecken, durch Fake-Konten, bezahlte Poster oder koordinierte Nachrichten, die verbergen, wer wirklich dahintersteckt.
- Ausblenden oder löschen
- Das Ausblenden eines Kommentars macht ihn für die Öffentlichkeit unsichtbar, behält ihn aber (und auf Facebook bleibt er für den Verfasser und dessen Freunde sichtbar); das Löschen entfernt ihn endgültig. Ausblenden ist umkehrbar, Löschen nicht.
- Automatisierte Moderation
- Automatisierte Moderation ist der Einsatz von Software (Wortfilter, Regeln, Machine-Learning- oder Sprachmodelle), um Nutzerinhalte zu analysieren und eine Moderationsentscheidung zu treffen oder vorzuschlagen, ohne dass ein Mensch jeden einzelnen Inhalt prüft.
B
- Begründung
- Eine Begründung (Statement of Reasons) ist die klare Erklärung, die ein Hostingdienst einem Nutzer geben muss, wenn er dessen Inhalt oder Konto einschränkt: was entschieden wurde, auf welchen Tatsachen, auf welcher rechtlichen oder vertraglichen Grundlage und wie man anficht (DSA Artikel 17).
- Betrug
- In der Moderation sind Betrugsinhalte (Scams) Inhalte, die Menschen dazu bringen sollen, Geld, persönliche Daten oder Kontozugänge herauszugeben, zum Beispiel gefälschte Gewinnspiele, falsche Kundenservice-Konten oder Anlageangebote, die zu gut sind, um wahr zu sein.
- Brand Safety
- Brand Safety ist die Gesamtheit der Maßnahmen, die den Ruf einer Marke schützen, indem sie verhindern, dass sie mit schädlichen, rechtswidrigen oder anstößigen Inhalten in Verbindung gebracht wird, sei es in Anzeigen oder in den Kommentarbereichen ihrer eigenen Seiten.
- Brigading
- Brigading ist eine koordinierte Aktion, bei der eine Gruppe von Nutzern, oft aus einer anderen Community heraus organisiert, über eine Seite oder einen Beitrag herfällt und ihn mit Kommentaren, Bewertungen oder Meldungen flutet, um eine Sichtweise durchzusetzen oder jemanden anzugreifen.
C
- Community Management
- Community Management ist die Arbeit, die Online-Community einer Organisation aufzubauen, zu beleben und zu moderieren: veröffentlichen, auf Kommentare und Nachrichten antworten, Beschwerden bearbeiten und die Regeln der Community durchsetzen.
- Content-Moderation
- Content-Moderation ist der Prozess, nutzergenerierte Inhalte (Kommentare, Beiträge, Bilder, Videos) zu prüfen und auf Grundlage der Regeln einer Plattform und des geltenden Rechts zu entscheiden, ob sie stehen bleiben, ausgeblendet, entfernt oder eingeschränkt werden.
- Content-Moderator
- Ein Content-Moderator ist eine Person, die nutzergenerierte Inhalte wie Kommentare, Beiträge und Bilder prüft, entscheidet, ob sie den Regeln eines Dienstes und dem Gesetz entsprechen, und dann die passende Maßnahme ergreift oder bestätigt.
D
- Desinformation
- Desinformation sind falsche oder irreführende Informationen, die bewusst erstellt oder geteilt werden, um zu täuschen, Geld zu verdienen oder Einfluss zu nehmen, während Fehlinformation falsche Informationen sind, die ohne Täuschungsabsicht geteilt werden.
- Digital Services Act (DSA)
- Der Digital Services Act (Gesetz über digitale Dienste, Verordnung (EU) 2022/2065) ist die EU-Verordnung mit Regeln für Vermittlungsdienste, darunter Hostingdienste und Online-Plattformen, zum Umgang mit rechtswidrigen Inhalten, zur Transparenz der Moderation und zu Nutzerrechten.
- Doxxing
- Doxxing ist die Veröffentlichung privater oder identifizierender Informationen über eine Person, etwa Wohnadresse, Telefonnummer, Arbeitsplatz oder Angaben zur Familie, ohne deren Zustimmung, meist um sie einzuschüchtern oder Belästigung auszusetzen.
- DSGVO
- Die Datenschutz-Grundverordnung (Verordnung (EU) 2016/679) ist das seit dem 25. Mai 2018 geltende EU-Gesetz, das die Verarbeitung personenbezogener Daten regelt, einschließlich der Namen, Nachrichten und Kennungen, die bei der Kommentarmoderation verarbeitet werden.
F
- Falsch negativ
- In der Moderation ist ein falsch negatives Ergebnis ein Inhalt, der gegen die Regeln verstößt, aber nicht erkannt wird und daher sichtbar bleibt, obwohl er hätte ausgeblendet oder entfernt werden müssen.
- Falsch positiv
- In der Moderation ist ein falsch positives Ergebnis ein legitimer Inhalt, der fälschlich als Regelverstoß erkannt und deshalb ausgeblendet, entfernt oder markiert wird, obwohl er hätte sichtbar bleiben sollen.
H
- Hassrede
- Hassrede (Hate Speech) sind Inhalte, die Menschen wegen eines geschützten Merkmals wie Herkunft, Religion, Geschlecht, sexueller Orientierung oder Behinderung angreifen, herabwürdigen oder zu Gewalt oder Diskriminierung gegen sie aufstacheln.
- Hostingdienst
- Nach dem Digital Services Act ist ein Hostingdienst ein Vermittlungsdienst, der von Nutzern bereitgestellte Informationen in deren Auftrag speichert; eine Online-Plattform ist ein Hostingdienst, der diese Informationen zudem öffentlich verbreitet.
- Human-in-the-Loop
- Human-in-the-Loop (HITL) bezeichnet ein automatisiertes System, in dem ein Mensch einen Teil der Entscheidungen der Maschine prüft, bestätigt oder korrigiert, typischerweise die unsicheren, heiklen oder angefochtenen.
- Hybride Moderation
- Hybride Moderation ist ein Moderationsmodell, bei dem Software eindeutige Inhalte automatisch bearbeitet und Menschen die mehrdeutigen oder heiklen Fälle prüfen, sodass jede Entscheidung von dem getroffen wird, der dafür am besten geeignet ist.
K
- KI-Moderation
- KI-Moderation ist der Einsatz von Modellen künstlicher Intelligenz, etwa Klassifikatoren und großen Sprachmodellen, um Nutzerinhalte im Kontext zu verstehen und zu entscheiden oder vorzuschlagen, ob sie gegen Moderationsregeln verstoßen.
- Kommentarmoderation
- Kommentarmoderation ist die Prüfung von Kommentaren unter Artikeln, Videos oder Social-Media-Beiträgen, um Missbrauch, Spam und rechtswidrige Inhalte zu entfernen oder auszublenden und zugleich legitime Meinungen, einschließlich Kritik, sichtbar zu lassen.
- Konfidenzwert
- Ein Konfidenzwert ist ein Wert, oft zwischen 0 und 1, der angibt, wie sicher ein KI-Modell ist, dass ein Inhalt zu einer Kategorie wie Spam, Beleidigung oder Hassrede gehört.
M
- Melde- und Abhilfeverfahren
- Das Melde- und Abhilfeverfahren (Notice and Action) ist der Mechanismus nach Artikel 16 des Digital Services Act, über den Hostingdienste jedem ermöglichen müssen, mutmaßlich rechtswidrige Inhalte zu melden, und diese Meldungen zeitnah, sorgfältig, willkürfrei und objektiv bearbeiten.
- Modell-Arbitrage
- Modell-Arbitrage ist eine Technik, bei der mehrere KI-Modelle denselben Inhalt analysieren und ihre Urteile verglichen werden, damit eine Moderationsentscheidung in einem heiklen Fall nicht vom Urteil eines einzigen Modells abhängt.
- Moderationsrichtlinie
- Eine Moderationsrichtlinie, oft als Community-Richtlinien oder Netiquette veröffentlicht, ist das Regelwerk, das festlegt, welche Inhalte in einem Bereich erlaubt sind, welche nicht und welche Maßnahme bei Regelverstößen ergriffen wird.
- Moderationsschwelle
- Eine Moderationsschwelle ist der Grenzwert, der auf den Konfidenzwert eines Modells angewendet wird und entscheidet, was mit einem Inhalt geschieht: automatische Maßnahme oberhalb, menschliche Prüfung oder keine Maßnahme unterhalb.
- Moderationswarteschlange
- Eine Moderationswarteschlange ist die Liste der Inhalte, die auf die Prüfung durch einen Moderator warten, etwa zur Freigabe zurückgehaltene Kommentare, von der KI als zweifelhaft markierte Inhalte, Nutzermeldungen und angefochtene Entscheidungen.
R
- Raid
- Ein Raid ist das plötzliche, organisierte Auftauchen einer großen Zahl fremder Nutzer in einem Kommentarbereich, Live-Chat oder Stream, meist um ihn mit Spam, Beleidigungen oder schockierenden Inhalten zu stören.
- Reaktive Moderation
- Reaktive Moderation ist eine Moderationsmethode, bei der Inhalte erst geprüft werden, nachdem ein Nutzer, ein vertrauenswürdiger Hinweisgeber oder eine Behörde sie gemeldet hat, statt systematisch kontrolliert zu werden.
- Rechtswidrige Inhalte
- Nach dem Digital Services Act sind rechtswidrige Inhalte alle Informationen, die für sich oder in Bezug auf eine Tätigkeit nicht mit dem Unionsrecht oder dem Recht eines Mitgliedstaats im Einklang stehen; der DSA legt nicht selbst fest, was rechtswidrig ist, sondern verweist auf diese Gesetze.
S
- Sandbox-Modus
- In der Moderation ist der Sandbox-Modus eine Testeinstellung, in der das System echte Inhalte analysiert und zeigt, was es entscheiden würde, ohne tatsächlich etwas auszublenden oder zu entfernen.
- Sehr große Online-Plattform (VLOP)
- Eine sehr große Online-Plattform (Very Large Online Platform, VLOP) ist eine Online-Plattform mit durchschnittlich mindestens 45 Millionen monatlich aktiven Nutzern in der Europäischen Union, die von der Europäischen Kommission nach Artikel 33 des Digital Services Act als solche benannt wurde.
- Sentiment vs. Toxizität
- Sentiment beschreibt die emotionale Polarität einer Nachricht (positiv, neutral oder negativ), Toxizität dagegen, ob sie missbräuchlich ist; ein negativer Kommentar ist nicht unbedingt toxisch, und ein toxischer kann positiv wirken.
- Shadowban
- Ein Shadowban ist eine Einschränkung, bei der die Inhalte eines Nutzers für andere ausgeblendet oder weniger sichtbar gemacht werden, ohne dass er klar informiert wird, sodass er weiter postet, ohne zu merken, dass niemand es sieht.
- Spam
- Spam sind unerwünschte Inhalte, die massenhaft oder wiederholt gepostet werden, meist um zu werben, Traffic zu erzeugen oder zu täuschen, etwa Werbelinks, kopierte Nachrichten und von Bots erzeugte Kommentare.
- Sperre (Ban)
- Eine Sperre (Ban) ist eine Sanktion, die einen Nutzer daran hindert, zu posten, zu kommentieren oder auf eine Community zuzugreifen, entweder für einen begrenzten Zeitraum (vorübergehende Sperre oder Suspendierung) oder dauerhaft.
T
- Toxizität
- Toxizität ist eine breite Bezeichnung für unhöfliche, respektlose oder aggressive Inhalte, die andere Menschen wahrscheinlich aus einem Gespräch vertreiben, darunter Beleidigungen, Verachtung, Drohungen und persönliche Angriffe.
- Transparenzbericht
- Ein Transparenzbericht ist ein öffentliches Dokument, in dem ein Dienst Zahlen und Informationen zu seiner Content-Moderation offenlegt, etwa erhaltene Anordnungen, bearbeitete Meldungen, getroffene Entscheidungen und Beschwerden, wie es die Artikel 15 und 24 des Digital Services Act verlangen.
- Troll
- Ein Troll ist eine Person, die absichtlich provokante, beleidigende oder themenfremde Nachrichten postet, um Reaktionen hervorzurufen, ein Gespräch zu entgleisen oder andere Teilnehmer zu verärgern.
- Trust and Safety
- Trust and Safety (T&S) ist die Gesamtheit der Richtlinien, Teams und Werkzeuge, mit denen eine Organisation ihre Nutzer und ihren Dienst vor Missbrauch, Betrug, schädlichen und rechtswidrigen Inhalten schützt und dafür sorgt, dass man sich auf sie verlassen kann.
V
- Vertrauenswürdiger Hinweisgeber
- Ein vertrauenswürdiger Hinweisgeber (Trusted Flagger) ist eine Stelle mit besonderer Sachkunde, der der Koordinator für digitale Dienste ihres Mitgliedstaats diesen Status verliehen hat und deren Meldungen Online-Plattformen vorrangig und unverzüglich bearbeiten müssen (DSA Artikel 22).
- Vorab-Moderation
- Vorab-Moderation ist eine Moderationsmethode, bei der Nutzerinhalte zurückgehalten und geprüft werden, bevor sie öffentlich sichtbar werden; nichts wird veröffentlicht, bevor es freigegeben ist.
Schützen Sie Ihre Marke in wenigen Minuten.
Verbinden Sie Ihre Website oder Ihre Seiten und nennen Sie uns Ihre Regeln und Anwendungsfälle. Wir richten die Moderation ein und betreiben sie für Sie: Unser Team bearbeitet Zweifelsfälle und Meldungen, und Sie sehen jede Entscheidung mit ihrer Begründung in Echtzeit.
Keine Kreditkarte erforderlich · DSA-konform · DSGVO-konform
Fragen? contact@openmoderation.com