📖 Glossar der Moderation
Was ist ein LLM?
Kurz gesagt
Ein großes Sprachmodell (Large Language Model, LLM) ist ein KI-Modell, das mit sehr großen Textmengen trainiert wurde, um Sprache zu verstehen und zu erzeugen; in der Moderation kann es Inhalte im Kontext lesen und in Alltagssprache formulierte Regeln anwenden.
LLMs sind die Technologie hinter Chat-Assistenten. Ihre Stärke für die Moderation ist das Verstehen: Sie erfassen Ironie, verschlüsselte Beleidigungen und den Kontext des kommentierten Artikels, und sie können Anweisungen folgen wie „Kritik an unseren Produkten ist erlaubt, persönliche Angriffe auf Mitarbeitende nicht“.
Beispiel: Ein Nutzer schreibt „Wie immer super gemacht“ unter einen Beitrag über einen verspäteten Zug. Ein LLM kann den Sarkasmus erkennen und den Kommentar als Kritik einordnen, die sichtbar bleiben sollte, statt als Lob oder Beleidigung.
LLMs haben auch Grenzen: Sie können von einem Durchlauf zum nächsten inkonsistent sein, sich von gezielt gestalteten Texten täuschen lassen, und Kosten und Geschwindigkeit schwanken. Deshalb rahmen seriöse Moderationssysteme sie mit Regeln, Schwellenwerten, Abgleich zwischen Modellen und menschlicher Prüfung ein. Die eigene Moderations-KI von OpenModeration wird bei heiklen Fällen von anderen KI-Modellen gegengeprüft, und neue Modelle kommen hinzu, sobald sie erscheinen.