📖 Woordenlijst moderatie
Wat is een LLM?
Kort gezegd
Een groot taalmodel (LLM, large language model) is een AI-model dat is getraind op zeer grote hoeveelheden tekst om taal te begrijpen en te genereren; in moderatie kan het content in context lezen en regels in gewone taal toepassen.
LLM's zijn de technologie achter conversationele assistenten. Hun kracht voor moderatie is begrip: ze vatten ironie, gecodeerde beledigingen en de context van het artikel waaronder wordt gereageerd, en ze kunnen instructies volgen zoals 'kritiek op onze producten is toegestaan, persoonlijke aanvallen op medewerkers niet'.
Voorbeeld: iemand schrijft 'goed gedaan zoals altijd' onder een post over een vertraagde trein. Een LLM kan het sarcasme herkennen en het als kritiek classificeren, die zichtbaar moet blijven, in plaats van als lof of als misbruik.
LLM's hebben ook grenzen: ze kunnen van de ene keer op de andere inconsistent zijn, zich laten misleiden door zorgvuldig opgestelde tekst, en hun kosten en snelheid variëren. Daarom omkaderen serieuze moderatiesystemen ze met regels, drempels, kruiscontroles tussen modellen en menselijke beoordeling. De eigen moderatie-AI van OpenModeration wordt bij gevoelige gevallen gecontroleerd door andere AI-modellen, en nieuwe modellen worden toegevoegd zodra ze verschijnen.