📖 Woordenlijst moderatie
Wat is human-in-the-loop-moderatie?
Kort gezegd
Human-in-the-loop (HITL) beschrijft een geautomatiseerd systeem waarin een mens een deel van de beslissingen van de machine beoordeelt, bevestigt of corrigeert, meestal de onzekere, gevoelige of betwiste.
In moderatie betekent human-in-the-loop dat de AI niet over alles het laatste woord heeft. Gevallen onder een betrouwbaarheidsdrempel, of in gevoelige categorieën zoals bedreigingen of zelfbeschadiging, worden doorgestuurd naar een mens, die de content, de context en de reden van de markering door het systeem ziet.
Voorbeeld: een reactie zegt dat een politicus bij de volgende verkiezingen moet worden afgeschoten. Een systeem op basis van trefwoorden kan daar een bedreiging in lezen; een mens begrijpt meteen de beeldspraak en laat de reactie staan.
Menselijke beoordeling telt ook juridisch en voor de reputatie. De Digitaledienstenverordening (DSA) verplicht onlineplatforms klachten over moderatiebeslissingen te behandelen onder toezicht van passend gekwalificeerd personeel, en niet uitsluitend met geautomatiseerde middelen (artikel 20). Bij OpenModeration worden twijfelgevallen en betwiste beslissingen beoordeeld door ons team, en je ziet elke beslissing in realtime in één console.