📖 Woordenlijst moderatie
Wat is een moderatiedrempel?
Kort gezegd
Een moderatiedrempel is de grenswaarde op de betrouwbaarheidsscore van een model die bepaalt wat er met content gebeurt: automatische actie erboven, menselijke beoordeling of geen actie eronder.
Drempels zetten scores om in beslissingen. Veel systemen gebruiken er twee: een hoge, waarboven content automatisch wordt verborgen, en een lagere, die de band van twijfelachtige content afbakent die naar een mens gaat.
Voorbeeld: een kindermerk stelt een heel lage drempel in voor beledigingen, omdat het publiek jong is en de tolerantie minimaal. Een politieke nieuwssite kiest een hogere, omdat een verhit debat bij haar doel hoort en ze scherpe maar legitieme meningen niet wil verwijderen.
Een hogere drempel vermindert fout-positieven maar verhoogt fout-negatieven, en omgekeerd. Er bestaat geen universeel juiste waarde: die hangt af van het publiek, de categorie content en de kosten van elk type fout. OpenModeration stemt de moderatie af op de regels en use cases van elke klant en laat de twijfelzone afhandelen door het eigen team, terwijl jij elke beslissing in realtime ziet.