📖 Woordenlijst moderatie
Wat is automatische moderatie?
Kort gezegd
Automatische moderatie is het gebruik van software (trefwoordfilters, regels, machine learning of taalmodellen) om gebruikerscontent te analyseren en een moderatiebeslissing te nemen of voor te stellen zonder dat een mens elk item beoordeelt.
De oudste vorm van automatische moderatie is de trefwoordlijst: elke reactie met een verboden woord wordt geblokkeerd. Dat is eenvoudig maar grof, want het mist beledigingen met spellingtrucs en blokkeert onschuldige zinnen die toevallig een woord uit de lijst bevatten. Moderne systemen gebruiken AI-modellen die de hele zin en de context lezen.
Voorbeeld: een YouTubekanaal krijgt duizenden reacties per video. Een automatisch systeem verbergt spamlinks en duidelijke beledigingen binnen enkele seconden, zodat de community manager alleen de paar dozijn reacties bekijkt waarover het systeem twijfelt.
Automatisering brengt snelheid en consistentie, maar maakt fouten (fout-positieven en fout-negatieven), en de Digitaledienstenverordening (DSA) verplicht aanbieders te vermelden wanneer bij een beslissing geautomatiseerde middelen zijn gebruikt (artikel 17). Goede praktijk is de duidelijke gevallen te automatiseren, de twijfelgevallen naar mensen te sturen en voor elke beslissing een reden vast te leggen.
OpenModeration automatiseert moderatie volgens de regels van elke klant, verbergt duidelijke overtredingen automatisch, houdt kritiek zichtbaar en laat twijfelgevallen afhandelen door het eigen team. Je ziet elke beslissing en de reden ervan in realtime en kunt op elk moment ingrijpen.