Woordenlijst contentmoderatie
De woorden van reactiemoderatie, de DSA en AI-moderatie, eenvoudig uitgelegd.
A
- Activiteitenlogboek (audit trail)
- Een activiteitenlogboek voor moderatie, of audit trail, is een chronologisch overzicht van moderatieacties dat laat zien wat er met welke content is gebeurd, wanneer, door wie of door welk systeem, en om welke reden.
- AI-moderatie
- AI-moderatie is het gebruik van modellen voor kunstmatige intelligentie, zoals classificatiemodellen en grote taalmodellen, om gebruikerscontent in context te begrijpen en te beslissen of voor te stellen of die moderatieregels overtreedt.
- Arbitrage tussen modellen
- Arbitrage tussen modellen is een techniek waarbij meerdere AI-modellen dezelfde content analyseren en hun oordelen worden vergeleken, zodat een moderatiebeslissing in een gevoelig geval niet op het oordeel van één model berust.
- Astroturfing
- Astroturfing is het creëren van de schijn van spontane steun of tegenstand vanuit de basis, via nepaccounts, betaalde posters of gecoördineerde berichten die verhullen wie er werkelijk achter zit.
- Automatische moderatie
- Automatische moderatie is het gebruik van software (trefwoordfilters, regels, machine learning of taalmodellen) om gebruikerscontent te analyseren en een moderatiebeslissing te nemen of voor te stellen zonder dat een mens elk item beoordeelt.
- AVG (GDPR)
- De Algemene Verordening Gegevensbescherming (AVG, in het Engels GDPR, Verordening (EU) 2016/679) is de EU-wet, van toepassing sinds 25 mei 2018, die de verwerking van persoonsgegevens regelt, waaronder de namen, berichten en identificatoren die bij commentmoderatie worden verwerkt.
B
- Betrouwbaarheidsscore
- Een betrouwbaarheidsscore (confidence score) is een waarde, vaak tussen 0 en 1, die aangeeft hoe zeker een AI-model is dat een stuk content tot een categorie behoort, zoals spam, belediging of haatzaaiende taal.
- Betrouwbare flagger
- Een betrouwbare flagger (trusted flagger) is een entiteit met bijzondere deskundigheid die die status kreeg van de digitaledienstencoördinator van haar lidstaat, en wier meldingen van illegale inhoud onlineplatforms met voorrang en zonder onnodige vertraging moeten behandelen (DSA artikel 22).
- Bezwaar
- Een bezwaar is de procedure waarmee een gebruiker een moderatiebeslissing kan aanvechten, zoals een verwijderde reactie of een geschorst account, en die laten herbeoordelen, bij voorkeur door iemand anders dan het systeem dat haar nam.
- Blokkade (ban)
- Een ban (blokkade) is een sanctie die een gebruiker verhindert te posten, te reageren of toegang te hebben tot een community, hetzij voor een beperkte periode (tijdelijke ban of schorsing), hetzij definitief.
- Brand safety
- Brand safety (merkveiligheid) is het geheel van praktijken dat de reputatie van een merk beschermt door te voorkomen dat het wordt geassocieerd met schadelijke, illegale of aanstootgevende content, in advertenties of in de reactieruimtes van zijn eigen pagina's.
- Brigading
- Brigading is een gecoördineerde actie waarbij een groep gebruikers, vaak georganiseerd vanuit een andere community, neerstrijkt op een pagina of post om die te overspoelen met reacties, stemmen of meldingen, om een standpunt op te dringen of iemand te viseren.
C
- Commentmoderatie
- Commentmoderatie is het beoordelen van reacties onder artikelen, video's of posts op sociale media om misbruik, spam en illegale inhoud te verwijderen of te verbergen, terwijl legitieme meningen, ook kritiek, zichtbaar blijven.
- Community management
- Community management is het opbouwen, bezielen en modereren van de onlinecommunity van een organisatie: publiceren, reacties en berichten beantwoorden, klachten behandelen en de regels van de community handhaven.
- Contentmoderatie
- Contentmoderatie is het proces waarbij door gebruikers gemaakte content (reacties, posts, afbeeldingen, video's) wordt beoordeeld en waarbij wordt besloten of die blijft staan, wordt verborgen, verwijderd of beperkt, op basis van de regels van een platform en de geldende wetgeving.
- Contentmoderator
- Een contentmoderator is iemand die door gebruikers gemaakte content, zoals reacties, posts en afbeeldingen, beoordeelt en beslist of die voldoet aan de regels van een dienst en aan de wet, en vervolgens de passende actie neemt of bevestigt.
D
- Desinformatie
- Desinformatie is valse of misleidende informatie die bewust wordt gemaakt of gedeeld om te misleiden, geld te verdienen of invloed uit te oefenen, terwijl misinformatie valse informatie is die wordt gedeeld zonder de bedoeling te misleiden.
- Digitaledienstenverordening (DSA)
- De Digitaledienstenverordening (Digital Services Act, Verordening (EU) 2022/2065) is de EU-verordening die regels vastlegt voor tussenhandelsdiensten, waaronder hostingdiensten en onlineplatforms, over de omgang met illegale inhoud, transparantie van moderatie en rechten van gebruikers.
- Doxxing
- Doxxing is het zonder toestemming publiceren van privé- of identificerende informatie over een persoon, zoals woonadres, telefoonnummer, werkplek of gegevens over familie, meestal om die persoon te intimideren of bloot te stellen aan intimidatie.
F
- Fout-negatief
- In moderatie is een fout-negatief content die de regels overtreedt maar niet wordt opgemerkt, zodat die zichtbaar blijft terwijl ze verborgen of verwijderd had moeten worden.
- Fout-positief
- In moderatie is een fout-positief legitieme content die ten onrechte wordt aangemerkt als overtreding van de regels en daardoor wordt verborgen, verwijderd of gemarkeerd, terwijl die zichtbaar had moeten blijven.
H
- Haatzaaiende taal
- Haatzaaiende taal is content die mensen aanvalt, kleineert of aanzet tot geweld of discriminatie tegen hen vanwege een beschermd kenmerk, zoals afkomst, religie, gender, seksuele geaardheid of handicap.
- Hostingdienst
- Onder de Digitaledienstenverordening (DSA) is een hostingdienst een tussenhandelsdienst die door gebruikers verstrekte informatie op hun verzoek opslaat; een onlineplatform is een hostingdienst die die informatie ook onder het publiek verspreidt.
- Human-in-the-loop
- Human-in-the-loop (HITL) beschrijft een geautomatiseerd systeem waarin een mens een deel van de beslissingen van de machine beoordeelt, bevestigt of corrigeert, meestal de onzekere, gevoelige of betwiste.
- Hybride moderatie
- Hybride moderatie is een moderatiemodel waarin software duidelijke content automatisch afhandelt en mensen de dubbelzinnige of gevoelige gevallen beoordelen, zodat elke beslissing wordt genomen door wie daar het best voor geplaatst is.
I
- Illegale inhoud
- Onder de Digitaledienstenverordening (DSA) is illegale inhoud alle informatie die op zichzelf of in verband met een activiteit niet in overeenstemming is met het recht van de EU of van een lidstaat; de DSA bepaalt zelf niet wat illegaal is, maar verwijst naar die wetgeving.
- Intern klachtenafhandelingssysteem
- Een intern klachtenafhandelingssysteem is de procedure die onlineplatforms onder artikel 20 van de Digitaledienstenverordening (DSA) moeten bieden, zodat gebruikers elektronisch en kosteloos beslissingen kunnen aanvechten om hun content te verwijderen of te beperken of hun account te schorsen.
M
- Melding en actie
- Melding en actie (notice and action) is het mechanisme uit artikel 16 van de Digitaledienstenverordening (DSA) waarmee hostingdiensten iedere persoon of entiteit content moeten laten melden die zij illegaal achten, en die meldingen tijdig, zorgvuldig, niet-willekeurig en objectief moeten verwerken.
- Moderatie achteraf
- Moderatie achteraf (post-moderatie) is een moderatiemethode waarbij gebruikerscontent direct wordt gepubliceerd en daarna wordt beoordeeld; content die de regels overtreedt, wordt verborgen of verwijderd zodra die is opgemerkt.
- Moderatie vooraf
- Moderatie vooraf (pre-moderatie) is een moderatiemethode waarbij gebruikerscontent wordt tegengehouden en beoordeeld voordat die zichtbaar wordt voor het publiek; er wordt niets gepubliceerd zolang het niet is goedgekeurd.
- Moderatiebeleid
- Een moderatiebeleid, vaak gepubliceerd als communityrichtlijnen of reactiecharter, is het geheel van regels dat bepaalt welke content in een ruimte is toegestaan, welke niet, en welke actie volgt als de regels worden overtreden.
- Moderatiedrempel
- Een moderatiedrempel is de grenswaarde op de betrouwbaarheidsscore van een model die bepaalt wat er met content gebeurt: automatische actie erboven, menselijke beoordeling of geen actie eronder.
- Moderatiewachtrij
- Een moderatiewachtrij is de lijst met content die wacht op beoordeling door een moderator, zoals reacties die op goedkeuring wachten, items die de AI als twijfelachtig heeft gemarkeerd, meldingen van gebruikers en betwiste beslissingen.
- Motivering
- Een motivering (statement of reasons) is de duidelijke en specifieke uitleg die een hostingdienst een gebruiker moet geven wanneer hij diens content of account beperkt: wat is besloten, op welke feiten, op welke wettelijke of contractuele grond en hoe je het kunt aanvechten (DSA artikel 17).
O
- Online intimidatie
- Online intimidatie is kwetsend gedrag gericht op een specifieke persoon, vaak herhaald of gecoördineerd, met als doel die persoon te intimideren, te vernederen of het zwijgen op te leggen, via beledigingen, bedreigingen, ongewenst contact of het blootleggen van persoonlijke informatie.
- Oplichting
- In moderatie is oplichting (scam) content die bedoeld is om mensen te misleiden zodat ze geld, persoonsgegevens of toegang tot hun account afstaan, bijvoorbeeld nepwinacties, nepaccounts van een klantenservice of te mooie beleggingsaanbiedingen.
R
- Raid
- Een raid is de plotselinge, georganiseerde komst van een groot aantal externe gebruikers in een reactieruimte, livechat of stream, meestal om die te verstoren met spam, beledigingen of schokkende content.
- Reactieve moderatie
- Reactieve moderatie is een moderatiemethode waarbij content pas wordt beoordeeld nadat een gebruiker, een betrouwbare flagger of een autoriteit die heeft gemeld, in plaats van dat alles systematisch wordt gecontroleerd.
S
- Sandboxmodus
- In moderatie is de sandboxmodus een testinstelling waarin het systeem echte content analyseert en toont wat het zou beslissen, zonder daadwerkelijk iets te verbergen of te verwijderen.
- Sentiment of toxiciteit
- Sentiment beschrijft de emotionele lading van een bericht (positief, neutraal of negatief), terwijl toxiciteit beschrijft of het kwetsend is; een negatieve reactie is niet per se toxisch, en een toxische kan positief lijken.
- Shadowban
- Een shadowban is een beperking waarbij de content van een gebruiker voor anderen wordt verborgen of minder zichtbaar wordt gemaakt zonder dat de gebruiker daar duidelijk over wordt geïnformeerd, zodat die blijft posten zonder te merken dat niemand het ziet.
- Spam
- Spam is ongevraagde content die massaal of herhaaldelijk wordt geplaatst, meestal om reclame te maken, verkeer te genereren of te misleiden, zoals promotielinks, gekopieerde berichten en door bots gegenereerde reacties.
T
- Toxiciteit
- Toxiciteit is een breed label voor grove, respectloze of agressieve content die anderen ertoe kan brengen een gesprek te verlaten, waaronder beledigingen, minachting, bedreigingen en persoonlijke aanvallen.
- Transparantieverslag
- Een transparantieverslag is een openbaar document waarin een dienst cijfers en informatie over haar contentmoderatie bekendmaakt, zoals ontvangen bevelen, behandelde meldingen, genomen beslissingen en klachten, zoals vereist door de artikelen 15 en 24 van de Digitaledienstenverordening (DSA).
- Trol
- Een trol is iemand die bewust provocerende, beledigende of off-topic berichten plaatst om reacties uit te lokken, een gesprek te laten ontsporen of andere deelnemers te ergeren.
- Trust and safety
- Trust and safety (T&S) is het geheel van beleid, teams en instrumenten dat een organisatie inzet om haar gebruikers en haar dienst te beschermen tegen misbruik, fraude en schadelijke en illegale inhoud, en om ervoor te zorgen dat mensen erop kunnen vertrouwen.
Bescherm je merk in een paar minuten.
Koppel je website of je pagina's en vertel ons wat je regels en use cases zijn. Wij richten de moderatie in en draaien die voor je: ons team behandelt twijfelgevallen en meldingen, en jij ziet elke beslissing en de toelichting in realtime.
Geen creditcard nodig · DSA-conform · AVG-conform
Vragen? contact@openmoderation.com