Lexique de la modération
Les mots de la modération des commentaires, du DSA et de la modération par IA, expliqués simplement.
A
- Arbitrage entre modèles
- L'arbitrage entre modèles est une technique dans laquelle plusieurs modèles d'IA analysent le même contenu et leurs verdicts sont comparés, pour qu'une décision de modération sur un cas délicat ne repose pas sur le jugement d'un seul modèle.
- Arnaque
- En modération, une arnaque est un contenu conçu pour tromper les gens afin d'obtenir de l'argent, des données personnelles ou l'accès à un compte, par exemple un faux jeu-concours, un faux service client ou une offre d'investissement trop belle pour être vraie.
- Astroturfing
- L'astroturfing consiste à simuler un soutien ou une opposition spontanée et populaire, au moyen de faux comptes, de contributeurs rémunérés ou de messages coordonnés qui cachent qui se trouve réellement derrière.
B
- Bannissement
- Le bannissement (ou ban) est une sanction qui empêche un internaute de publier, de commenter ou d'accéder à une communauté, soit pour une durée limitée (suspension), soit définitivement.
- Brand safety
- La brand safety (sécurité de marque) regroupe les pratiques qui protègent la réputation d'une marque en évitant qu'elle soit associée à des contenus nuisibles, illicites ou choquants, que ce soit dans la publicité ou dans les commentaires de ses propres pages.
- Brigading
- Le brigading est une action coordonnée dans laquelle un groupe d'internautes, souvent organisé depuis une autre communauté, déferle sur une page ou un post pour l'inonder de commentaires, de votes ou de signalements afin d'imposer un point de vue ou de cibler quelqu'un.
C
- Charte de modération
- Une charte de modération, souvent publiée sous forme de règles de communauté ou de charte des commentaires, est l'ensemble des règles qui définit ce qui est autorisé dans un espace, ce qui ne l'est pas, et les mesures prises en cas d'infraction.
- Community management
- Le community management est le travail qui consiste à construire, animer et modérer la communauté en ligne d'une organisation : publier, répondre aux commentaires et aux messages, traiter les plaintes et faire respecter les règles de la communauté.
- Contenu illicite
- Au sens du DSA, un contenu illicite est toute information qui, en soi ou par rapport à une activité, n'est pas conforme au droit de l'Union ou d'un État membre ; le DSA ne définit pas lui-même ce qui est illégal mais renvoie à ces droits.
- Cyberharcèlement
- Le cyberharcèlement est un comportement abusif dirigé contre une personne précise, souvent répété ou coordonné, qui vise à l'intimider, l'humilier ou la faire taire, par des insultes, des menaces, des sollicitations non désirées ou la divulgation d'informations personnelles.
D
- Désinformation
- La désinformation est une information fausse ou trompeuse créée ou partagée délibérément pour tromper, gagner de l'argent ou influencer, alors que la mésinformation est une information fausse partagée sans intention de nuire.
- Discours de haine
- Le discours de haine désigne les contenus qui attaquent, rabaissent ou incitent à la violence ou à la discrimination contre des personnes en raison d'une caractéristique protégée, comme l'origine, la religion, le sexe, l'orientation sexuelle ou le handicap.
- Doxxing
- Le doxxing est la publication, sans son consentement, d'informations privées ou permettant d'identifier une personne (adresse, numéro de téléphone, lieu de travail, informations sur sa famille), le plus souvent pour l'intimider ou l'exposer au harcèlement.
F
- Faux négatif
- En modération, un faux négatif est un contenu qui enfreint les règles mais n'est pas détecté, et reste donc visible alors qu'il aurait dû être masqué ou supprimé.
- Faux positif
- En modération, un faux positif est un contenu légitime identifié à tort comme contraire aux règles, et donc masqué, supprimé ou signalé alors qu'il aurait dû rester visible.
- File de modération
- Une file de modération est la liste des contenus en attente d'examen par un modérateur : commentaires retenus avant publication, contenus jugés douteux par l'IA, signalements des internautes et décisions contestées.
L
- Lien de phishing
- Un lien de phishing, ou lien d'hameçonnage, renvoie vers un site frauduleux qui imite un service de confiance (banque, transporteur, marque) afin de voler des identifiants, des données de paiement ou des informations personnelles.
- LLM (grand modèle de langage)
- Un LLM (large language model, ou grand modèle de langage) est un modèle d'intelligence artificielle entraîné sur de très grandes quantités de texte pour comprendre et produire du langage ; en modération, il peut lire un contenu en contexte et appliquer des règles rédigées en langage courant.
M
- Masquer ou supprimer
- Masquer un commentaire le rend invisible au public tout en le conservant (sur Facebook, il reste visible pour son auteur et ses amis) ; le supprimer l'efface définitivement. Le masquage est réversible, la suppression ne l'est pas.
- Mode bac à sable
- En modération, le mode bac à sable (sandbox) est un mode de test dans lequel le système analyse de vrais contenus et montre ce qu'il déciderait, sans rien masquer ni supprimer réellement.
- Modérateur de contenu
- Un modérateur de contenu est une personne qui examine les contenus publiés par les internautes (commentaires, posts, images) et décide s'ils respectent les règles d'un service et la loi, puis prend ou confirme la mesure appropriée.
- Modération a posteriori
- La modération a posteriori (ou post-modération) est une méthode dans laquelle les contenus des internautes sont publiés immédiatement puis examinés ; ceux qui enfreignent les règles sont masqués ou supprimés une fois repérés.
- Modération a priori
- La modération a priori (ou pré-modération) est une méthode dans laquelle les contenus des internautes sont retenus et examinés avant d'être visibles du public : rien n'est publié sans avoir été validé.
- Modération automatique
- La modération automatique est l'utilisation d'un logiciel (listes de mots, règles, apprentissage automatique ou modèles de langage) pour analyser les contenus des internautes et prendre ou proposer une décision de modération sans qu'une personne examine chaque contenu.
- Modération de contenu
- La modération de contenu est le processus qui consiste à examiner les contenus publiés par les internautes (commentaires, posts, images, vidéos) et à décider de les laisser, les masquer, les supprimer ou en limiter la portée, selon les règles d'un service et la loi applicable.
- Modération des commentaires
- La modération des commentaires consiste à examiner les commentaires publiés sous des articles, des vidéos ou des posts afin de masquer ou supprimer les abus, le spam et les contenus illicites, tout en laissant visibles les opinions légitimes, critiques comprises.
- Modération hybride
- La modération hybride est un modèle dans lequel un logiciel traite automatiquement les contenus sans ambiguïté et des personnes examinent les cas ambigus ou sensibles, pour que chaque décision soit prise par celui qui est le mieux placé pour la prendre.
- Modération par IA
- La modération par IA est l'utilisation de modèles d'intelligence artificielle, comme des classifieurs ou des grands modèles de langage, pour comprendre les contenus des internautes en contexte et décider, ou proposer, s'ils enfreignent les règles de modération.
- Modération réactive
- La modération réactive est une méthode dans laquelle un contenu n'est examiné qu'après avoir été signalé par un internaute, un signaleur de confiance ou une autorité, au lieu d'être vérifié systématiquement.
R
- Raid
- Un raid est l'arrivée soudaine et organisée d'un grand nombre d'internautes extérieurs dans un espace de commentaires, un chat en direct ou un live, généralement pour le perturber avec du spam, des insultes ou des contenus choquants.
- Rapport de transparence
- Un rapport de transparence est un document public dans lequel un service présente des chiffres et des informations sur sa modération (injonctions reçues, notifications traitées, décisions prises, réclamations), comme l'exigent les articles 15 et 24 du DSA.
- Recours
- Le recours est la procédure qui permet à un internaute de contester une décision de modération, comme un commentaire retiré ou un compte suspendu, et d'obtenir son réexamen, idéalement par quelqu'un d'autre que le système qui l'a prise.
- Règlement sur les services numériques (DSA)
- Le règlement sur les services numériques, ou Digital Services Act (règlement (UE) 2022/2065), fixe les règles européennes applicables aux services intermédiaires, dont les hébergeurs et plateformes : contenus illicites, transparence de la modération, droits des utilisateurs.
- RGPD
- Le règlement général sur la protection des données (règlement (UE) 2016/679), applicable depuis le 25 mai 2018, encadre le traitement des données personnelles, y compris les noms, messages et identifiants traités lors de la modération des commentaires.
S
- Score de confiance
- Un score de confiance est une valeur, souvent comprise entre 0 et 1, qui indique à quel point un modèle d'IA est certain qu'un contenu relève d'une catégorie comme le spam, l'insulte ou le discours de haine.
- Sentiment et toxicité
- Le sentiment décrit la tonalité émotionnelle d'un message (positive, neutre ou négative), tandis que la toxicité indique s'il est abusif ; un commentaire négatif n'est pas forcément toxique, et un commentaire toxique peut sembler positif.
- Service d'hébergement
- Au sens du DSA, un service d'hébergement est un service intermédiaire qui stocke des informations fournies par ses utilisateurs et à leur demande ; une plateforme en ligne est un service d'hébergement qui, en plus, diffuse ces informations au public.
- Seuil de modération
- Un seuil de modération est la valeur limite appliquée au score de confiance d'un modèle qui détermine le sort d'un contenu : action automatique au-dessus, revue humaine ou aucune action en dessous.
- Shadowban
- Un shadowban est une restriction par laquelle les contenus d'un internaute sont cachés aux autres ou rendus moins visibles sans qu'il en soit clairement informé : il continue de publier sans savoir que personne ne le voit.
- Signaleur de confiance
- Un signaleur de confiance est une entité experte, reconnue par le coordinateur pour les services numériques de son État membre, dont les notifications de contenus illicites doivent être traitées en priorité par les plateformes en ligne (article 22 du DSA).
- Spam
- Le spam désigne les contenus non sollicités publiés en masse ou de façon répétée, en général pour faire de la publicité, générer du trafic ou tromper : liens promotionnels, messages copiés-collés, commentaires générés par des robots.
- Système interne de traitement des réclamations
- Le système interne de traitement des réclamations est la procédure que les plateformes en ligne doivent offrir (article 20 du DSA) pour contester, en ligne et gratuitement, le retrait ou la restriction d'un contenu ou la suspension d'un compte.
T
- Toxicité
- La toxicité est une étiquette large qui désigne les contenus grossiers, irrespectueux ou agressifs susceptibles de faire fuir les autres participants d'une conversation : insultes, mépris, menaces et attaques personnelles.
- Très grande plateforme en ligne (VLOP)
- Une très grande plateforme en ligne (VLOP, very large online platform) est une plateforme qui compte en moyenne au moins 45 millions de destinataires actifs par mois dans l'Union européenne et qui a été désignée comme telle par la Commission européenne au titre de l'article 33 du DSA.
- Troll
- Un troll est une personne qui publie délibérément des messages provocateurs, insultants ou hors sujet pour susciter des réactions, faire dérailler une conversation ou agacer les autres participants.
- Trust and safety
- Le trust and safety (T&S, « confiance et sécurité ») désigne l'ensemble des règles, équipes et outils qu'une organisation mobilise pour protéger ses utilisateurs et son service contre les abus, la fraude et les contenus nuisibles ou illicites, et pour que chacun puisse s'y fier.
Protégez votre marque en quelques minutes.
Connectez votre site ou vos pages et partagez vos règles et vos cas d'usage. Nous mettons en place la modération et la faisons tourner pour vous : notre équipe traite les cas douteux et les signalements, et vous voyez chaque décision et son explication en temps réel.
Sans carte bancaire · Conforme au DSA · Conforme au RGPD
Une question ? contact@openmoderation.com