📖 Lexique de la modération
Que signifie « humain dans la boucle » en modération ?
En bref
L'humain dans la boucle (human-in-the-loop) désigne un système automatisé dans lequel une personne examine, confirme ou corrige une partie des décisions de la machine, en général les cas incertains, sensibles ou contestés.
En modération, cela veut dire que l'IA n'a pas le dernier mot sur tout. Les cas sous un seuil de confiance, ou dans des catégories sensibles comme les menaces, sont orientés vers une personne, qui voit le contenu, son contexte et la raison pour laquelle le système l'a signalé.
Exemple : un commentaire dit qu'il faut « flinguer ce projet de loi ». Un filtre à mots-clés pourrait y voir une menace ; une personne comprend immédiatement la figure de style et laisse le commentaire visible.
La revue humaine compte aussi juridiquement et pour la réputation. Le DSA impose aux plateformes en ligne de traiter les réclamations contre leurs décisions de modération sous le contrôle d'un personnel dûment qualifié, et pas uniquement par des moyens automatisés (article 20). Chez OpenModeration, les cas douteux et les décisions contestées sont examinés par notre équipe, et vous voyez chaque décision en temps réel dans une console.