📖 Lexique de la modération
Qu'est-ce qu'un LLM ?
En bref
Un LLM (large language model, ou grand modèle de langage) est un modèle d'intelligence artificielle entraîné sur de très grandes quantités de texte pour comprendre et produire du langage ; en modération, il peut lire un contenu en contexte et appliquer des règles rédigées en langage courant.
Les LLM sont la technologie derrière les assistants conversationnels. Leur atout pour la modération, c'est la compréhension : ils saisissent l'ironie, les insultes codées, le contexte de l'article commenté, et peuvent suivre des consignes comme « la critique de nos produits est autorisée, les attaques personnelles contre nos salariés ne le sont pas ».
Exemple : sous un post annonçant un train en retard, un internaute écrit « bravo, comme d'habitude ». Un LLM peut reconnaître le sarcasme et le classer comme critique, qui doit rester visible, plutôt que comme compliment ou comme abus.
Les LLM ont aussi leurs limites : ils peuvent répondre différemment d'une fois à l'autre, se laisser tromper par un texte habilement construit, et leur coût comme leur vitesse varient. C'est pourquoi un système de modération sérieux les encadre avec des règles, des seuils, des vérifications croisées entre modèles et une revue humaine. L'IA de modération d'OpenModeration est vérifiée par d'autres modèles d'IA sur les cas délicats, et les nouveaux modèles sont ajoutés à leur sortie.