📖 Glosario de moderación
¿Qué es un LLM?
En resumen
Un gran modelo de lenguaje (LLM, por sus siglas en inglés) es un modelo de inteligencia artificial entrenado con cantidades muy grandes de texto para entender y generar lenguaje; en moderación, puede leer el contenido en contexto y aplicar normas escritas en lenguaje corriente.
Los LLM son la tecnología que hay detrás de los asistentes conversacionales. Su punto fuerte para la moderación es la comprensión: captan la ironía, los insultos en clave y el contexto del artículo comentado, y pueden seguir instrucciones como «la crítica a nuestros productos está permitida, los ataques personales a los empleados no».
Ejemplo: alguien escribe «buen trabajo, como siempre» bajo una publicación sobre un tren con retraso. Un LLM puede reconocer el sarcasmo y clasificarlo como crítica, que debe seguir visible, en lugar de como elogio o abuso.
Los LLM también tienen límites: pueden ser incoherentes de una ejecución a otra, dejarse engañar por textos cuidadosamente elaborados, y su coste y velocidad varían. Por eso los sistemas de moderación serios los enmarcan con normas, umbrales, contrastes entre modelos y revisión humana. La IA de moderación propia de OpenModeration se contrasta con otros modelos de IA en los casos delicados, y los nuevos modelos se añaden a medida que salen.