📖 Glosario de moderación
¿Qué es la moderación con humano en el bucle?
En resumen
Humano en el bucle (human-in-the-loop, HITL) describe un sistema automatizado en el que una persona revisa, confirma o corrige algunas de las decisiones de la máquina, normalmente las inciertas, delicadas o impugnadas.
En moderación, humano en el bucle significa que la IA no tiene la última palabra sobre todo. Los casos por debajo de un umbral de confianza, o de categorías delicadas como las amenazas o las autolesiones, se derivan a una persona, que ve el contenido, su contexto y el motivo por el que el sistema lo ha marcado.
Ejemplo: un comentario dice que a un político hay que «tumbarlo» en las próximas elecciones. Un sistema basado en palabras clave podría ver una amenaza; una persona entiende al instante la figura retórica y lo deja visible.
La revisión humana también importa desde el punto de vista jurídico y de reputación. El Reglamento de Servicios Digitales (DSA) obliga a las plataformas en línea a tramitar las reclamaciones contra las decisiones de moderación bajo la supervisión de personal debidamente cualificado, y no únicamente por medios automatizados (artículo 20). En OpenModeration, nuestro equipo revisa los casos dudosos y las decisiones impugnadas, y tú ves cada decisión en tiempo real en una única consola.