📖 Glosario de moderación
¿Qué es un umbral de moderación?
En resumen
Un umbral de moderación es el valor de corte que se aplica a la puntuación de confianza de un modelo y que decide qué ocurre con un contenido: acción automática por encima, revisión humana o ninguna acción por debajo.
Los umbrales convierten las puntuaciones en decisiones. Muchos sistemas usan dos: uno alto, por encima del cual el contenido se oculta automáticamente, y otro más bajo que delimita la franja de contenido dudoso que se envía a una persona.
Ejemplo: una marca infantil fija un umbral muy bajo para los insultos, porque su audiencia es joven y su tolerancia es mínima. Un sitio de noticias políticas fija uno más alto, porque el debate acalorado forma parte de su razón de ser y no quiere retirar opiniones duras pero legítimas.
Subir un umbral reduce los falsos positivos pero aumenta los falsos negativos, y viceversa. No hay un valor correcto universal: depende de la audiencia, de la categoría de contenido y del coste de cada tipo de error. OpenModeration adapta la moderación a las normas y casos de uso de cada cliente y hace que su propio equipo gestione la zona dudosa, mientras tú ves cada decisión en tiempo real.