📖 Glosario de moderación
¿Qué es un falso positivo en moderación?
En resumen
En moderación, un falso positivo es un contenido legítimo que se identifica por error como contrario a las normas y que, por tanto, se oculta, se elimina o se marca cuando debería haber seguido visible.
Los falsos positivos son la cara visible de la sobremoderación. Un lector que ve desaparecer su comentario razonable se siente censurado, y puede decirlo en voz alta en otro sitio. Para un medio de comunicación o un organismo público, retirar una crítica legítima es en sí mismo un riesgo para su reputación.
Ejemplo: un filtro de palabras clave bloquea el comentario «el partido de Scunthorpe fue genial» porque el nombre de la ciudad contiene una cadena prohibida. Otro clásico: un comentario que cita un insulto para condenarlo se elimina como si fuera el propio insulto.
Reducir los falsos positivos implica usar modelos que lean el contexto, ajustar los umbrales con cuidado, enviar los casos dudosos a personas y permitir a los usuarios impugnar las decisiones. OpenModeration mantiene visible la crítica, solo oculta automáticamente las infracciones claras y registra un motivo por escrito para cada decisión, de modo que los errores se puedan detectar y corregir.