📖 Glosario de moderación
¿Qué es un falso negativo en moderación?
En resumen
En moderación, un falso negativo es un contenido que infringe las normas pero no se detecta, por lo que sigue visible cuando debería haberse ocultado o eliminado.
Los falsos negativos son los fallos de un sistema de moderación: el insulto escrito con números en lugar de letras, el enlace fraudulento oculto tras un acortador de URL, el acoso que solo se entiende si conoces los diez comentarios anteriores.
Ejemplo: bajo la publicación de un sorteo de una marca, una cuenta falsa que copia el nombre de la marca responde a cada participante con «has ganado, reclama tu premio aquí». Si la moderación no lo detecta, los clientes pueden acabar entregando sus datos bancarios a un estafador.
Siempre hay un equilibrio entre falsos negativos y falsos positivos: un umbral más estricto detecta más abusos pero retira más contenido legítimo. El equilibrio adecuado depende de la audiencia y del riesgo, por eso las normas de moderación deben fijarse por cliente y por caso de uso, como hace OpenModeration.