📖 Glosario de moderación
¿Qué es la moderación automatizada?
En resumen
La moderación automatizada es el uso de software (filtros de palabras clave, reglas, aprendizaje automático o modelos de lenguaje) para analizar el contenido de los usuarios y tomar o proponer una decisión de moderación sin que una persona revise cada elemento.
La forma más antigua de moderación automatizada es la lista de palabras clave: se bloquea cualquier comentario que contenga una palabra prohibida. Es sencilla pero tosca, porque se le escapan los insultos escritos con trucos ortográficos y bloquea frases inocentes que casualmente contienen una palabra de la lista. Los sistemas modernos usan modelos de IA que leen la frase entera y su contexto.
Ejemplo: un canal de YouTube recibe miles de comentarios por vídeo. Un sistema automatizado oculta en segundos los enlaces de spam y los insultos claros, de modo que el community manager solo revisa las pocas decenas de comentarios sobre los que el sistema tiene dudas.
La automatización aporta rapidez y coherencia, pero comete errores (falsos positivos y falsos negativos), y el Reglamento de Servicios Digitales (DSA) exige a los prestadores indicar cuándo se han usado medios automatizados en una decisión (artículo 17). La buena práctica es automatizar los casos claros, enviar los dudosos a personas y conservar un motivo para cada decisión.
OpenModeration automatiza la moderación según las normas de cada cliente, oculta automáticamente las infracciones claras, mantiene visible la crítica y hace que su propio equipo gestione los casos dudosos. Tú ves cada decisión y su motivo en tiempo real y puedes intervenir en cualquier momento.