Moderación automática de comentarios: cómo decide la IA
Automático no quiere decir a ciegas. Esto es lo que pasa en los segundos que siguen a la publicación de un comentario: qué lee la IA, cómo pesa el contexto y la ironía, dónde están los umbrales y qué casos deja, a propósito, en manos de una persona.
Confían en nosotros
El problema
Las listas de palabras juzgan la letra de un comentario, no su sentido. Ocultan «nos han masacrado esta noche» y dejan pasar «que se vuelvan a su país». Y un filtro que oculta comentarios sin decir por qué no se puede defender ante nadie.
El enfoque de OpenModeration
Nuestra IA lee el comentario con lo que lo rodea: el artículo o la publicación, el mensaje al que responde, su idioma. Puntúa cada categoría de tus normas y compara cada puntuación con dos umbrales: por debajo del primero publica, por encima del segundo oculta, y entre ambos decide una persona.
El resultado
Los casos claros se resuelven en segundos, de día y de noche. Los inciertos van a nuestros moderadores en lugar de adivinarse. Cada decisión, automática o humana, llega con una frase que la explica.
Lo que lee la IA antes de decidir
Cuatro señales, leídas a la vez. Ninguna es una lista de palabras prohibidas.
La página
La misma frase no significa lo mismo bajo la crónica de un partido que bajo una noticia de sucesos. La IA lee el tema antes que el comentario.
La conversación
Una respuesta se lee junto al mensaje al que contesta. El sarcasmo dirigido a un argumento no se trata como un ataque a una persona.
Ironía y lenguaje en clave
Grafías disfrazadas, emojis usados como insulto, mensajes en clave: la IA mira lo que se quiere decir, no solo lo que está escrito.
Tus normas
Cada categoría se juzga según las normas definidas contigo en lenguaje claro: lo que aceptas, lo que rechazas y dónde quieres prudencia.
Seis comentarios, seis decisiones
Ejemplos ilustrativos: la misma IA llega a resultados distintos según el contexto y tus normas.
Bajo la crónica de un partido de fútbol
“Nos han masacrado esta noche, la defensa ha sido un desastre.”
Publicado
Palabra violenta, sentido deportivo. Crítica al rendimiento de un equipo, sin ninguna persona señalada.
Bajo una noticia sobre un nuevo ministro
“Genial, otro genio al mando. Qué ganas.”
Publicado
Irónico, pero dirigido al cargo de una figura pública. La crítica política está permitida por tus normas.
Respuesta a otro lector
“La gente como ella debería volverse a su país.”
Ocultado
Exclusión por origen dirigida a una persona. Incumple la norma sobre contenido de odio.
Bajo una publicación de Instagram
“Gana 500 € al día desde casa, escríbeme por privado 💰”
Ocultado
Spam comercial que pide contacto. Incumple la norma sobre estafas y publicidad.
Bajo una noticia local
“Todos sabemos lo que pasa en ese barrio por la noche…”
Enviado a nuestro equipo
Posible insinuación sobre un colectivo, sin objetivo explícito. La puntuación cae entre los dos umbrales: decide un moderador.
Bajo una noticia del pleno municipal
“El alcalde mintió sobre el presupuesto y debería dimitir.”
Publicado
Acusación dura contra un cargo electo, en un debate político. No es un insulto ni una amenaza.
Umbrales: dónde se detiene lo automático
Para cada categoría de tus normas, dos umbrales reparten los comentarios en tres resultados. Los fijamos contigo y los ajustamos tras la prueba con tus comentarios.
| Categoría | Publicado automáticamente | Enviado a nuestro equipo | Ocultado automáticamente |
|---|---|---|---|
| Insultos | Tono brusco, sin destinatario | Insulto que puede ser una cita o una broma | Insulto dirigido a una persona |
| Odio | Debate sobre un tema delicado | Generalización ambigua sobre un colectivo | Ataque por origen, religión, género… |
| Amenazas | Violencia figurada (voy a matar este examen) | Intención poco clara | Amenaza explícita contra alguien |
| Spam y estafas | Enlace pertinente para la conversación | Mensaje promocional repetido | Oferta fraudulenta, phishing |
| Fuera de tema | Comentario al margen que sigue siendo correcto | Mensaje largo sin relación | Inundación de mensajes, campañas de copia y pega |
¿Más estricto o más flexible? Lo eliges por categoría: un medio con mucho tráfico y la página de una marca rara vez fijan los mismos umbrales.
Por qué eligen OpenModeration
No adivina
Cuando la IA duda, el comentario va a nuestros moderadores, que deciden según tus normas.
Denuncias y recursos, en manos humanas
Las denuncias de usuarios y las decisiones impugnadas las revisa una persona de nuestro equipo, como exige la DSA.
La última palabra es tuya
Ves cada decisión automática en tiempo real con su motivo y puedes anular cualquiera de ellas.
Preguntas frecuentes
¿Cómo funciona la moderación automática de comentarios?
Cada comentario se lee con su contexto, se puntúa en cada categoría de tus normas y se compara con dos umbrales: publicar, ocultar o enviar a una persona. Todo el proceso dura unos segundos.
¿La IA entiende la ironía?
Mucho mejor que una lista de palabras, porque lee el comentario junto con la página y la conversación. Cuando la ironía hace que un comentario sea realmente ambiguo, su puntuación cae entre los umbrales y decide nuestro equipo.
¿Qué pasa cuando la IA se equivoca?
Puedes revertir cualquier decisión desde la consola y los autores pueden recurrir. Los errores recurrentes sirven para ajustar contigo tus normas y tus umbrales.
¿En qué idiomas funciona?
Los comentarios se analizan en su propio idioma, incluidos los idiomas de tu audiencia, sin un paso de traducción que haga perder matices.
¿Puedo revisar las decisiones antes de activarla?
Sí. Una prueba gratuita en entorno de pruebas con tus comentarios reales muestra cada decisión y su motivo antes de que nada entre en producción.
Mira cómo decide la IA con tus propios comentarios.
Reserva una llamada: pasamos tus comentarios recientes por la IA y repasamos contigo cada decisión y su motivo.
Sin tarjeta de crédito · Conforme a la DSA · Conforme al RGPD
¿Alguna pregunta? contact@openmoderation.com