Glosario de moderación de contenidos
Las palabras de la moderación de comentarios, la DSA y la moderación con IA, explicadas de forma sencilla.
A
- Acoso en línea
- El acoso en línea es un comportamiento abusivo dirigido a una persona concreta, a menudo repetido o coordinado, que busca intimidarla, humillarla o silenciarla mediante insultos, amenazas, contactos no deseados o la exposición de su información personal.
- Alertador fiable
- Un alertador fiable es una entidad con conocimientos específicos, a la que el coordinador de servicios digitales de su Estado miembro concede esa condición, cuyas notificaciones de contenido ilícito las plataformas en línea deben tramitar con prioridad y sin demora indebida (artículo 22 de la DSA).
- Arbitraje entre modelos
- El arbitraje entre modelos es una técnica en la que varios modelos de IA analizan el mismo contenido y se comparan sus veredictos, para que una decisión de moderación en un caso delicado no dependa del juicio de un solo modelo.
- Astroturfing
- El astroturfing es la práctica de crear la apariencia de un apoyo o una oposición espontáneos y de base, mediante cuentas falsas, publicaciones pagadas o mensajes coordinados que ocultan quién está realmente detrás.
B
- Baneo
- Un baneo es una sanción que impide a un usuario publicar, comentar o acceder a una comunidad, ya sea durante un periodo limitado (baneo temporal o suspensión) o de forma permanente.
- Brigading
- El brigading es una acción coordinada en la que un grupo de usuarios, a menudo organizado desde otra comunidad, cae sobre una página o publicación para inundarla de comentarios, votos o denuncias con el fin de imponer una opinión o atacar a alguien.
C
- Cola de moderación
- Una cola de moderación es la lista de contenidos pendientes de revisión por un moderador, como comentarios retenidos para su aprobación, elementos que la IA marca como dudosos, notificaciones de usuarios y decisiones impugnadas.
- Contenido ilícito
- Según el Reglamento de Servicios Digitales, contenido ilícito es toda información que, por sí sola o en relación con una actividad, no cumple el Derecho de la UE o de un Estado miembro; la DSA no define por sí misma qué es ilícito, sino que remite a esas leyes.
D
- Desinformación
- La desinformación es información falsa o engañosa creada o compartida deliberadamente para engañar, ganar dinero o influir, mientras que la información errónea es información falsa compartida sin intención de engañar.
- Discurso de odio
- El discurso de odio es el contenido que ataca, denigra o incita a la violencia o a la discriminación contra personas por una característica protegida, como el origen, la religión, el género, la orientación sexual o la discapacidad.
- Doxxing
- El doxxing es la publicación de información privada o identificativa de una persona, como su domicilio, teléfono, lugar de trabajo o datos familiares, sin su consentimiento, normalmente para intimidarla o exponerla al acoso.
E
- Enlace de phishing
- Un enlace de phishing es un enlace a un sitio web fraudulento que imita un servicio de confianza, como un banco, una empresa de mensajería o una marca, para robar credenciales de acceso, datos de pago o datos personales.
- Estafa
- En moderación, una estafa es un contenido pensado para engañar a las personas y conseguir que entreguen dinero, datos personales o el acceso a sus cuentas, por ejemplo falsos sorteos, falsas cuentas de atención al cliente u ofertas de inversión demasiado buenas para ser verdad.
- Exposición de motivos
- Una exposición de motivos es la explicación clara y específica que un servicio de alojamiento debe dar a un usuario cuando restringe su contenido o su cuenta: qué se decidió, sobre qué hechos, con qué fundamento legal o contractual y cómo impugnarlo (artículo 17 de la DSA).
F
- Falso negativo
- En moderación, un falso negativo es un contenido que infringe las normas pero no se detecta, por lo que sigue visible cuando debería haberse ocultado o eliminado.
- Falso positivo
- En moderación, un falso positivo es un contenido legítimo que se identifica por error como contrario a las normas y que, por tanto, se oculta, se elimina o se marca cuando debería haber seguido visible.
M
- Moderación automatizada
- La moderación automatizada es el uso de software (filtros de palabras clave, reglas, aprendizaje automático o modelos de lenguaje) para analizar el contenido de los usuarios y tomar o proponer una decisión de moderación sin que una persona revise cada elemento.
- Moderación con IA
- La moderación con IA es el uso de modelos de inteligencia artificial, como clasificadores y grandes modelos de lenguaje, para entender en contexto el contenido de los usuarios y decidir o sugerir si infringe las normas de moderación.
- Moderación de comentarios
- La moderación de comentarios es la revisión de los comentarios publicados bajo artículos, vídeos o publicaciones en redes sociales para eliminar u ocultar abusos, spam y contenido ilícito, manteniendo visibles las opiniones legítimas, incluida la crítica.
- Moderación de contenidos
- La moderación de contenidos es el proceso de revisar el contenido generado por los usuarios (comentarios, publicaciones, imágenes, vídeos) y decidir si se mantiene, se oculta, se elimina o se restringe, según las normas de una plataforma y la ley aplicable.
- Moderación híbrida
- La moderación híbrida es un modelo en el que el software gestiona automáticamente el contenido claro y las personas revisan los casos ambiguos o delicados, de modo que cada decisión la toma quien está en mejor posición para tomarla.
- Moderación posterior
- La moderación posterior (o posmoderación) es un método en el que el contenido de los usuarios se publica de inmediato y se revisa después; el contenido que infringe las normas se oculta o elimina en cuanto se detecta.
- Moderación previa
- La moderación previa (o premoderación) es un método en el que el contenido de los usuarios queda retenido y se revisa antes de ser visible para el público; no se publica nada hasta que se aprueba.
- Moderación reactiva
- La moderación reactiva es un método en el que el contenido solo se revisa después de que un usuario, un alertador fiable o una autoridad lo denuncie, en lugar de comprobarse de forma sistemática.
- Moderador de contenidos
- Un moderador de contenidos es una persona que revisa el contenido generado por los usuarios, como comentarios, publicaciones e imágenes, decide si cumple las reglas de un servicio y la ley, y aplica o confirma la acción adecuada.
- Modo sandbox
- En moderación, el modo sandbox es un modo de prueba en el que el sistema analiza contenido real y muestra lo que decidiría, sin ocultar ni retirar nada realmente.
P
- Plataforma en línea de muy gran tamaño (VLOP)
- Una plataforma en línea de muy gran tamaño (VLOP) es una plataforma en línea con una media de al menos 45 millones de destinatarios activos mensuales en la Unión Europea, designada como tal por la Comisión Europea según el artículo 33 del Reglamento de Servicios Digitales.
- Política de moderación
- Una política de moderación, a menudo publicada como normas de comunidad o carta de comentarios, es el conjunto de reglas que define qué contenido se permite en un espacio, cuál no y qué medida se toma cuando se incumplen las normas.
- Puntuación de confianza
- Una puntuación de confianza es un valor, a menudo entre 0 y 1, que indica hasta qué punto un modelo de IA está seguro de que un contenido pertenece a una categoría como spam, insulto o discurso de odio.
R
- Raid
- Un raid es la llegada repentina y organizada de un gran número de usuarios externos a una sección de comentarios, un chat en directo o un stream, normalmente para perturbarlo con spam, insultos o contenido impactante.
- Recurso
- Un recurso es el proceso que permite a un usuario impugnar una decisión de moderación, como un comentario retirado o una cuenta suspendida, y obtener su revisión, idealmente por alguien distinto del sistema que la tomó.
- Registro de auditoría
- Un registro de auditoría de moderación, o registro de actividad, es un historial cronológico de las acciones de moderación que muestra qué se hizo con cada contenido, cuándo, quién o qué sistema lo hizo y por qué motivo.
- Reglamento de Servicios Digitales (DSA)
- El Reglamento de Servicios Digitales (Reglamento (UE) 2022/2065, DSA por sus siglas en inglés) es la norma de la UE que regula los servicios intermediarios, incluidos los servicios de alojamiento y las plataformas en línea, en materia de contenidos ilícitos, transparencia y derechos de los usuarios.
- RGPD
- El Reglamento General de Protección de Datos (Reglamento (UE) 2016/679) es la ley de la UE, aplicable desde el 25 de mayo de 2018, que regula el tratamiento de datos personales, incluidos los nombres, mensajes e identificadores que se manejan al moderar comentarios.
S
- Seguridad de marca (brand safety)
- La seguridad de marca (brand safety) es el conjunto de prácticas que protegen la reputación de una marca evitando que se asocie con contenido nocivo, ilícito u ofensivo, ya sea en anuncios o en las secciones de comentarios de sus propias páginas.
- Sentimiento vs toxicidad
- El sentimiento describe la polaridad emocional de un mensaje (positiva, neutra o negativa), mientras que la toxicidad describe si es abusivo; un comentario negativo no es necesariamente tóxico, y uno tóxico puede parecer positivo.
- Servicio de alojamiento
- Según el Reglamento de Servicios Digitales, un servicio de alojamiento es un servicio intermediario que almacena información facilitada por sus usuarios y a petición de estos; una plataforma en línea es un servicio de alojamiento que además difunde esa información al público.
- Shadowban
- Un shadowban es una restricción por la que el contenido de un usuario se oculta a los demás o pierde visibilidad sin que se le informe claramente, de modo que sigue publicando sin darse cuenta de que nadie lo ve.
- Sistema interno de gestión de reclamaciones
- Un sistema interno de gestión de reclamaciones es el proceso que las plataformas en línea deben ofrecer según el artículo 20 del Reglamento de Servicios Digitales para que los usuarios impugnen, por vía electrónica y gratis, decisiones de retirar o restringir su contenido o suspender su cuenta.
- Spam
- El spam es contenido no solicitado publicado en masa o de forma repetida, normalmente para hacer publicidad, atraer tráfico o engañar, como enlaces promocionales, mensajes copiados y comentarios generados por bots.
T
- Toxicidad
- La toxicidad es una etiqueta amplia para el contenido grosero, irrespetuoso o agresivo que puede hacer que otras personas abandonen una conversación, como insultos, desprecio, amenazas y ataques personales.
- Trol
- Un trol es una persona que publica deliberadamente mensajes provocadores, insultantes o fuera de tema para provocar reacciones, desviar una conversación o molestar a los demás participantes.
- Trust and safety (confianza y seguridad)
- Trust and safety (T&S, confianza y seguridad) es el conjunto de políticas, equipos y herramientas que usa una organización para proteger a sus usuarios y su servicio frente al abuso, el fraude y los contenidos nocivos e ilícitos, y para garantizar que la gente pueda confiar en él.
U
- UGC (contenido generado por los usuarios)
- El contenido generado por los usuarios (UGC, por sus siglas en inglés) es cualquier contenido creado y publicado por los usuarios de un servicio y no por la propia organización, como comentarios, reseñas, mensajes en foros, fotos y vídeos.
- Umbral de moderación
- Un umbral de moderación es el valor de corte que se aplica a la puntuación de confianza de un modelo y que decide qué ocurre con un contenido: acción automática por encima, revisión humana o ninguna acción por debajo.
Protege tu marca en pocos minutos.
Conecta tu web o tus páginas y cuéntanos tus reglas y casos de uso. Ponemos en marcha la moderación y la gestionamos por ti: nuestro equipo se ocupa de los casos dudosos y las denuncias, y tú ves cada decisión y su motivo en tiempo real.
Sin tarjeta de crédito · Conforme a la DSA · Conforme al RGPD
¿Alguna pregunta? contact@openmoderation.com