Glossário de moderação de conteúdo
As palavras da moderação de comentários, do DSA e da moderação com IA, explicadas de forma simples.
A
- Arbitragem entre modelos
- Arbitragem entre modelos é uma técnica em que vários modelos de IA analisam o mesmo conteúdo e seus veredictos são comparados, para que uma decisão de moderação em um caso delicado não dependa do julgamento de um único modelo.
- Assédio online
- Assédio online é um comportamento abusivo dirigido a uma pessoa específica, muitas vezes repetido ou coordenado, que busca intimidá-la, humilhá-la ou silenciá-la, por meio de insultos, ameaças, contatos indesejados ou exposição de informações pessoais.
- Astroturfing
- Astroturfing é a prática de criar a aparência de apoio ou oposição espontânea e popular, por meio de contas falsas, pessoas pagas para publicar ou mensagens coordenadas que escondem quem realmente está por trás delas.
B
- Banimento
- Um banimento é uma sanção que impede um usuário de publicar, comentar ou acessar uma comunidade, seja por um período limitado (banimento temporário ou suspensão), seja de forma definitiva.
- Brand safety
- Brand safety (segurança da marca) é o conjunto de práticas que protegem a reputação de uma marca, evitando que ela seja associada a conteúdos nocivos, ilegais ou ofensivos, seja nos anúncios, seja nas seções de comentários das suas próprias páginas.
- Brigading
- Brigading é uma ação coordenada em que um grupo de usuários, muitas vezes organizado a partir de outra comunidade, invade uma página ou um post para inundá-lo de comentários, votos ou denúncias, a fim de impor uma opinião ou atingir alguém.
C
- Contestação
- A contestação é o processo que permite a um usuário questionar uma decisão de moderação, como um comentário removido ou uma conta suspensa, e obter sua revisão, de preferência por alguém diferente do sistema que a tomou.
- Conteúdo ilegal
- No Regulamento dos Serviços Digitais, conteúdo ilegal é qualquer informação que, por si só ou em relação a uma atividade, não esteja em conformidade com o direito da UE ou de um Estado-membro; o DSA não define o que é ilegal, mas remete a essas leis.
D
- Desinformação
- Desinformação é uma informação falsa ou enganosa criada ou compartilhada deliberadamente para enganar, obter dinheiro ou influência, ao passo que a informação incorreta (misinformation) é falsa, mas compartilhada sem a intenção de enganar.
- Discurso de ódio
- Discurso de ódio é um conteúdo que ataca, rebaixa ou incita à violência ou à discriminação contra pessoas por causa de uma característica protegida, como origem, religião, gênero, orientação sexual ou deficiência.
- Doxxing
- Doxxing é a publicação de informações privadas ou que identificam uma pessoa, como endereço residencial, telefone, local de trabalho ou dados familiares, sem o seu consentimento, em geral para intimidá-la ou expô-la a assédio.
F
- Falso negativo
- Na moderação, um falso negativo é um conteúdo que viola as regras, mas não é detectado, e por isso continua visível quando deveria ter sido ocultado ou removido.
- Falso positivo
- Na moderação, um falso positivo é um conteúdo legítimo identificado por engano como violação das regras e, por isso, ocultado, removido ou sinalizado quando deveria ter continuado visível.
- Fila de moderação
- Uma fila de moderação é a lista de conteúdos à espera da análise de um moderador, como comentários retidos para aprovação, itens sinalizados como duvidosos pela IA, denúncias de usuários e decisões contestadas.
- Fundamentação da decisão
- A fundamentação da decisão é a explicação clara e específica que um serviço de hospedagem deve dar a um usuário quando restringe seu conteúdo ou sua conta, indicando o que foi decidido, com base em quais fatos, em qual fundamento legal ou contratual e como contestar (artigo 17 do DSA).
G
- Gestão de comunidade
- A gestão de comunidade (community management) é o trabalho de construir, animar e moderar a comunidade on-line de uma organização: publicar, responder a comentários e mensagens, tratar reclamações e fazer cumprir as regras da comunidade.
- Golpe
- Na moderação, um golpe é um conteúdo criado para enganar as pessoas e fazê-las entregar dinheiro, dados pessoais ou acesso a contas, por exemplo sorteios falsos, contas falsas de atendimento ao cliente ou ofertas de investimento boas demais para ser verdade.
L
- Limite de moderação
- Um limite de moderação é o valor de corte aplicado à pontuação de confiança de um modelo que decide o que acontece com um conteúdo: ação automática acima dele, revisão humana ou nenhuma ação abaixo dele.
- Link de phishing
- Um link de phishing é um link para um site fraudulento que imita um serviço confiável, como um banco, uma transportadora ou uma marca, para roubar dados de login, informações de pagamento ou dados pessoais.
- LLM (grande modelo de linguagem)
- Um grande modelo de linguagem (LLM, do inglês large language model) é um modelo de inteligência artificial treinado com volumes muito grandes de texto para entender e gerar linguagem; na moderação, ele consegue ler o conteúdo no contexto e aplicar regras escritas em linguagem comum.
M
- Moderação automatizada
- Moderação automatizada é o uso de software (filtros de palavras-chave, regras, aprendizado de máquina ou modelos de linguagem) para analisar o conteúdo dos usuários e tomar ou propor uma decisão de moderação sem que uma pessoa analise cada item.
- Moderação de comentários
- Moderação de comentários é a análise dos comentários publicados sob matérias, vídeos ou posts em redes sociais para remover ou ocultar abusos, spam e conteúdo ilegal, mantendo visíveis as opiniões legítimas, inclusive as críticas.
- Moderação de conteúdo
- Moderação de conteúdo é o processo de analisar o conteúdo gerado pelos usuários (comentários, posts, imagens, vídeos) e decidir se ele deve ser mantido, ocultado, removido ou restringido, com base nas regras da plataforma e na legislação aplicável.
- Moderação híbrida
- Moderação híbrida é um modelo de moderação em que o software trata automaticamente o conteúdo claro e pessoas analisam os casos ambíguos ou sensíveis, para que cada decisão seja tomada por quem está em melhor posição para tomá-la.
- Moderação por IA
- Moderação por IA é o uso de modelos de inteligência artificial, como classificadores e grandes modelos de linguagem, para entender o conteúdo dos usuários no contexto e decidir ou sugerir se ele viola as regras de moderação.
- Moderação posterior
- Moderação posterior (ou pós-moderação) é um método de moderação em que o conteúdo dos usuários é publicado imediatamente e analisado depois; o conteúdo que viola as regras é ocultado ou removido assim que é detectado.
- Moderação prévia
- Moderação prévia (ou pré-moderação) é um método de moderação em que o conteúdo dos usuários fica retido e é analisado antes de se tornar visível ao público; nada é publicado até ser aprovado.
- Moderação reativa
- Moderação reativa é um método de moderação em que o conteúdo só é analisado depois que um usuário, um sinalizador de confiança ou uma autoridade o denuncia, em vez de ser verificado sistematicamente.
- Moderador de conteúdo
- Um moderador de conteúdo é uma pessoa que analisa o conteúdo gerado pelos usuários, como comentários, publicações e imagens, e decide se ele cumpre as regras de um serviço e a lei, para então tomar ou confirmar a ação adequada.
- Modo sandbox
- Na moderação, o modo sandbox é uma configuração de teste em que o sistema analisa conteúdos reais e mostra o que decidiria, sem de fato ocultar ou remover nada.
P
- Plataforma on-line de muito grande dimensão (VLOP)
- Uma plataforma on-line de muito grande dimensão (VLOP) é uma plataforma on-line com uma média de pelo menos 45 milhões de destinatários ativos mensais na União Europeia que foi designada como tal pela Comissão Europeia, nos termos do artigo 33 do Regulamento dos Serviços Digitais.
- Política de moderação
- Uma política de moderação, muitas vezes publicada como diretrizes da comunidade ou regras de comentários, é o conjunto de regras que define qual conteúdo é permitido em um espaço, qual não é e que ação é tomada quando as regras são violadas.
- Pontuação de confiança
- Uma pontuação de confiança é um valor, muitas vezes entre 0 e 1, que indica o quanto um modelo de IA tem certeza de que um conteúdo pertence a uma categoria como spam, insulto ou discurso de ódio.
R
- Raid
- Um raid é a chegada repentina e organizada de um grande número de usuários externos a uma seção de comentários, a um chat ao vivo ou a uma live, geralmente para tumultuá-la com spam, insultos ou conteúdo chocante.
- Registro de atividades
- O registro de atividades da moderação, ou trilha de auditoria, é um registro cronológico das ações de moderação que mostra o que foi feito com qual conteúdo, quando, por quem ou por qual sistema e por qual motivo.
- Regulamento dos Serviços Digitais (DSA)
- O Regulamento dos Serviços Digitais (Regulamento (UE) 2022/2065), ou DSA, é o regulamento da União Europeia que estabelece regras para os serviços intermediários, incluindo serviços de hospedagem e plataformas on-line, sobre conteúdo ilegal, transparência da moderação e direitos dos usuários.
- Relatório de transparência
- Um relatório de transparência é um documento público em que um serviço divulga números e informações sobre a sua moderação de conteúdo, como ordens recebidas, notificações tratadas, decisões tomadas e reclamações, conforme os artigos 15 e 24 do Regulamento dos Serviços Digitais.
- RGPD
- O Regulamento Geral sobre a Proteção de Dados (Regulamento (UE) 2016/679), ou RGPD, é a lei da UE, aplicável desde 25 de maio de 2018, que rege o tratamento de dados pessoais, incluindo os nomes, mensagens e identificadores tratados na moderação de comentários.
S
- Sentimento ou toxicidade
- O sentimento descreve a polaridade emocional de uma mensagem (positiva, neutra ou negativa), enquanto a toxicidade indica se ela é abusiva; um comentário negativo não é necessariamente tóxico, e um comentário tóxico pode parecer positivo.
- Serviço de hospedagem
- No Regulamento dos Serviços Digitais, um serviço de hospedagem é um serviço intermediário que armazena informações fornecidas pelos usuários e a pedido deles; uma plataforma on-line é um serviço de hospedagem que também divulga essas informações ao público.
- Shadowban
- Um shadowban é uma restrição em que o conteúdo de um usuário fica oculto para os outros ou menos visível sem que ele seja claramente informado, de modo que continua publicando sem perceber que ninguém vê suas mensagens.
- Sinalizador de confiança
- Um sinalizador de confiança é uma entidade com conhecimentos específicos, à qual o Coordenador dos Serviços Digitais do seu Estado-membro atribuiu esse estatuto, cujas notificações de conteúdo ilegal as plataformas on-line devem tratar com prioridade e sem demora injustificada (artigo 22 do DSA).
- Sistema interno de gestão de reclamações
- Um sistema interno de gestão de reclamações é o processo que as plataformas on-line devem oferecer, pelo artigo 20 do Regulamento dos Serviços Digitais, para que os usuários contestem, por via eletrônica e gratuitamente, decisões de remover ou restringir seu conteúdo ou de suspender sua conta.
- Spam
- Spam é conteúdo não solicitado publicado em massa ou repetidamente, em geral para fazer propaganda, gerar tráfego ou enganar, como links promocionais, mensagens copiadas e comentários gerados por bots.
T
- Toxicidade
- Toxicidade é um rótulo amplo para conteúdo grosseiro, desrespeitoso ou agressivo que tende a fazer outras pessoas abandonarem uma conversa, incluindo insultos, desprezo, ameaças e ataques pessoais.
- Troll
- Um troll é uma pessoa que publica deliberadamente mensagens provocativas, insultuosas ou fora do tema para provocar reações, desviar uma conversa ou irritar os outros participantes.
- Trust and safety
- Trust and safety (T&S, confiança e segurança) é o conjunto de políticas, equipes e ferramentas que uma organização usa para proteger seus usuários e seu serviço contra abusos, fraudes e conteúdos nocivos e ilegais, e para garantir que as pessoas possam confiar nele.
Proteja sua marca em poucos minutos.
Conecte seu site ou suas páginas e conte para a gente quais são suas regras e seus casos de uso. A gente implanta a moderação e cuida dela por você: nossa equipe trata os casos duvidosos e as denúncias, e você vê cada decisão e a justificativa em tempo real.
Sem cartão de crédito · Em conformidade com o DSA · Em conformidade com o RGPD
Ficou com dúvidas? contact@openmoderation.com