📖 Glossário de moderação
O que é moderação human-in-the-loop?
Em resumo
Human-in-the-loop (HITL, ou humano no circuito) descreve um sistema automatizado em que uma pessoa revisa, confirma ou corrige parte das decisões da máquina, normalmente as incertas, sensíveis ou contestadas.
Na moderação, human-in-the-loop significa que a IA não tem a última palavra sobre tudo. Os casos abaixo de um limite de confiança, ou em categorias sensíveis como ameaças ou automutilação, são encaminhados a uma pessoa, que vê o conteúdo, seu contexto e o motivo pelo qual o sistema o sinalizou.
Exemplo: um comentário diz que um político deveria ser "abatido" na próxima eleição. Um sistema baseado em palavras-chave poderia ler uma ameaça; uma pessoa entende na hora a figura de linguagem e deixa o comentário visível.
A revisão humana também importa do ponto de vista jurídico e de reputação. O Regulamento dos Serviços Digitais (DSA) exige que as plataformas online tratem as reclamações contra decisões de moderação sob a supervisão de pessoal devidamente qualificado, e não apenas por meios automatizados (artigo 20). Na OpenModeration, os casos duvidosos e as decisões contestadas são revisados pela nossa equipe, e você vê cada decisão em tempo real em um único painel.