📖 Glossário de moderação
O que é um LLM?
Em resumo
Um grande modelo de linguagem (LLM, do inglês large language model) é um modelo de inteligência artificial treinado com volumes muito grandes de texto para entender e gerar linguagem; na moderação, ele consegue ler o conteúdo no contexto e aplicar regras escritas em linguagem comum.
Os LLMs são a tecnologia por trás dos assistentes conversacionais. Seu ponto forte na moderação é a compreensão: eles captam a ironia, os insultos codificados e o contexto da matéria comentada, e conseguem seguir instruções como "críticas aos nossos produtos são permitidas, ataques pessoais a funcionários não".
Exemplo: um usuário escreve "belo trabalho, como sempre" sob um post sobre um trem atrasado. Um LLM consegue reconhecer o sarcasmo e classificar o comentário como crítica, que deve continuar visível, e não como elogio ou abuso.
Os LLMs também têm limites: podem ser inconsistentes de uma execução para outra, ser enganados por textos cuidadosamente elaborados, e seu custo e velocidade variam. Por isso, sistemas de moderação sérios os enquadram com regras, limites, verificações cruzadas entre modelos e revisão humana. A IA de moderação própria da OpenModeration é verificada por outros modelos de IA nos casos delicados, e novos modelos são adicionados assim que são lançados.