📖 Glossario della moderazione
Che cos'è un LLM?
In breve
Un modello linguistico di grandi dimensioni (LLM) è un modello di intelligenza artificiale addestrato su quantità molto grandi di testo per comprendere e generare linguaggio; nella moderazione può leggere i contenuti nel loro contesto e applicare regole scritte in linguaggio naturale.
Gli LLM sono la tecnologia alla base degli assistenti conversazionali. Il loro punto di forza per la moderazione è la comprensione: colgono l'ironia, gli insulti in codice, il contesto dell'articolo commentato, e possono seguire istruzioni come “la critica ai nostri prodotti è consentita, gli attacchi personali ai dipendenti no”.
Esempio: un utente scrive “ottimo lavoro come sempre” sotto un post su un treno in ritardo. Un LLM può riconoscere il sarcasmo e classificare il commento come critica, che deve restare visibile, invece che come complimento o abuso.
Gli LLM hanno anche dei limiti: possono essere incoerenti da un'esecuzione all'altra, farsi ingannare da testi costruiti ad arte, e costo e velocità variano. Per questo i sistemi di moderazione seri li inquadrano con regole, soglie, verifiche incrociate tra modelli ed esame umano. L'IA di moderazione di OpenModeration viene verificata da altri modelli di IA sui casi delicati, e i nuovi modelli vengono aggiunti man mano che escono.