Glossario della moderazione dei contenuti
Le parole della moderazione dei commenti, del DSA e della moderazione con IA, spiegate in modo semplice.
A
- Arbitraggio tra modelli
- L'arbitraggio tra modelli è una tecnica in cui più modelli di IA analizzano lo stesso contenuto e i loro verdetti vengono confrontati, così che una decisione di moderazione su un caso delicato non dipenda dal giudizio di un solo modello.
- Astroturfing
- L'astroturfing è la pratica di creare l'apparenza di un sostegno o di un'opposizione spontanei e dal basso, tramite account falsi, autori pagati o messaggi coordinati che nascondono chi c'è davvero dietro.
B
- Ban
- Un ban è una sanzione che impedisce a un utente di pubblicare, commentare o accedere a una community, per un periodo limitato (ban temporaneo o sospensione) oppure in modo permanente.
- Brand safety
- La brand safety è l'insieme di pratiche che proteggono la reputazione di un brand impedendo che venga associato a contenuti dannosi, illegali od offensivi, sia negli annunci pubblicitari sia nelle sezioni commenti delle sue pagine.
- Brigading
- Il brigading è un'azione coordinata in cui un gruppo di utenti, spesso organizzato da un'altra community, piomba su una pagina o un post per inondarlo di commenti, voti o segnalazioni, allo scopo di imporre un punto di vista o prendere di mira qualcuno.
C
- Coda di moderazione
- Una coda di moderazione è l'elenco dei contenuti in attesa di esame da parte di un moderatore, come commenti trattenuti per l'approvazione, elementi segnalati come dubbi dall'IA, segnalazioni degli utenti e decisioni contestate.
- Community management
- Il community management è il lavoro di costruire, animare e moderare la community online di un'organizzazione: pubblicare, rispondere a commenti e messaggi, gestire le lamentele e far rispettare le regole della community.
- Contenuto illegale
- Ai sensi del Regolamento sui servizi digitali, un contenuto illegale è qualsiasi informazione che, di per sé o in relazione a un'attività, non è conforme al diritto dell'Unione o di uno Stato membro; il DSA non definisce direttamente cosa è illegale, ma rinvia a tali norme.
D
- Discorso d'odio
- Il discorso d'odio (hate speech) è un contenuto che attacca, denigra o incita alla violenza o alla discriminazione contro persone a causa di una caratteristica protetta come origine, religione, genere, orientamento sessuale o disabilità.
- Disinformazione
- La disinformazione è un'informazione falsa o fuorviante creata o condivisa deliberatamente per ingannare, guadagnare denaro o influenzare, mentre la misinformazione è un'informazione falsa condivisa senza l'intenzione di trarre in inganno.
- Doxxing
- Il doxxing è la pubblicazione di informazioni private o identificative di una persona, come indirizzo di casa, numero di telefono, luogo di lavoro o dati sulla famiglia, senza il suo consenso, di solito per intimidirla o esporla a molestie.
F
- Falso negativo
- Nella moderazione, un falso negativo è un contenuto che viola le regole ma non viene rilevato, e resta quindi visibile quando avrebbe dovuto essere nascosto o rimosso.
- Falso positivo
- Nella moderazione, un falso positivo è un contenuto legittimo identificato per errore come contrario alle regole e quindi nascosto, rimosso o segnalato quando avrebbe dovuto restare visibile.
L
- Link di phishing
- Un link di phishing è un link a un sito fraudolento che imita un servizio affidabile, come una banca, un corriere o un brand, per rubare credenziali di accesso, dati di pagamento o dati personali.
- LLM (modello linguistico di grandi dimensioni)
- Un modello linguistico di grandi dimensioni (LLM) è un modello di intelligenza artificiale addestrato su quantità molto grandi di testo per comprendere e generare linguaggio; nella moderazione può leggere i contenuti nel loro contesto e applicare regole scritte in linguaggio naturale.
M
- Modalità sandbox
- Nella moderazione, la modalità sandbox è un'impostazione di prova in cui il sistema analizza contenuti reali e mostra cosa deciderebbe, senza nascondere né rimuovere effettivamente nulla.
- Moderatore di contenuti
- Un moderatore di contenuti è una persona che esamina i contenuti generati dagli utenti, come commenti, post e immagini, decide se rispettano le regole di un servizio e la legge, e poi prende o conferma l'azione appropriata.
- Moderazione automatica
- La moderazione automatica è l'uso di software (filtri per parole chiave, regole, modelli di machine learning o linguistici) per analizzare i contenuti degli utenti e prendere o proporre una decisione di moderazione senza che una persona esamini ogni elemento.
- Moderazione con IA
- La moderazione con IA è l'uso di modelli di intelligenza artificiale, come classificatori e modelli linguistici di grandi dimensioni, per comprendere i contenuti degli utenti nel loro contesto e decidere o suggerire se violano le regole di moderazione.
- Moderazione dei commenti
- La moderazione dei commenti è l'esame dei commenti pubblicati sotto articoli, video o post sui social per rimuovere o nascondere abusi, spam e contenuti illegali, lasciando visibili le opinioni legittime, critica compresa.
- Moderazione dei contenuti
- La moderazione dei contenuti è il processo con cui si esaminano i contenuti generati dagli utenti (commenti, post, immagini, video) e si decide se mantenerli, nasconderli, rimuoverli o limitarli, in base alle regole di una piattaforma e alla legge applicabile.
- Moderazione ibrida
- La moderazione ibrida è un modello in cui il software gestisce automaticamente i contenuti chiari e le persone esaminano i casi ambigui o delicati, così ogni decisione viene presa da chi è nella posizione migliore per prenderla.
- Moderazione reattiva
- La moderazione reattiva è un metodo di moderazione in cui i contenuti vengono esaminati solo dopo che un utente, un segnalatore attendibile o un'autorità li ha segnalati, invece di essere controllati sistematicamente.
- Molestie online
- Le molestie online sono comportamenti abusivi diretti contro una persona specifica, spesso ripetuti o coordinati, che mirano a intimidirla, umiliarla o zittirla, attraverso insulti, minacce, contatti indesiderati o la diffusione di informazioni personali.
- Motivazione
- La motivazione è la spiegazione chiara e specifica che un servizio di hosting deve fornire a un utente quando limita i suoi contenuti o il suo account, indicando cosa è stato deciso, su quali fatti, su quale base giuridica o contrattuale e come contestarlo (articolo 17 DSA).
P
- Piattaforma online di dimensioni molto grandi (VLOP)
- Una piattaforma online di dimensioni molto grandi (VLOP) è una piattaforma online con una media di almeno 45 milioni di destinatari attivi mensili nell'Unione europea, designata come tale dalla Commissione europea ai sensi dell'articolo 33 del Regolamento sui servizi digitali.
- Policy di moderazione
- Una policy di moderazione, spesso pubblicata come linee guida della community o netiquette dei commenti, è l'insieme di regole che definisce quali contenuti sono ammessi in uno spazio, quali no e quale azione viene intrapresa quando le regole vengono violate.
- Post-moderazione
- La post-moderazione è un metodo di moderazione in cui i contenuti degli utenti vengono pubblicati immediatamente ed esaminati in seguito; i contenuti che violano le regole vengono nascosti o rimossi una volta individuati.
- Pre-moderazione
- La pre-moderazione è un metodo di moderazione in cui i contenuti degli utenti vengono trattenuti ed esaminati prima di diventare visibili al pubblico; nulla viene pubblicato finché non è stato approvato.
- Punteggio di confidenza
- Un punteggio di confidenza è un valore, spesso compreso tra 0 e 1, che indica quanto un modello di IA è certo che un contenuto appartenga a una categoria come spam, insulto o discorso d'odio.
R
- Raid
- Un raid è l'arrivo improvviso e organizzato di un gran numero di utenti esterni in una sezione commenti, una chat live o uno stream, di solito per disturbarli con spam, insulti o contenuti scioccanti.
- Registro delle attività
- Il registro delle attività di moderazione (audit trail) è una traccia cronologica delle azioni di moderazione che mostra cosa è stato fatto a quale contenuto, quando, da chi o da quale sistema e per quale motivo.
- Regolamento sui servizi digitali (DSA)
- Il Regolamento sui servizi digitali (Regolamento (UE) 2022/2065) è il regolamento dell'Unione europea che fissa le regole per i servizi intermediari, compresi hosting e piattaforme online, su contenuti illegali, trasparenza della moderazione e diritti degli utenti.
- Relazione di trasparenza
- Una relazione di trasparenza è un documento pubblico in cui un servizio rende noti dati e informazioni sulla propria moderazione dei contenuti, come ordini ricevuti, segnalazioni trattate, decisioni prese e reclami, come richiesto dagli articoli 15 e 24 del Regolamento sui servizi digitali.
- Ricorso
- Un ricorso è la procedura che permette a un utente di contestare una decisione di moderazione, come un commento rimosso o un account sospeso, e di farla riesaminare, idealmente da qualcuno diverso dal sistema che l'ha presa.
S
- Segnalatore attendibile
- Un segnalatore attendibile è un ente con competenze specifiche, riconosciuto come tale dal coordinatore dei servizi digitali del suo Stato membro, le cui segnalazioni di contenuti illegali le piattaforme online devono trattare in via prioritaria e senza indebito ritardo (art. 22 DSA).
- Segnalazione e azione
- La segnalazione e azione è il meccanismo dell'articolo 16 del Regolamento sui servizi digitali con cui i servizi di hosting devono permettere a chiunque di segnalare contenuti che ritiene illegali, e trattare le segnalazioni in modo tempestivo, diligente, non arbitrario e obiettivo.
- Sentiment o tossicità
- Il sentiment descrive la polarità emotiva di un messaggio (positiva, neutra o negativa), mentre la tossicità indica se è offensivo; un commento negativo non è necessariamente tossico, e uno tossico può sembrare positivo.
- Servizio di hosting
- Ai sensi del Regolamento sui servizi digitali, un servizio di hosting (memorizzazione di informazioni) è un servizio intermediario che memorizza informazioni fornite dagli utenti e su loro richiesta; una piattaforma online è un hosting che diffonde anche tali informazioni al pubblico.
- Shadowban
- Uno shadowban è una restrizione con cui i contenuti di un utente vengono nascosti agli altri o resi meno visibili senza che l'utente ne sia chiaramente informato, così continua a pubblicare senza rendersi conto che nessuno lo vede.
- Sistema interno di gestione dei reclami
- Un sistema interno di gestione dei reclami è la procedura che le piattaforme online devono offrire (articolo 20 del DSA) perché gli utenti possano contestare, per via elettronica e gratis, le decisioni di rimuovere o limitare i loro contenuti o di sospendere il loro account.
- Soglia di moderazione
- Una soglia di moderazione è il valore limite applicato al punteggio di confidenza di un modello che decide cosa succede a un contenuto: azione automatica sopra la soglia, esame umano o nessuna azione sotto.
- Spam
- Lo spam è un contenuto non richiesto pubblicato in massa o ripetutamente, di solito per fare pubblicità, generare traffico o ingannare, come link promozionali, messaggi copiati e commenti generati da bot.
T
- Tossicità
- La tossicità è un'etichetta ampia per contenuti scortesi, irrispettosi o aggressivi che rischiano di spingere altre persone ad abbandonare una conversazione, inclusi insulti, disprezzo, minacce e attacchi personali.
- Troll
- Un troll è una persona che pubblica deliberatamente messaggi provocatori, offensivi o fuori tema per provocare reazioni, deviare una conversazione o infastidire gli altri partecipanti.
- Truffa
- Nella moderazione, una truffa è un contenuto pensato per indurre le persone a consegnare denaro, dati personali o l'accesso ai propri account, per esempio falsi concorsi, falsi account del servizio clienti o offerte di investimento troppo belle per essere vere.
- Trust and safety
- Il trust and safety (T&S) è l'insieme di policy, team e strumenti che un'organizzazione usa per proteggere i propri utenti e il proprio servizio da abusi, frodi, contenuti dannosi e illegali, e per fare in modo che le persone possano fidarsi.
Proteggi il tuo brand in pochi minuti.
Collega il tuo sito o le tue pagine e raccontaci le tue regole e i tuoi casi d'uso. Avviamo la moderazione e la gestiamo per te: il nostro team si occupa dei casi dubbi e delle segnalazioni, e tu vedi ogni decisione con la sua motivazione in tempo reale.
Nessuna carta di credito richiesta · Conforme al DSA · Conforme al GDPR
Domande? contact@openmoderation.com