Presentiamo OpenModeration, la piattaforma di moderazione unificata
Oggi annunciamo OpenModeration, una piattaforma di moderazione dei contenuti basata sulla propria IA di moderazione, con i casi delicati verificati da altri modelli di IA.
Il problema che risolviamo
Molti strumenti di moderazione si basano su un unico algoritmo proprietario, fermo tra un aggiornamento e l'altro. Intanto i modelli di IA migliorano e costano meno ogni anno, e le piattaforme ferme al modello di ieri perdono questi progressi.
Nel frattempo, il volume dei contenuti generati dagli utenti cresce del 30-40% ogni anno. Il DSA obbliga per legge le piattaforme a moderare. E l'UE fa sul serio con l'applicazione delle regole: le sanzioni possono arrivare al 6% del fatturato mondiale.
Il mercato ha bisogno di un livello standard, come Stripe per i pagamenti o Twilio per le comunicazioni.
Cosa stiamo costruendo
OpenModeration è una piattaforma di moderazione completa, non un semplice proxy di API:
- La nostra IA di moderazione: POST /v1/moderation restituisce punteggi standardizzati per categoria, e altri modelli di IA verificano i casi delicati.
- Un motore indipendente dai modelli: quando esce un modello di IA migliore o più economico, lo colleghiamo rapidamente. Per te non cambia nulla.
- Motore di azioni: definisci le regole con tre strumenti semplici, cioè parole vietate, soglie per categoria e le tue regole scritte in linguaggio naturale.
- Connettori nativi: integrazione con Facebook, Instagram, YouTube e WordPress collegati con i tuoi account delle piattaforme.
- Dashboard di amministrazione: interfaccia React Admin per gestire le chiavi, consultare i log e analizzare l'utilizzo.
- Registro di audit conforme al DSA: ogni moderazione viene registrata con tutti i dettagli ed è esportabile per la conformità.
Perché la trasparenza
La moderazione è prima di tutto una questione di fiducia. Una piattaforma di moderazione che non spiega le proprie scelte è una scatola nera: non sai cosa fa, come prende le decisioni o dove finiscono i tuoi dati.
Con OpenModeration ogni decisione è spiegata per iscritto e conservata in un registro di audit completo. Applichi le tue regole e i tuoi casi d'uso, i dati sono ospitati nell'UE e puoi esportarli quando vuoi. Un'installazione on-premise è possibile su richiesta: parliamone.
I prossimi passi
Partiamo con il Blocco 1 (l'API di moderazione di base e la dashboard) e rilasceremo i Blocchi 2 e 3 (acquisizione dei contenuti, motore di azioni, connettori) nei prossimi mesi. Il nostro SaaS gestito arriverà entro la fine dell'anno.
Se stai costruendo una piattaforma che ha bisogno di moderazione, il tuo parere ci interessa. Prenota un appuntamento: il nostro team la configura insieme a te.