📖 Woordenlijst moderatie
Wat is arbitrage tussen modellen?
Kort gezegd
Arbitrage tussen modellen is een techniek waarbij meerdere AI-modellen dezelfde content analyseren en hun oordelen worden vergeleken, zodat een moderatiebeslissing in een gevoelig geval niet op het oordeel van één model berust.
Elk AI-model heeft blinde vlekken. Door een tweede of derde model een grensgeval te laten beoordelen en de antwoorden te vergelijken, vang je veel van die fouten op. Zijn de modellen het eens, dan is het vertrouwen in de beslissing groter; zijn ze het oneens, dan is dat een sterk signaal dat het geval dubbelzinnig is.
Voorbeeld: een reactie bevat een woord dat in de ene context een scheldwoord is en in een andere een teruggeclaimde term. Het eerste model markeert het als haatzaaiende taal, het tweede leest het als neutraal. In plaats van willekeurig te kiezen, behandelt het systeem de onenigheid als twijfel en stuurt het de reactie naar een menselijke moderator.
Arbitrage wordt meestal voorbehouden aan gevoelige gevallen, omdat het draaien van meerdere modellen op elke reactie traag en duur zou zijn. OpenModeration gebruikt een eigen moderatie-AI en controleert gevoelige gevallen kruiselings met andere AI-modellen; nieuwe modellen worden aangesloten zodra ze verschijnen, en gevallen die onzeker blijven worden afgehandeld door het team van OpenModeration.