📖 Glossar der Moderation
Was ist Modell-Arbitrage?
Kurz gesagt
Modell-Arbitrage ist eine Technik, bei der mehrere KI-Modelle denselben Inhalt analysieren und ihre Urteile verglichen werden, damit eine Moderationsentscheidung in einem heiklen Fall nicht vom Urteil eines einzigen Modells abhängt.
Jedes KI-Modell hat blinde Flecken. Wenn ein zweites oder drittes Modell einen Grenzfall-Kommentar prüft und die Antworten verglichen werden, lassen sich viele dieser Fehler auffangen. Sind sich die Modelle einig, ist das Vertrauen in die Entscheidung höher; widersprechen sie sich, ist das ein starkes Signal, dass der Fall mehrdeutig ist.
Beispiel: Ein Kommentar verwendet ein Wort, das in einem Kontext eine Beleidigung und in einem anderen eine zurückeroberte Selbstbezeichnung ist. Das erste Modell stuft ihn als Hassrede ein, das zweite als neutral. Statt zufällig eines zu wählen, behandelt das System die Uneinigkeit als Zweifel und leitet den Kommentar an einen menschlichen Moderator weiter.
Arbitrage bleibt meist heiklen Fällen vorbehalten, da es langsam und teuer wäre, mehrere Modelle auf jeden Kommentar anzuwenden. OpenModeration nutzt eine eigene Moderations-KI und gleicht heikle Fälle mit anderen KI-Modellen ab; neue Modelle werden eingebunden, sobald sie erscheinen, und Fälle, die unsicher bleiben, bearbeitet das OpenModeration-Team.