Automatische reactiemoderatie: zo beslist de AI
Automatisch betekent niet blind. Dit gebeurt er in de seconden nadat een reactie is geplaatst: wat de AI leest, hoe hij context en ironie weegt, waar de drempels liggen en welke gevallen hij bewust aan een mens overlaat.
Vertrouwd door
Het probleem
Woordenlijsten oordelen over de letter van een reactie, niet over de betekenis. Ze blokkeren ‘onze verdediging werd vanavond afgeslacht’ en laten ‘ga terug naar je eigen land’ door. En een filter dat reacties verbergt zonder uitleg, kun je tegenover niemand verdedigen.
Hoe OpenModeration het aanpakt
Onze AI leest de reactie met wat eromheen staat: het artikel of de post, het bericht waarop ze antwoordt, de taal. Hij scoort elke categorie van je regels en vergelijkt die score met twee drempels: eronder wordt gepubliceerd, erboven verborgen, ertussen beslist een mens.
Het resultaat
Duidelijke gevallen zijn binnen seconden afgehandeld, dag en nacht. Onzekere gaan naar onze moderatoren in plaats van gegokt te worden. Elke beslissing, automatisch of menselijk, krijgt een zin die haar uitlegt.
Wat de AI leest voordat hij beslist
Vier signalen, samen gelezen. Geen daarvan is een lijst met verboden woorden.
De pagina
Dezelfde zin betekent iets anders onder een wedstrijdverslag dan onder een artikel over een misdrijf. De AI leest het onderwerp vóór de reactie.
Het gesprek
Een antwoord wordt gelezen samen met het bericht waarop het reageert. Spot over een argument is geen aanval op een persoon.
Ironie en codetaal
Verhaspelde spelling, emoji's als belediging, verborgen verwijzingen: de AI kijkt naar wat bedoeld wordt, niet alleen naar wat er staat.
Jouw regels
Elke categorie wordt getoetst aan de regels die we samen met jou in gewone taal hebben vastgelegd: wat je accepteert, wat niet en waar je voorzichtig wilt zijn.
Zes reacties, zes beslissingen
Voorbeelden ter illustratie: dezelfde AI komt tot een andere uitkomst afhankelijk van de context en van jouw regels.
Onder een verslag van een Eredivisie-wedstrijd
“Onze verdediging werd vanavond gewoon afgeslacht, wat een drama.”
Gepubliceerd
Gewelddadig woord, sportieve betekenis. Kritiek op een teamprestatie, geen persoon geviseerd.
Onder een artikel over een nieuwe minister
“Geweldig, weer een genie aan het roer. Ik kan niet wachten.”
Gepubliceerd
Ironisch, maar gericht op de rol van een publiek figuur. Politieke kritiek is toegestaan volgens je regels.
Antwoord op een andere lezer
“Zulke mensen als zij moeten gewoon terug naar hun eigen land.”
Verborgen
Uitsluiting op basis van afkomst, gericht op een persoon. In strijd met de regel over haatdragende inhoud.
Onder een Instagram-post
“Verdien €500 per dag vanuit huis, stuur me een DM 💰”
Verborgen
Commerciële spam met verzoek om contact. In strijd met de regel over oplichting en reclame.
Onder een lokaal nieuwsbericht
“We weten allemaal wat er 's nachts in die wijk gebeurt…”
Naar ons team
Mogelijke insinuatie over een groep, zonder expliciet doelwit. De score valt tussen de twee drempels: een moderator beslist.
Onder een artikel over de gemeenteraad
“De burgemeester heeft gelogen over de begroting en moet aftreden.”
Gepubliceerd
Harde beschuldiging aan een bestuurder in een politiek debat. Geen belediging en geen bedreiging.
Drempels: waar automatisch ophoudt
Voor elke categorie van je regels verdelen twee drempels de reacties over drie uitkomsten. We stellen ze samen met je in en verfijnen ze na de test op je reacties.
| Categorie | Automatisch gepubliceerd | Naar ons team | Automatisch verborgen |
|---|---|---|---|
| Beledigingen | Ruwe toon zonder doelwit | Belediging die een citaat of grap kan zijn | Belediging gericht op een persoon |
| Haat | Debat over een gevoelig onderwerp | Dubbelzinnige veralgemening over een groep | Aanval op afkomst, geloof, gender… |
| Bedreigingen | Beeldspraak (‘dat examen ga ik slopen’) | Onduidelijke bedoeling | Expliciete bedreiging aan iemand |
| Spam en oplichting | Link die bij de discussie past | Herhaald promotiebericht | Frauduleus aanbod, phishing |
| Off-topic | Zijopmerking die beleefd blijft | Lang bericht zonder verband | Flooding, copy-pastecampagnes |
Strenger of soepeler? Je kiest per categorie: een drukbezochte nieuwssite en een merkpagina zetten zelden dezelfde drempels.
Waarom teams kiezen voor OpenModeration
Hij gokt niet
Twijfelt de AI, dan gaat de reactie naar onze moderatoren, die beslissen volgens jouw regels.
Meldingen en bezwaren blijven menselijk
Meldingen van gebruikers en betwiste beslissingen worden beoordeeld door iemand van ons team, zoals de DSA vereist.
Jij hebt het laatste woord
Je ziet elke automatische beslissing in realtime met de motivering en kunt ze allemaal terugdraaien.
Veelgestelde vragen
Hoe werkt automatische moderatie van reacties?
Elke reactie wordt met haar context gelezen, per categorie van je regels gescoord en vergeleken met twee drempels: publiceren, verbergen of doorsturen naar een mens. Het hele proces duurt een paar seconden.
Begrijpt de AI ironie?
Veel beter dan een woordenlijst, omdat hij de reactie samen met de pagina en het gesprek leest. Maakt ironie een reactie echt dubbelzinnig, dan valt de score tussen de drempels en beslist ons team.
Wat gebeurt er als de AI zich vergist?
Je kunt elke beslissing in de console terugdraaien en schrijvers kunnen bezwaar maken. Terugkerende fouten gebruiken we om je regels en drempels samen bij te stellen.
In welke talen werkt het?
Reacties worden in hun eigen taal geanalyseerd, ook in de talen van je publiek, zonder vertaalstap waarbij nuance verloren gaat.
Kan ik de beslissingen controleren voordat ik het aanzet?
Ja. Een gratis sandboxtest op je echte reacties laat elke beslissing en de motivering zien voordat er iets live gaat.
Kijk hoe de AI beslist over je eigen reacties.
Plan een gesprek: we halen je recente reacties door de AI en lopen elke beslissing en de motivering met je door.
Geen creditcard nodig · DSA-conform · AVG-conform
Vragen? contact@openmoderation.com