“Stelletje droeftoeters!! Oproerkraaiers anarchisten tuig! Stelletje GRAFHONDEN!!! Een klap op je smoel van de ME, ik teken ervoor.” Nare reacties op sociale media zijn aan de orde van de dag. Hoe moeten we hier als democratische samenleving mee omgaan?
Je schrikt wakker van je wekker. De klok naast je bed geeft in rode letters 07:00 aan. Het is nog koud en donker buiten en je weet dat je over anderhalf uur alweer in de schoolbanken moet zitten. Om je gedachten aan de wiskundetoets nog even te verzetten ontgrendel je gauw je telefoon. Bijna onbewust gaat je duim naar het roze symbooltje van Instagram. Bovenaan je feed verschijnt een foto van een klimaatactivist en je nog half slapende brein herinnert zich dat er afgelopen weekend weer een A12-protest was. Je klikt op Alle 57 opmerkingen bekijken, maar dat had je beter niet kunnen doen. Tussen de vlammetjes en hartjes door wemelt het van de nare opmerkingen. Je ziet dingen langskomen zoals “kzou op julli in rijden!!1!” en “ga eens werk zoekn stelletje droeftoeters”. Vermoeid klik je Instagram weer weg. Dan maar je bed uit: douchen, ontbijten, en op de fiets richting die wiskundetoets.
Eén grote baggerput
Iedereen herkent zo’n situatie wel, toch? Ik in elk geval wel—al zat ik niet meer op de middelbare school toen ik Instagram aanmaakte, en waren de tijden van wiskundetoetsen gelukkig voorbij. Maar of we het nu hebben over vandaag of over vijftien jaar geleden, conflict op online platforms is er altijd geweest… En het is in de afgelopen jaren niet minder geworden—sterker nog, veel mensen hebben het gevoel dat het steeds erger wordt! Vooral op X is het sinds de overname van Elon Musk “één grote baggerput”, zoals een van mijn onderzoeksparticipanten het zo mooi verwoordde.
Hoe moeten we als democratische samenleving kijken naar die bagger op online platforms? En belangrijker nog: wat doen we ermee? Sommige mensen vinden vrijheid van meningsuiting het allerbelangrijkste wat er is, en vinden daarom dat we die bagger gewoon lekker moeten laten staan. Andere mensen vinden weer dat die nare content weggehaald moet worden. Deze groep mensen zegt: ja, vrijheid van meningsuiting is belangrijk, maar bescherming van mensen is dat net zo goed—óók in een online omgeving. Die balans tussen vrijheid van meningsuiting aan de ene kant, en restricties wat betreft zogenoemde ‘baggercontent’ aan de andere kant, is vaak het onderwerp van discussies over online content moderation.
Moderatie
Maar wat is content moderation eigenlijk? Het is een Engelse term die neerkomt op de regulering van teksten, video’s, plaatjes, reacties en discussies op het internet. De term wordt vooral veel gebruikt om te bepalen welke content wel of niet oké is om te plaatsen op sociale media of op discussieplatforms. Maar ja… Wat is ‘oké’ dan? Het is namelijk niet alleen zo dat er meningsverschillen bestaan over de vraag óf slechte content weggehaald moet worden (zoals in de discussie over vrijheid van meningsuiting), maar er zijn ook enorme meningsverschillen over wát überhaupt slechte content is.
De een vindt een opmerking van een klimaatontkenner absoluut niet oké, de ander vindt het juist weer prima. De een vindt ‘droeftoeter’ heel respectloos, de ander vindt het juist grappig. En wat nog lastiger is: ironie en sarcasme zijn heel moeilijk te duiden in een online omgeving, waardoor je uitspraken makkelijk verkeerd interpreteert.
Constructieve discussies
Ondanks de complexiteit van dit alles houden online platforms er vaak een relatief simpele moderatietactiek op na. Platforms gebruiken meestal een block-and-delete-strategie, waarbij ze (in hun ogen) ongewenste content verwijderen en ze gebruikers eventueel blokkeren. Maar juíst omdat er zo veel onduidelijkheden zijn over wat nu eigenlijk goede en slechte content is, zou je moderatie breder moeten trekken dan dat. In plaats van alleen ‘negatieve’ moderatie (‘negatief’ omdat dingen weggehaald worden) te gebruiken, moeten we meer inzetten op ‘positieve’ moderatie (moderatie waarbij dingen worden toegevoegd). Zo’n manier van modereren is niet alleen gericht op de-escalatie van online conflict, maar ook—juist—op het creëren van constructieve discussies.
Hoewel zo’n positieve moderatie niet makkelijk is—en daarnaast heel tijdsintensief kan zijn—is die wel enorm belangrijk om bruggen te bouwen en polarisatie tegen te gaan in onze samenleving. In een volgend blog ga ik het hebben over hoe dit eruit kan zien, en over de rol die AI hierbij kan spelen!