‘Pas op, mogelijk fake news!’ Wetenschappers analyseren het taalgebruik in nepnieuws. Ze hopen zo een automatische detector te kunnen ontwikkelen en daarmee verspreiding te voorkomen.
De oorlog in Oekraïne, coronavaccins en de opwarming van het klimaat. Over sommige onderwerpen kan het behoorlijk lastig zijn om betrouwbare informatie te vinden tussen al het nepnieuws dat online staat. Fake news is van alle tijden, maar sinds de verkiezing van Donald Trump in 2016, lijkt er helemaal geen ontkomen meer aan.
Met een goede bronnencheck en analyse van de redenering is veel nepnieuws al snel te ontmaskeren. Maar kan het niet sneller en makkelijker? Taalwetenschappers speuren in de taal van nepnieuws naar patronen, zodat alarmbellen al sneller gaan rinkelen.
Terugkomende thema's
“In het begin keken we vooral naar nieuwsberichten met de vraag: is dit echt of nep?” vertelt Jon Roozenbeek, die sinds 2016 onderzoek doet naar nepnieuws aan King’s College Londen en de Universiteit van Cambridge. Nepnieuws bleek vaak emotioneel geladen en in kapitalen geschreven. “Maar dit was geen effectief herkenningssignaal op de lange termijn. Mensen die nepnieuws verspreiden, begrijpen inmiddels dat ze tekst in hoofdletters beter kunnen vermijden omdat het opvalt. Bovendien is desinformatie vaak niet volledig nep, maar eerder een verdraaiing van de werkelijkheid dan een pure leugen.”
De herkenning van nepnieuwsberichten zat hem dus niet per se in specifieke woorden. Wel zagen de onderzoekers sommige thema’s vaker terugkomen in de berichten. Zo gebruiken samenzweringstheoretici op X (voorheen Twitter) meer taal die gerelateerd is aan de thema’s macht, dood en religie dan hun wetenschappelijk gefocuste tegenhangers.
Zondebokken en trollen
Roozenbeek en zijn collega’s kozen vervolgens voor een insteek die minder zwart-wit was en zochten naar aspecten waaraan je kunt zien dat een bericht misschien misleidend is. “Dit leidde tot meer inzicht in de technieken die nepnieuwsverspreiders gebruiken,” zegt Roozenbeek. Die vertellen dus niet direct of een bericht juist of onjuist is, maar kunnen mensen wel inzicht geven in hoe betrouwbaar de informatie is.
Makers van nepnieuws wijzen bijvoorbeeld opvallend vaak een zondebok aan, een groep die systematisch – en vaak ten onrechte – in een slecht daglicht wordt gezet. Daarnaast roepen de berichten vaak emoties op, met angst als favoriet, waardoor ze al snel viraal gaan. Polarisatie schuwen de makers niet, dat werkt met name goed op sociale media, waar toch al weinig ruimte is voor nuance.
Ook zagen Roozenbeek en zijn collega’s relatief vaak ‘impersonatie’ voorkomen, waarbij makers een onbekend persoon presenteren als deskundige. Een man in een witte jas vertelt dan bijvoorbeeld dat vaccins niet werken.
Een andere veelgebruikte techniek is de samenzweringstheorie, waarbij instellingen worden beschuldigd van het uitvoeren van een geheime agenda. Een bekend voorbeeld hiervan is de Great Reset van het World Economic Forum, een initiatief gericht op het duurzaam herbouwen van de wereldeconomie na de coronapandemie. Volgens sommigen zou dit een samenzwering zijn om tot een controlestaat te komen. Dit soort complottheorieën zijn vaak te herkennen aan een gebrek aan bewijs.
Met een witte doktersjas aan ziet iemand er al snel geloofwaardig deskundig uit.
Pixabay, Darko Stojanovic via CC0En de laatste, makkelijkst te herkennen techniek is trollen. Hierbij gaat het om teksten die expres reacties willen uitlokken op social media, afkomstig van anonieme accounts, die meestal nog maar kort bestaan en geen volgers hebben. Dit kan gaan om een bericht of een reactie op een bericht waaronder een discussie ontstaat.
Retoriek herkennen
Vorig jaar presenteerde een groep Europese onderzoekers een dataset met 1.612 nieuwsberichten in het Engels, Frans, Duits, Italiaans, Pools en Russisch, gelabeld op bovenstaande technieken. Op basis daarvan konden ze met behulp van machine learning een detector bouwen die steeds beter wordt in het herkennen van misleidende en samenzwerende berichten.
“Het algoritme in zo’n detector leert op basis van voorbeelden te voorspellen of een stuk nieuwe tekst voldoet aan de voorwaarden die het heeft geleerd”, legt Roozenbeek uit. Het gaat hierbij niet om specifieke woorden, maar om de herkenning van woordpatronen. Het woord ‘afschuwelijk’ is bijvoorbeeld geen indicator voor nepnieuws, omdat je ook kunt zeggen: ‘Het is een afschuwelijke dag’. Maar in samenhang met andere tekst kan het wel wijzen op misleidende informatie, aldus Roozenbeek. “De onderliggende strategieën die de nepnieuwsverspreiders gebruiken, hebben dus vaak meer te maken met retoriek dan met specifieke talige cues.”
Verdere verspreiding voorkomen
Naar die retoriek in nepnieuws doet Philipp Schmid onderzoek aan de Radboud Universiteit, met een focus op gezondheidscommunicatie en misinformatie. “Retoriek van misinformatie kun je ook ontmaskeren. Als je doorziet waar mensen verkeerd geïnformeerd zijn, kun je ze ook beter begeleiden”, zegt hij.
Volgens Schmid is het belangrijk om niet alleen te focussen op het identificeren van nepnieuws nadat het is verspreid, ook wel debunking genoemd, maar ook op het voorkomen van de verspreiding ervan. “Dan spreken we van prebunking en dat houdt in dat mensen van tevoren worden gewaarschuwd voor de technieken die nepnieuwsverspreiders gebruiken, waardoor ze beter in staat zijn om misleidende informatie te herkennen en te weerstaan. Beschermen is immers beter dan genezen.” Als mensen zelf nepnieuws beter herkennen, zullen ze het ook minder vaak verder verspreiden.
In de privésfeer ziet Schmid dezelfde retorische technieken rondom nepnieuws terugkomen als online. Bijvoorbeeld in de spreekkamer van de huisarts, waar meer ruimte is voor gesprek dan op social media. Jarenlang onderzoek naar vaccinatiediscussies tussen artsen en patiënten, evenals naar wat er online over dit onderwerp werd verspreid, bood inzicht in het taalgebruik. “Hieruit komen allerlei psychologische overwegingen naar voren waarom mensen nepnieuws geloven en vervolgens vaak zelf verder verspreiden”, vertelt hij.
“Wat we vaak van artsen horen, is dat vaccinsceptici onrealistische verwachtingen hebben van vaccins. Bijvoorbeeld dat vaccinaties 100 procent werkzaam moeten zijn, anders vertrouwen ze het niet. Maar als een arts uitlegt dat vaccins niet zo werken, begrijpen patiënten dat vaak beter,” legt Schmid uit.
Deze patiënten halen hun informatie over vaccins vaak uit berichten waarin woorden als ‘verbergen’ en ‘overheid’ vaak voorkomen. Dat duidt op een anti-overheidssentiment, wat ook vaak terugkomt bij complottheorieaanhangers. Artsen en anderen die met deze patiënten praten, kunnen hier rekening mee houden. “Simpelweg zeggen: ‘Je moet je laten vaccineren’ is niet voldoende. Detecteren of een patiënt iets gelooft wat niet waar is, is slechts de eerste stap. De volgende, meer cruciale stap, is begrijpen waarom die dat gelooft. In een privésituatie, zoals bij een dokter of een vriend, reageren mensen vaak defensief als hun overtuigingen worden uitgedaagd. Het is daarom allereerst belangrijk leren te luisteren”, benadrukt hij. Meer begrip is cruciaal om misinformatie vervolgens aan te pakken en zo verdere verspreiding van nepnieuws te voorkomen.
Waarheid in pacht
Voor hulp bij zulke vaccinatiegesprekken heeft Schmid met collega’s het online platform Jitsuvax ontwikkeld. Op deze website zetten zij elf categorieën met veelvoorkomende argumenten gebaseerd op nepnieuws op een rij – inclusief een mogelijke reactie voor bijvoorbeeld een arts. Dit platform is vooral bedoeld voor in de privésfeer. “In een publiek domein, zoals op sociale media, is het belangrijker om snel te benadrukken dat bepaalde informatie foutief is, voordat het de wijde wereld ingaat”, legt hij uit.
Roozenbeek is van mening dat ontwikkelde algoritmes veel kunnen bijdragen aan het automatisch signaleren van online nepnieuws. “Modellen zoals ChatGPT zijn al vrij normaal in ons dagelijks leven. We kunnen iets soortgelijks verwachten met de tools die nu al zijn ontwikkeld om misleidende inhoud te achterhalen”, zegt Roozenbeek. Maar socialmediabedrijven aarzelen nog met het implementeren van die tools, vanwege de politieke gevoeligheid ervan. “Ik snap dit wel, omdat misleiding vrijwel altijd subjectief is. Dan krijg je discussie over wie de waarheid in pacht heeft en of die mediagiganten wel zouden moeten bepalen wat wel en niet misleidend is. Hoe de ontwikkelingen precies ingezet zullen worden online, blijft dus de vraag.”