‘Neem de macht terug van big tech’

“Tech zie je terug in zoveel aspecten in ons leven. We kunnen niet meer zonder”, stelt internet- en privacy-expert Marietje Schaake. Bedrijven nemen volgens haar ‘zoveel functies in de samenleving op zich’ dat er een ongewenste afhankelijkheid bestaat. Over hoe ‘de buitensporige macht van technologiebedrijven de democratie bedreigt’, schreef Schaake het boek ‘De Tech Coup’, dat vorig jaar verscheen. Schaake is verbonden aan het Cyber Policy Center van de Amerikaanse Stanford University en schrijft voor de Financial Times columns over technologie en politiek.

Grote techbedrijven zijn te weinig open zijn over de algoritmen en modellen die ze gebruiken voor hun diensten, vindt Schaake. Dat maakt het moeilijker om deze bedrijven te controleren en onafhankelijk onderzoek uit te voeren. Techbedrijven schermen er volgens haar mee dat als ze hun modellen vrijgeven, de kans groot is dat ook de concurrentie hiermee aan de haal gaat. “Het draait om handelsbescherming en handelsgeheimen, waarmee ze een muur optrekken.”

Controleurs

De wetenschap, waar Schaake zelf toe behoort, zou één van de controleurs moeten zijn. Volgens haar kunnen onderzoekers die functie echter nauwelijks uitvoeren. “Onafhankelijk onderzoek is cruciaal om beter te begrijpen hoe bijvoorbeeld socialmediaplatformen zijn opgebouwd en wat de maatschappelijke gevolgen van algoritmes zijn. Onderzoek kan ook dienen om te achterhalen hoe desinformatie zich verspreidt, welke settings of algoritmen daaraan bijdragen, en hoeveel nepnieuws er überhaupt is: onderschatten we de omvang of is er sprake van overschatting? Met meer onafhankelijke kennis krijg je een beter publiek debat en het stelt ons openbaar bestuur in staat de juiste beslissingen te maken in het belang van de samenleving.”

Een ander belangrijk probleem is dat de wetenschap niet de supercomputers heeft waarover big tech wel beschikt. Universiteiten kunnen daardoor geen eigen modellen bouwen, op een manier waarop big tech dat doet. “Dat geldt zelfs voor de relatief rijke Stanford University. We hebben als wetenschappers een achtergestelde positie, omdat we lang niet altijd de capaciteit hebben voor het onderzoek dat we zouden willen uitvoeren.”

Dat klinkt wat abstract, maar is goed te illustreren aan de hand van een voorbeeld. Schaake: “Stel dat onderzoekers alles willen weten over de technologie van de nieuwste vrachtwagens. Ze hebben alleen geen geld om een prototype te bouwen. De bedrijven houden hun vrachtwagens in de garage en de wetenschappers mogen niet onder de motorkap kijken. Dan wordt het onmogelijk om uitspraken te doen over bijvoorbeeld de veiligheid. Iets dergelijks is gaande met big tech. Er is weinig transparantie en te veel afhankelijkheid. In veel andere onderzoeksrichtingen is zoiets ondenkbaar. In de medische wetenschap vertrouwen we ook niet blind op de bevindingen van big pharma, maar leunen we ook op de medische wetenschap en het werk van toezichthouders.”

Overschaduwen

Het ontbreekt politiek en bestuur in Nederland aan antwoorden, vindt Schaake. Ze noemt het zorgelijk dat onze omgang met technologie bij de afgelopen Tweede Kamerverkiezingen in november 2023 geen belangrijke rol speelde. “Technologie wordt vaak beschouwd als mooi, nieuw, grappig of interessant. Dat overschaduwt de grote maatschappelijke impact.” Zo kunnen algoritmes discrimineren. Een voorbeeld dat Schaake in haar boek aanhaalt, is de Toeslagenaffaire. “Er zijn door de Belastingdienst risicoprofielen opgebouwd van mogelijke fraudeurs, met behulp van software en algoritmes. Op basis van bepaalde gegevens werd gekeken wie verdacht werd van het plegen van fraude. Het is aan die risicoprofielen te wijten dat er uiteindelijk is gediscrimineerd.”

Ook aan de techniek van AI-toepassingen kleven risico’s, gaat Schaake verder. De output van deze toepassingen wordt gebaseerd op informatie van het internet. “Minderheden zijn op het internet ondervertegenwoordigd en zullen dat dus ook zijn in AI-toepassingen. Dat heeft invloed op wie er in onze samenleving wordt gehoord en vertegenwoordigd. Veel van deze AI-toepassingen zijn in handen van big tech.”

Europa

Schaake draagt verschillende oplossingen aan. Het belangrijkste is dat we de informatiepositie van burgers, parlementariërs, journalisten en toezichthouders verstevigen, zodat zij dus makkelijker een kijkje krijgen ‘onder de motorkap’ van big tech. “Ik heb kritiek op democratische regeringen, omdat zij de grip verloren. We hebben wetgeving nodig die transparantie verplicht, en moeten de macht terugnemen die ons uit handen is geglipt.”

Veel onderzoekers stellen dat Europa meer dan de Verenigde Staten bezig is met wetgeving die de positie van de burger ten opzichte van big tech versterkt. “Het klopt dat de EU hier meer aandacht voor heeft, maar de Europese wetgeving is niet altijd gericht op de thema’s die ik in mijn boek behandel. Op EU-niveau is wetgeving aangenomen die bijvoorbeeld gaat over haat zaaien, terreur en hoe content gemodereerd moet worden. Of het gaat om economische zaken als mededingingsregels en misbruik van marktmacht. Dat zijn belangrijke zaken, maar het gaat niet over de bredere vraag hoe we de macht beter verdelen en meer onafhankelijk onderzoek mogelijk maken.“