In het boek ‘In de schaduw van AI’ lees je nu eens niet hoe kunstmatige intelligentie de gaafste dingen mogelijk maakt, maar wel hoe AI ons in het echte leven raakt.
Na de lancering van ChatGPT, eind 2022, is er een eindeloze stroom aan boeken over AI verschenen, zoals ‘Slim, slimmer, slimst’ en ‘De AI-revolutie’. Veel auteurs beschrijven daarin wat kunstmatige intelligentie precies is en welke implicaties die gaat hebben. Sommigen zijn lyrisch over wat AI voor ons kan betekenen, anderen zijn een stuk kritischer (en vaak zijn ze een combinatie van die twee). Madhumita Murgia, AI-journalist bij de Britse krant Financial Times, heeft het aangedurfd om een totaal ander boek over AI te maken. Hoewel zij overduidelijk veel deskresearch heeft gedaan, is ze ook de gehele wereld afgereisd om de verhalen te vinden van hoe AI de mensen raakt. Van een klikwerker (iemand die laagbetaald simpel computerwerk doet) in Kenia tot een arts in India en een sociaal werker in Argentinië, Murgia vertelt kleurrijke en unieke verhalen van mensen die met AI in aanraking zijn gekomen. Ze heeft veel aandacht voor lokale details. Daarom leest haar boek soms zelfs een beetje als een roman.
De tech bros uit Silicon Valley die de nieuwste AI-snufjes de wereld in slingeren, staan nu eens niet centraal, maar de mensen die het overkomt, die ermee te maken krijgen als moeder, werknemer of patiënt. Murgia biedt een podium aan mensen uit niet-westerse landen en vrouwen, opvallend veel vrouwen. Ze laat niet alleen zien hoe AI hun leven is binnengewandeld, maar ook hoe zij in verzet komen tegen AI, of zoeken naar oplossingen om AI op een waardevollere manier in te zetten.
Potentieel probleemkind
Zo beschrijft ze de Amsterdamse Diana, die op een dag te horen krijgt dat haar zoon in de Top 600 staat, een lijst van gewelddadige jeugdcriminelen. Haar andere, jongere zoon staat in de Top 400, een lijst met potentiële criminelen, die is opgesteld door een algoritme genaamd ProKid. Zonder dat haar jongste zoon ook maar iets had gedaan, was hij op basis van een onnavolgbaar algoritme gelabeld als potentieel probleemkind, en kreeg de familie allerlei instanties over de vloer die hen wilden ‘helpen’. Maar het veroorzaakte alleen maar meer stress in het gezin, waardoor ze juist in de problemen kwamen. Murgia had natuurlijk de veel bekendere Toeslagenaffaire kunnen bespreken, waardoor veel gezinnen vanwege algoritmische beslissingen van de Belastingdienst in de problemen zijn gekomen. Maar ze koos terecht voor een ander verhaal, dat niet minder interessant en ingrijpend is.
Het boek bevat veel meer voorbeelden van mensen die met de minder mooie kanten van AI te maken krijgen, en over wie we zelden lezen in de media. Zoals een klikwerker in Bulgarije die vele uren per dag voetgangers, zebrapaden, stoplichten en stoepen labelt, zonder het doel te weten, en met een slechte onderhandelingspositie bij haar werkgever. Maar ook een Britse schrijfster die ontdekt dat haar gezicht is gebruikt in een deepfake pornovideo, en een Amerikaanse maaltijdkoerier die strijdt voor een eerlijkere vergoeding voor zijn werk. Een Argentijnse buurtwerker wil tienerzwangerschappen met behulp van een algoritme tevergeefs terugdringen.
Proefkonijnen
Het boek van Murgia laat de duistere kanten van AI zien, zoals het geestdodende, onderbetaalde en soms traumatiserende werk dat klikwerkers uitvoeren om de algoritmes te trainen, maar ook hoe mensen slachtoffer kunnen worden van AI-toepassingen, bijvoorbeeld door deepfakes, surveillance en predictive policing. Over medische toepassingen schrijft Murgia dat ze daar in eerste instantie optimistisch over was. ‘Tijdens mijn zoektocht naar de effecten van AI op mensen was de gezondheidszorg naar mijn idee het enige terrein waarop AI de kans had om levens echt positief te veranderen.’
Ze spreekt uitgebreid met de Indiase arts Ashita, die in een klein privéziekenhuis werkt en dankzij AI beter tuberculose kan voorspellen bij patiënten. Maar er is geen geld om de toepassing beschikbaar te maken voor openbare ziekenhuizen, waardoor die voor hen ontoegankelijk blijft. Ook worden veel pilots met AI-oplossingen in ziekenhuizen na verloop van tijd stopgezet. Patiënten met een niet-westerse achtergrond worden op die manier vooral als proefkonijnen gebruikt om de AI-modellen te trainen, zodat die nauwkeuriger werken. Ze kunnen echter niet blijvend van de oplossing gebruikmaken. Digitaal kolonialisme, noemt de Indiase politicoloog Urvashi Aneja dat, ‘waarbij grote hoeveelheden data worden verzameld over mensen die daar zelf niet beter van worden, terwijl de grote technologiebedrijven er maximaal waarde aan ontlenen’.
De cover van ‘In de schaduw van AI’.
Atlas ContactMurgia laat ook veel mensen en initiatieven zien die ‘het systeem’ tegengas geven. Zo is de Amsterdamse Diana een stichting gestart die moeders met kinderen in de Top 600 en Top 400 met elkaar in contact brengt, en spant de Britse stichting Foxglove rechtszaken aan om discriminerende algoritmes te verbieden. Activiste Maya Wang stelt die Chinese massasurveillance aan de kaak. En ten slotte noemt Murgia een uniek verband van katholieke, islamitische en joodse geestelijk leiders die samen de ‘Oproep van Rome’ tekenden, waarin ze pleiten voor ethische en menswaardige AI. De initiatieven zijn hoopgevend, maar het boek van Murgia maakt ook duidelijk dat de kapitalistische krachten achter AI heel sterk zijn, waardoor de negatieve effecten niet zomaar uit de wereld zijn geholpen. Daarvoor is veel meer nodig dan een vrijblijvende oproep. De volgende stap is dan ook om te zorgen dat de wanhoopskreten van de mensen uit Murgia’s boek, die zij zo mooi een podium heeft geboden, tussen de oren komen van de machtige Big Tech-bedrijven.