Kunstmatige intelligentie die zo slim wordt dat die de mensheid overneemt, en robots die ons als huisdier gaan houden, vormen geen reëel probleem. AI kan gevaarlijk zijn, maar op een andere manier dan in films. “AI is geen natuurkracht die buiten onszelf staat, maar wordt door mensen gemaakt, gevoed en getraind.”
‘Ik onderscheidde verschillende woorden, zonder ze tot nu toe te kunnen begrijpen of toe te passen, zoals goed, liefste, ongelukkig.’
Dit is geen poëtische beschrijving van hoe ChatGPT of een andere robot taal leerde. Aan het woord is het monster uit Mary Shelley’s klassieke boek Frankenstein. Het monster van Frankenstein beseft, net als ChatGPT, niet wat woorden voor mensen betekenen.
Maar dit is ook waar de vergelijking tussen het monster en ChatGPT zo ongeveer ophoudt. Het monster van Frankenstein keert zich uiteindelijk tegen zijn maker. Literaire en filmopvolgers van dit monster zijn er in overvloed, en de monsters in kwestie zijn bijna altijd intelligente robots. Denk aan de Terminator in de vorm van Arnold Schwarzenegger op een motor met een machinegeweer. De robot vormt in films steeds een gevaar voor zijn makers. Dit voedt de angst voor wat de slimme AI-robots die nu worden ontwikkeld, misschien wel met de mensheid gaan doen.
Verschillende edities van Mary Shelley’s klassieker Frankenstein.
Andy Mabbett, Wikimedia Commons via CC BY-SA 3.0Techniekfilosoof Pim Haselager van de Radboud Universiteit Nijmegen ziet alleen geen enkele aanwijzing dat AI in de echte wereld een monster wordt dat zijn maker uitroeit. Haselager legt uit dat AI-systemen, zoals ChatGPT, weliswaar superslim zijn geworden, maar als het gaat om beleving, om beseffen wat een woord als ‘ongelukkig’ betekent, laat staan om bewustzijn, dan staan AI-systemen nog op nul.
“Er zit evenveel besef of beleving in de slimste computer die we nu hebben, als in jouw of mijn koelkast: namelijk geen. Een ijskast zegt niet: ‘Ik heb het helemaal gehad met koelen, ik ga barbecueën, dat lijkt me leuker.’ Dat soort zelfbewustzijn zit gewoon niet in die systemen, niet in je koelkast en niet in een AI-systeem.” En dus is Haselager er ook niet bang voor dat computers opeens de macht grijpen. “Als je de macht grijpt, wil je daar iets mee, maar het begin van een wil ontbreekt bij AI.”
Robot uit de film ‘Terminator 3: Rise of the Machines’(2003).
Nathan Rupert, CC BY-NC-ND 2.0 via FlickrBelangrijke beslissingen
De reden dat de Terminator en andere robots toch steeds terugkomen in het debat over AI is dat het Frankenstein-script onderdeel is van onze cultuur, stelt cultuursocioloog Siri Beerends. De promovenda doet aan de Universiteit Twente onderzoek naar authenticiteit en de maatschappelijke impact van AI. “Het is een klassiek en populair uitgangspunt dat wordt gevoed door films en boeken. Iedereen kent het verhaal van de maker die wordt vernietigd door zijn creatie en dat maakt het ook makkelijk om vanuit dat oogpunt de discussie over AI te voeren.”
Niet alleen films en boeken maken ons bang voor vernietigende robots. In open brieven waarschuwen techfiguren als Elon Musk en de ontwikkelaars van ChatGPT voor robots die de mensheid overnemen. Die brieven zijn volgens Haselager afleidend van de feitelijke risico’s die er wél zijn. “Er wordt ook wel gedacht dat techfiguren dit expres doen. Het gaat in waarschuwingsbrieven over de Terminator, zodat we niet praten over wat er dringend gereguleerd moet worden, namelijk de maatschappelijke impact van AI nu. Dat geven de techbedrijven vaak liever niet uit handen.”
Zorgen over AI zijn dan ook niet onterecht, vindt Haselager. “Ik ben alleen niet bang voor de superslimme robot uit de film, ik ben bang voor de schade die wij onszelf toedienen via AI. Er zijn nu al AI-systemen die gaan over je hypotheek, over je mogelijke fraude bij een uitkering, over wat op sociale media in jouw tijdlijn verschijnt, en over wiens gezicht je op Tinder te zien krijgt. We geven heel belangrijke beslissingen, die gaan van onze financiën tot ons liefdesleven, uit handen, zonder dat we er goed over nadenken. Dat zorgt ervoor dat er brokken worden gemaakt.”
De juiste zorgen
Beerends wijst op de brokken van de toeslagenaffaire in Nederland, waarin algoritmen een kwalijke rol speelden, en op een algoritme in Australië dat tussen 2015 en 2019 een half miljoen mensen ten onrechte als fraudeur bestempelde. Mensen kregen schulden van soms wel tienduizenden euro’s. Het dreef een deel van de slachtoffers tot wanhoop. “Om dit soort zaken te voorkomen blijft menselijke controle altijd nodig. Je kunt dit soort beslissingen niet automatiseren. Dat kan gewoon niet.”
Volgens Haselager is het belangrijk om goed naar de risico’s van AI te kijken en je voor te bereiden op toekomstige problemen. “We hebben als mens de geschiedenis om laat in te grijpen bij technologieontwikkelingen. Kijk naar de auto. Dat was natuurlijk allemaal fantastisch en briljant, maar we hebben het ook behoorlijk uit de hand laten lopen qua luchtverontreiniging, files en veiligheid. In de jaren zeventig was het door auto’s echt gevaarlijk om door een stad als Amsterdam te fietsen. Het is vanuit mijn perspectief dus goed dat we ons nu zorgen maken over AI. Je moet je dan wel zorgen maken over het juiste én dat is moeilijk. Goed geïnformeerde zorgen zijn nuttig en nodig. Kennisloze angst is een slechte raadgever – daar hebben we niks aan.”
Geen natuurkracht
Het debat over AI moet dus weg van de sciencefiction. Een manier waarop Beerends dit probeert, is met medialab SETUP. Dat ontwikkelde bijvoorbeeld betere stockfoto’s voor AI. “Geen menselijk brein met énen en nullen erin, zoals we nu vaak zien. Dat plaatje suggereert namelijk dat kunstmatige intelligentie en menselijke intelligentie op elkaar lijken, terwijl dat niet zo is. In plaats daarvan hebben we een fysieke verbeelding gemaakt van een neuraal netwerk.”
De nieuwe stockfoto van AI, gemaakt door SETUP. Hiervoor is een schematische weergave van een neuraal netwerk nagebouwd. De mens als maker staat hierin centraal en legt hierin de verbindingen. In het beeld zit een knipoog naar de Vitruviusman van Leonardo da Vinci, het symbool van het humanisme, waarin de mens het middelpunt van dit universum is.
SETUP, Peter Arno Broer
Veel AI-toepassingen, zoals ChatGPT, werken op basis van zo’n kunstmatig neuraal netwerk. Dat is een systeem waarin heel veel kansberekeningen tegelijk en achter elkaar worden gemaakt en dat is hoe er wordt ‘geleerd’. Centraal in de stockfoto van SETUP staat de mens, want ook de mens ontbreekt nu volgens Beerends in stockfoto’s over technologie. “Te vaak zien we een glanzende witte, op een mens lijkende robot voorbijkomen in foto’s over AI. Dat maakt het heel futuristisch, terwijl AI er zo helemaal niet uitziet. Het zit nu al in je Google Maps en je Instagram-feed. Het ontstaat ook niet vanzelf. Het is belangrijk dat we door betere stockbeelden gaan beseffen dat AI geen natuurkracht is die buiten onszelf staat, maar door mensen wordt gemaakt, gevoed en getraind.”
