De robots vernietigen ons, of niet?

Een hele generatie is opgegroeid met de film Terminator, waarin een superrobot (gespeeld door Arnold Schwarzenegger) door een supercomputer op jacht wordt gestuurd om het verzet van de mensheid te breken. Het doel: de vernietiging van de mens. De film uit 1984 zette het moment dat computers slimmer werden dan de mens op augustus 1997. Inmiddels is het 2015 en lopen er nog steeds geen terminators door onze straten. Moeten we daar wel bang voor zijn?

Het gevaar van kunstmatige intelligentie is niet geweken, althans als je het nieuws een beetje bijhoudt. Prominenten uit de technologiewereld lijken in de rij te staan om ons te waarschuwen voor de gevaren van steeds slimmer wordende computers en robots. De wereldberoemde natuurkundige Stephen Hawking zei begin dit jaar nog dat het creëren van kunstmatige intelligentie het einde van het menselijke ras kan inluiden.

Daarmee deed hij uitspraken van de baas van SpaceX Elon Musk nog eens dunnetjes over. Hij stelde dat kunstmatige intelligentie de grootste bedreiging voor het menselijk ras is. Steve Wozniak, een van de oprichters van Apple, deed er nog een schepje bovenop. “Worden wij straks de huisdieren van supermachines?” vroeg hij zich openlijk af. Tot slot is Microsoft-oprichter Bill Gates minder uitgesproken, maar hij zegt zich op zijn minst ‘zorgen te maken’ over de ontwikkelingen op dit gebied.

Ook robots hebben niet stilgestaan. Kijk alleen al naar de ontwikkeling die de robots van Honde sinds de jaren 80 doormaken. Tweebenige robots hadden een kleine dertig jaar geleden nog de grootste moeite om rechtop blijven tijdens het lopen. De nieuwste versie van de ASIMO-robot gaat trappen op, rent en springt op één been, alsof het een mens is.

Daarnaast zijn er talloze projecten en bedrijven die de menselijke intelligentie digitaal na proberen te maken, of ze proberen te doorgronden met behulp van computers. Zullen de grenzen tussen computers en het menselijk brein werkelijk vervagen door bedrijven als Vicarious of Google DeepMind, of het gigantische Europese Human Brain Project? Klopt er straks een robot op onze deur die slimmer is dan degene die open doet?

Geen spookverhalen

Jeroen van den Hoven, professor Ethiek en Technologie van de Technische Universiteit Delft, moet van dát scenario weinig weten. “Zeker, we moeten de ontwikkelingen rondom kunstmatige intelligentie scherp in de gaten houden”, zegt hij. “Maar ik vind de verwachting vaak wel erg overspannen wat dat betreft. Al vanaf de jaren 50 van de vorige eeuw wordt gezegd dat er binnen afzienbare tijd intelligente machines gemaakt konden worden. Dat is tot op heden nog niet gebeurd.”

“Maar nu kan het anders zijn,” gaat hij verder. “Natuurlijk zijn computers veel krachtiger dan toen en het grote verschil is dat er nu veel meer data voorhanden is. Die datarevolutie biedt weer nieuwe kansen.”

Er is een groeiend verzet tegen deze ontwikkeling. De Verenigde Naties hebben zich er tegen uitgesproken en roepen politici op deze te stoppen. Ook Human Rights Watch is een internationale campagne gestart tegen de killer robot. Machines zouden niet zelfstandig mogen beslissen over leven en dood. “Volgens mij begint dat besef bij politici ook langzaam door te dringen”, zegt Van den Hoven. “Onder andere president Obama wil daarom een verbod op deze systemen.”

Voortrazen zonder plan

Naast militaire robots die zijn geprogrammeerd om dood en verderf te zaaien, is het gevaar dat apparaten ‘per ongeluk’ hetzelfde doen misschien nog wel reëler. “In complexe systemen kan er sprake zijn van zogenoemde emergente fenomenen”, zegt Van den Hoven. “Denk aan een vliegtuig waarvan een automatische piloot reageert op foutieve data van een hoogtemeter, en crasht. Of een elektriciteitsnetwerk dat uit balans raakt omdat de computer ‘besluit’ om een bepaalde parameter te optimaliseren. Dit soort fouten zullen we vaker zien naarmate we meer taken uitbesteden aan computers.”

Vindt Van den Hoven ook dat we ‘voortrazen zonder plan’? Op een aantal domeinen wel. “Er zijn nu zoveel diensten – zoals Facebook en Google – waar ontzettend veel mensen gebruik van maken. Dit soort innovaties worden gedreven door de logica van de markt, veel minder door de publieke waarden. In zeker opzicht zijn die techbazen de ‘denkers’ van nu. Als zij vinden dat privacy niet belangrijk is, dan heeft dat een enorme invloed. De filosofie van een ondernemer sijpelt onze maatschappij vrijwel ongemerkt binnen via apps en ict-systemen.”

Volgens Van den Hoven is dit moeilijk te kantelen. “De rest kachelt er eigenlijk maar een beetje achteraan. De politiek snapt dit nauwelijks en heeft te weinig middelen en ondersteuning om dit soort ontwikkelen op de voet te volgen. Toch zouden ze hier veel meer over na moeten denken. Er hangt erg veel vanaf. Als we een ding kunnen leren uit de geschiedenis, dan is het dat we eigenlijk altijd te laat zijn met effectieve maatregelen.”