De demon in de machine

Een volgend probleem is: welke heuristiek moet je gebruiken, als er een voortdurende stroom informatie op je af komt? Daarvoor bevat de toolbox een zogeheten selector, een soort checklist van ja/nee-vragen, vergelijkbaar met een belastingformulier, die je snel naar de juiste heuristiek leidt.

Onberekenbaar complex

De adaptive toolbox is een heuristische methode om menselijke rationaliteit te modelleren. Concurrende methodes (waar we hier niet op in gaan) staan bekend als de logische en de probabilistische methode. Van deze methodes was al eerder aangetoond, dat ze tegen een principieel probleem aan lopen: deze leiden, toegepast op de echte wereld met een grote verscheidenheid aan omstandigheden, tot onberekenbaar complexe modellen.

Dit wil zeggen: je kunt deze modellen voor menselijke rationaliteit vertalen naar wiskundige problemen die ‘NP-hard’ zijn. Bekendste voorbeeld van een NP-hard probleem is het handelsreizigersprobleem: vind de kortste route die een aantal steden precies één keer aandoet en terugkeert op het uitgangspunt. Voor zeven of twaalf steden kun je de oplossing nog vinden door alle mogelijke routes uit te proberen, maar voor honderd steden is dat niet meer te doen. NP-hard wil zeggen, dat het principieel onmogelijk is (dit is nog niet bewezen, maar wel de consensus onder wiskundigen), om een efficiënt computerprogramma voor zo’n taak te maken.

Dit zou betekenen dat de hersenen van mensen die zich rationeel gedragen, operaties op data uitvoeren die met een computer niet te simuleren zijn. Hersenen zouden dan over ‘demonische’, niet-berekenbare vermogens beschikken. Dat zou ernstige beperkingen opleggen aan het bouwen van robots en kunstmatig intelligente systemen, en in wezen het einde betekenen van de pogingen om menselijk gedrag op een fundamenteel niveau te verklaren.

Klip omzeilen

Tot nu toe werd gedacht, dat het model van de adaptive toolbox deze klip omzeilde. Als de selector en de heuristieken maar simpel genoeg zijn, blijft het model voor een computer of een brein efficiënt doorrekenbaar, ook als je het toepast in de echte wereld. Het artikel in Cognitive Science gooit deze kwestie echter weer helemaal open. Otworowska, Van Rooij en collega’s stellen dat ook in de adaptive toolbox onberekenbare complexiteit schuil gaat.

Die zit in het aspect adaptive, dat wil zeggen het aanpassingsvermogen: naarmate nieuwe informatie binnenkomt, moeten de heuristieken en de selector zich soms aanpassen aan de nieuwe situatie om rationeel te kunnen blijven handelen. En dit proces, waaraan door cognitiewetenschappers tot nu toe weinig aandacht was geschonken, maakt het model toch weer onberekenbaar complex. Om dit aan te tonen, vertalen ze het _adaptive toolbox_-model naar een ander NP-hard probleem: het bepalen van de kleinste dominerende set van een netwerk (zie onderstaande afbeelding).

Schroothoop

Ze tonen aan, dat gegeven een verzameling mogelijke situaties, het vinden van een setje heuristieken dat voldoende effectief tot rationele beslissingen leidt, minstens net zo moeilijk is als het vinden van een kleinste dominante set in een netwerk. Een adaptive toolbox die efficiënt met de echte wereld overweg kan, mag zelf niet al te groot zijn (dan is hij namelijk niet meer efficiënt) maar hij moet wel om kunnen gaan met een heel groot aantal mogelijke situaties (anders is hij niet rationeel genoeg). Dit probleem is analoog aan het vinden van een kleine dominante set voor een heel groot netwerk, en daarom is ook dit een onhanteerbaar complexe taak voor een computer. De demon van de menselijke rationaliteit heeft zich toch weer niet laten vangen.

Dat betekent nog niet, dat de theorie van de adaptive toolbox op de schroothoop moet. De onderzoekers zien een uitweg: de onberekenbare complexiteit van een toolbox kan best beperkt zijn tot maar één of een paar eigenschappen (parameters) van het model. Als je die geïdentificeerd hebt, kun je onderzoeken of die parameters in de praktijk beperkt blijven tot heel lage waardes. Bijvoorbeeld: het menselijk oog kan miljoenen kleurtinten onderscheiden, maar misschien gebruikt een mens maar vijf of tien kleurgroepen om iets eetbaars van iets oneetbaars te onderscheiden.

Dit is maar een fictief voorbeeld; over hoe de menselijke cognitie werkelijk in elkaar steekt, is nog heel veel onbekend. Iris van Rooij: “Vandaar dat het probleem van de onberekenbaarheid voor de _adaptive toolbox_-theorie nog niet is opgelost. Maar we zijn druk bezig om dit in ons lab te onderzoeken.”