‘Geweren doden geen mensen, mensen doden mensen’. Voorstanders van de wapenindustrie zeggen dat vaak om aan te geven dat het geweer zelf niet het probleem is, maar de mensen die het wapen hanteren. De technologie zelf is neutraal, beweren ze. In dit blog leg ik uit waarom dat – volgens mij – een verkeerde stelling is.
Technologie is niet neutraal, en waarden en technologie zijn op allerlei manieren met elkaar verbonden. Er is wel technologie die je als waardeloos of nutteloos kan beschouwen. Zoals bijvoorbeeld de egg cuber, die een gekookt ei vierkant maakt of de airconditioning jas – een jas met een airco erin. Als je het warm hebt, trek je toch gewoon je jas uit?
Toch is technologie niet vrij van waarden; het is niet waardenloos. Technologieën, in allerlei soorten en maten, worden ontworpen om dingen mogelijk te maken die we belangrijk vinden. We ontwikkelen medicijnen om je gezondheid te bevorderen, de lopende band benadrukt het belang van efficiëntie en de telefoon stelt ons in staat om gemakkelijk met elkaar te communiceren. De waarde die we hechten aan duurzaamheid stimuleert innovaties zoals zonnepanelen, waardoor we de aarde minder belasten en haar natuurlijke hulpbronnen behouden.
Encryptie
Waarden beïnvloeden ook ontwerpkeuzen in technologieontwikkeling. Omdat we privacy belangrijk vinden, ontwerpen we patiëntendossiers zo dat alleen geautoriseerde personen toegang hebben. WhatsApp-berichten versleutelen we met end-to-end encryptie om ongeautoriseerde toegang te voorkomen. Kortom, technologie belichaamt bepaalde waarden.
Daarnaast beïnvloeden technologieën hoe we de wereld om ons heen zien, ervaren en er een interactie mee aangaan. Technologie beïnvloedt ons handelen, bijvoorbeeld doordat ontwikkelaars een innovatie zo ontwerpen dat het bepaald gedrag stimuleert. Zo zorgen de muntjes die nodig zijn om een winkelwagentje te ontgrendelen ervoor dat je wagentjes na gebruik ook weer terugbrengt (waarde: opgeruimdheid) en zorgen stoplichten er (als het goed is) voor dat je stopt bij een rood sein (waarde: veiligheid).
Maar ook algoritmes van bijvoorbeeld TikTok of Instagram zijn zo ontworpen dat ze er alles aan doen om jou langer aan het scherm te kluisteren (waarde: winstmaximalisatie). Het laatste voorbeeld laat ook zien dat de waarden niet gedeeld hoeven worden om tot uiting te komen in een technologie. Ze dragen soms ook bij aan iets wat van waarde is voor een kleine groep personen of een bedrijf.
Verantwoordelijkheid
Technologieën zorgen er ook voor zorgen dat dingen zichtbaar worden die dat voorheen niet waren, en confronteren ons daardoor met nieuwe verantwoordelijkheden. De mogelijkheid om CO2 in de atmosfeer te meten laat de enorme stijging van CO2 in de atmosfeer zien, en brengt daarmee ook vragen met zich mee over wat het juiste is om te doen, nu we dit weten en de gevolgen daarvan ervaren.
Ook brengen technologieën nieuwe mogelijkheden met zich en zorgen ze voor nieuwe handelingsopties. De ontwikkeling van het vliegtuig maakte het ineens mogelijk om redelijk gemakkelijk naar een Caribisch eiland te vliegen, waar dat voorheen niet zo was. De komst van de auto veranderde volledig hoe we ons verplaatsen en dat had verregaande gevolgen voor onze landelijke infrastructuur. Social media bieden de mogelijkheid om contact te onderhouden met vrienden en kennissen op grote afstand. Tegelijkertijd verandert dat ook de manier waarop we relaties met anderen aangaan. Fysiek contact vervangen we door online contact via apps als TikTok, Snapchat of FaceTime. Op deze manieren heeft technologische innovatie ook een invloed op onze maatschappij en onze gedeelde moraal: op dat wat we belangrijk vinden, en op hoe we handelen. Wat precies de gevolgen zijn van nieuwe technologieën is lastig te voorspellen. Technologieën kunnen onverwachte gevolgen hebben, of uiteindelijk gebruikt worden voor een ander doel dan oorspronkelijk de bedoeling was.
Ongewenste gevolgen
Deze wisselwerking tussen technologie en waarden laat dan ook zien dat het belangrijk is om te reflecteren op de technologieën die we ontwikkelen, en te bepalen welke waarden leidend (zouden moeten) zijn in de ontwikkeling. Technologieontwerp heeft soms ongewenste gevolgen. De vormgeving kan mensen uitsluiten of op onwenselijke manieren ons handelen sturen. Als we niet, of niet genoeg, nadenken over de waarden die we mee moeten nemen in het ontwerp van een technologie zorgt dat mogelijk voor problemen. Onvoldoende oog voor het belang van diversiteit zorgt er bijvoorbeeld voor dat medicijnen wel geschikt zijn voor mannen, maar minder voor vrouwen. Of dat personen met een donkere huidskleur slechter herkend worden door gezichtsherkenningstechnologie dan personen met een lichtere huidskleur.
Nog even terug naar het geweer. Een geweer is niet ontwikkeld om het te vullen met water en te gebruiken als plantenspuit. Het is een middel dat is ontwikkeld om iemand doeltreffend te verwonden, bijvoorbeeld uit zelfverdediging of wraak. Zonder persoon om het geweer te bedienen valt er misschien geen dode, maar het geweer geeft wel uiting aan een idee over hoe iemand het mag gebruiken in een bepaalde situatie, en daardoor is het geen waardenloze technologie.
Omdat technologie niet waardenloos is, ligt er ook een verantwoordelijkheid bij degenen die een technologie ontwikkelen. Zij moeten nadenken over hoe je dat op zo’n manier kan doen dat deze aansluit bij waarden in de samenleving. En zo hebben wij als samenleving de verantwoordelijkheid technologieën op een verantwoorde manier te gebruiken.