Je gezicht is nu van ons is een pittige pil over de tijd waarin we nu leven, een tijd waarin een simpele app iedereen probleemloos kan herkennen op basis van faceprints, digitale ‘vingerafdrukken’ van het gezicht.
De boodschap van New York Times_-journalist Kashmir Hill in _Je gezicht is nu van ons is heel duidelijk: verbied gezichtsherkenningstechnologie. Maar daarvoor gebruikt ze wel heel veel woorden en dat is jammer. Het laat zien dat ze de materie zeer grondig heeft doorzocht en doorgrond, al vertelt het verhaal niet hoe de technologie van Clearview AI, het bedrijf waar het allemaal om draait, werkt. Clearview AI heeft tientallen miljarden foto’s in een database en belooft met een nauwkeurigheid van 99 procent iedereen te kunnen identificeren op basis van slechts één momentopname van hun gezicht.
De gruwelijkste dingen
Het eerste deel van het boek is spannend. Hill krijgt in november 2019 een tip, gaat er achteraan en valt van de ene verbazing in de andere. Ze beschrijft een dystopische wereld waar alles van iedereen zomaar is te vinden. Ook schrijft ze dat de bedrijven die al jaren miljarden foto’s verzamelen, besloten dat het makkelijk kunnen identificeren van mensen aan de hand van een foto misschien een stap te ver is: “Dat niet een technologische reus als Google of Facebook, maar een onbekende start-up een voorbode van deze nieuwe werkelijkheid [zonder anonimiteit, red.] was, verbaasde de deskundigen die ik sprak niet. ‘Die kleine bedrijven kunnen ongezien de gruwelijkste dingen tot stand brengen’, zei een van hen. Als ze dat eenmaal hebben gedaan, is de klok moeilijk terug te draaien.”
Hill gaat achter de mensen van Clearview aan en dat blijkt moeilijk. Een web van durfinvesteerders, overheidsdiensten en de van oorsprong Australische maker van de Clearview AI-app Hoan Ton-That beschrijft ze tot in de puntjes. Deze precisie maakt het verhaal soms wat traag. Ook uitstapjes naar het (verre) verleden, eugenetica, en zelfs de politieke voorkeuren van Ton-That komen langs. Allemaal interessant, maar misschien wat te veel.
Lang werkte gezichtsherkenningstechnologie niet goed genoeg, maar dat is inmiddels verleden tijd.
FreepikHet draait om geld
Gezichtsherkenningstechnologie was heel lang echt heel lastig en werkte niet goed genoeg. Personen moesten goed belicht zijn en recht in de camera kijken – dat soort zaken. Inmiddels zijn we zo ver dat het gros van die problemen niet meer bestaat. Was het nog niet zo lang geleden zo dat je als privacyvoorvechter nog kon aankomen met de argumenten dat dit soort technologie racistisch is, omdat er veel vooroordelen in zaten, inmiddels is dat vrijwel ongedaan gemaakt, schrijft Hill aan het eind van het boek. Eerder haalt ze enkele sprekende voorbeelden aan van waar gezichtsherkenningstechnologie danig de mist in ging en ervoor zorgde dat mensen tijdelijk vastgezet werden.
Maar uiteindelijk draait het om geld. Veel geld. Beveiliging, waar gezichtsherkenning een onderdeel van kan zijn, is een miljardenindustrie. Daarom krijgen we ook constant succesverhalen te horen van de industrie en de gebruikers ervan, in dit geval vooral Amerikaanse politiekorpsen. De fouten worden over het algemeen niet gemeld. Willen we dit niet? Dan moeten we als democratische staten beter bestand zijn tegen lobbyisten, die alles op alles zullen zetten hun technologieën te verkopen om zo heel veel geld te verdienen.
Opnieuw opbouwen
Een ander aspect wordt ook belicht en dat vind ik als voorstander van open source lastig te verkroppen: opensourcetechnologie (technieken die vrijelijk voor iedereen beschikbaar zijn) staat vaak aan de basis van gezichtsherkenningstechnologie. Simpel gezegd: Clearview heeft dit gebruikt en iedereen kan dit gebruiken. De database met gegevens van alle mensen die Clearview inmiddels heeft opgebouwd, is misschien niet zo makkelijk meer op te bouwen doordat bedrijven als Facebook daar naar eigen zeggen maatregelen tegen hebben genomen. Maar toch is het met de enorme hoeveelheden foto’s en video’s die mensen de wereld insturen, niet moeilijk weer zo’n database op te bouwen. En, zo blijkt ook later in het boek, het zogenoemde scrapen van foto’s uit de gegevens van Instagram en Facebook gaat eigenlijk nog steeds prima om een eigen Clearview-achtig systeem te bouwen.
Oppassen met opslaan
De boodschap van het boek is niet alleen: stop gezichtsherkenningstechnologie. Het is breder: let op met alles wat opgeslagen is en wordt op internetservers. Alles wat zonder logins is te vinden, is in principe in grote hoeveelheden op te slaan (in jargon: alles is te scrapen). Daarom moeten we ook beter nadenken over wat er opgeslagen wordt over ons mensen. Je kunt, zo schrijft Hill, een nieuw wachtwoord of nieuwe creditcard krijgen als die in verkeerde handen valt, maar je gezicht, stem of vingerafdruk kun je niet veranderen zonder pijnlijke operatie.
Op dit moment is Clearview alleen beschikbaar voor overheden, maar er komt een tijd dat dit niet meer zo is. Inmiddels zijn er ook vele andere vergelijkbare systemen die al danig worden misbruikt, bijvoorbeeld voor het identificeren van de echte identiteit van sekswerkers. Of neem het voorbeeld dat Hill aanhaalt om wc-papierdieven af te schrikken in China: camera’s in de papierdispensers…
Al met al een belangrijk en goed gedocumenteerd boek, maar sterk gericht op de VS en wel erg uitgebreid, alsof het een proefschrift is. Dat maakt het soms wat langdradig, al zijn de verhalen die gebaseerd zijn op persoonlijke gebeurtenissen goed opgeschreven, zoals een journalist betaamt.