ChatGPT kan goed papegaaien

Tot zijn eigen verbazing werd Arnoud Kuijpers, docent Nederlands aan het Coornhert Gymnasium in Gouda, bron van onderzoek naar ChatGPT. Proefkonijn eigenlijk: “Mijn leerlingen moesten een beschouwing inleveren, een tekst met als doel de lezer te laten denken. Een van de leerlingen schrijft voor de website scholieren.com en had met de redactie het plan bedacht om zijn opdracht door ChatGPT te laten maken. Om eens te testen hoe goed het werkt.” De leerling voerde de eisen voor de tekst aan de AI-tool en kreeg daarop in luttele seconden een automatisch gegenereerde beschouwing terug. “Ik heb ‘m een 8,3 gegeven.”

Een dikke voldoende dus. Maar een simpele druk op de knop was dat niet. De leerling heeft er zelf een aantal citaten bij gezocht en handmatig meerdere alinea’s herschreven. Hij heeft er uiteindelijk dus toch nog wat tijd in gestopt. Dat is misschien ook wel de manier waarop het onderwijs hiermee om moet gaan, denkt Kuijpers. “Ik denk dat we het niet moeten verbieden. Het lijkt me beter om leerlingen te leren hoe ze het kunnen gebruiken, zodat hun schrijfopdrachten beter worden. Sommige docenten willen terug naar handgeschreven opdrachten. Dat zie ik niet als de juiste manier.”

Lees hier meer over de techniek achter ChatGPT:

Vijf vragen over ChatGPT

ChatGPT is zo geprogrammeerd dat het geen discriminerende of racistische uitingen mag doen. Ondanks die beperkingen ligt daar volgens Fernández nog wel een probleem. De taalrobot ziet die gevoeligheid zelf namelijk niet – het blijft een machine. “Als je het bijvoorbeeld vraagt om een programma te schrijven dat sollicitanten selecteert op basis van etniciteit of gender, dan doet het dat.” Daar komt bij dat teksten van ChatGPT klinken alsof het de onweerlegbare waarheid is. “De teksten die het formuleert zijn zo overtuigend, zo menselijk, dat mensen mogelijk snel geloven wat er staat.”

Dat gevaar is vergelijkbaar met andere online toepassingen. Mensen laten zich immers altijd al van alles wijs maken op het internet. “Het verschil is dat je niet ziet wat de bron is.” Als je zelf iets vindt op een website, kan je in elk geval zelf beoordelen of het betrouwbaar is. Fernández: “Het is een grote beperking dat ChatGPT zijn bronnen niet vrijgeeft en dat de ontwikkelaars de techniek erachter niet vrij geven.”

Morele risico’s

Volgens cognitie-filosoof Anco Peeters (Radboud Universiteit) is ChatGPT nu vooral zo populair omdat het AI toegankelijk maakt. Iedereen kan ermee praten en zijn eigen ding doen. Dat kan impact hebben op ons werk, zoals e-mail, streepjescodes en zoekmachines ons werk ook hebben veranderd. Misschien verdwijnen er zelfs schrijvende beroepen door de komst van ChatGPT en zijn opvolgers. “Maar hoe erg is dat? Er zijn mensen die nu handmatig de beschrijvingen maken van winkelartikelen op webshops. Dat soort beroepen worden misschien wel overbodig.”

Bij de meer inhoudelijke schrijvende beroepen zal het zo’n vaart niet lopen, denkt hij. Bij het schrijven van een goede roman, filmscenario, wetenschappelijk of journalistiek artikel komt immers meer kijken dan het opdreunen van woorden. “ChatGPT kan goed papegaaien, zoals een collega het mooi uitdrukte. Het voorspelt welk antwoord jij zou willen horen, het begrijpt niet echt. Als je vraagt naar een verband tussen twee gebeurtenissen, dan zoekt hij dat verband, waar of niet waar. Hij kan goed verzinnen, en dat heel overtuigend brengen. Dat is een paradox, want je moet wel een expert zijn om te weten of het klopt.”

ChatGPT kan bovendien bepaalde machtsverhoudingen versterken, zo waarschuwt hij. “De traditionele verhouding tussen mannen en vrouwen, arm en rijk, dat spuugt hij nu gewoon in zijn teksten uit. Bovendien is deze techniek typisch iets waar mensen die makkelijk toegang hebben tot nieuwe technieken voordeel uit halen. Met een slechte internetverbinding – in ontwikkelingslanden bijvoorbeeld – kan je er minder mee.”

Van rekenmachine tot schrijfmachine

Docent Kuijpers vergelijkt ChatGPT in het onderwijs met de rekenmachine: in het begin verboden, nu verplicht. “Er valt veel af te dingen op de kwaliteit van de teksten die ChatGPT maakt, maar dat is niet zo relevant. Dit gaat natuurlijk alleen maar beter worden. We kunnen deze teksten ook niet checken op plagiaat, daar zijn ze te uniek voor.”

Daarom is het volgens de docent beter om het te accepteren en te omarmen, zoals rekenmachines, Wikipedia en internet in het algemeen. Want in zekere zin is het grootste risico van ChatGPT vergelijkbaar met de risico’s van internet. “Het past bij het bredere gevaar van onbetrouwbaarheid van het internet. ChatGPT kan ook onzin uitkramen en complotten verzinnen. Maar het klinkt vaak wel betrouwbaar. We moeten een goede manier vinden om hier in het onderwijs mee om te gaan.”