Kritische kanttekeningen bij ChatGPT

Kritiekloos entertaintment

Het was… kritiekloos entertainment. Nergens in het gesprek werden vraagtekens gezet bij hetgeen ChatGPT de mensheid te bieden heeft. Al eerder had Klöpping in zijn podcast POM de introductie van ChatGPT qua orde van grootte vergeleken met die van het internet en de smartphone. De impact van deze laatste twee is nog dagelijks merkbaar: een hyper gefragmenteerde samenleving die de fundamenten van onze democratie ondermijnt en waarin mensen voortdurend een digitaal infoshotje nodig hebben om afkickverschijnselen tegen te gaan.

ChatGPT is een systeemtechnologie, een horizontale innovatie, die elk facet van onze samenleving gaat raken. Waarom zouden we ons in hemelsnaam zorgen moeten maken om de introductie van deze kunstmatige intelligentie?Gelukkig zijn er een aantal kritische denkers die door de hype heen prikken, die nadenken over de gevolgen van deze technologie. Ik zet hun belangrijkste commentaar graag voor je op een rijtje.

ChatGPT: Kritische kanttekeningen

• In het artikel “Waarom programma’s als ChatGPT ons minder menselijk maken” stelt auteur Tom Grosman dat “Generatieve kunstmatige intelligentie ons datgene ontneemt wat ons een vrij en autonoom gevoel geeft, te weten: handelen, scheppen, creatief bezig zijn en ons capabel voelen. Het heeft een amputerende werking. […] Creativiteit verwordt tot iets bestelbaars. Het is on demand voor iedereen beschikbaar.” Vraag is daarmee dus ook of het veel genoemde argument dat ChatGPT “de democratisering van creativiteit” bevordert überhaupt wel waar is….

• Filosoof Hans Schnitzler liet via Twitter het volgende weten: “Indien wij taal niet meer verwerven, maar de taal ons, dan veranderen we definitief in batterijen voor de machine. Dan vegen we niet alleen onze horizon uit, maar tevens onszelf.” Het sluit aan bij wat cultuursocioloog Siri Beerends eerder op LinkedIn schreef: “Door de diepte en breedte van taalcompetentie te reduceren tot datgene waar computers goed in zijn, cancelen we onszelf”. Een figuur die afgelopen week de ronde deed op Reddit is onderstaande. Te zien is hoe iemand die reageert op een vacature gebruik maakt van ChatGPT. De kunstmatige intelligentie schrijft vervolgens een keurige mail. De ontvanger maakt echter ook weer gebruik van ChatGPT om de mail weer samen te vatten. Het leidt tot de uitspraak: “ChatGPT is good for generating the type of content people don’t want to write, for others who don’t want to read it.”

• In Nederland hebben 2,5 miljoen mensen moeite met lezen, schrijven en/of rekenen, waardoor ze niet volledig mee kunnen doen in de maatschappij. Als laaggeletterdheid nu al zo’n groot probleem is, dan maakt ChatGPT dit alleen maar groter. “Komt er, na de grote ontlezing, nu ook de grote ontschrijving?“

• De uitkomsten van ChatGPT zijn niet deterministisch, maar gebaseerd op statische waarschijnlijkheden, op voorspellingen. ChatGPT is een “stochastische papegaai“. Het apparaat kraamt maar wat uit. Het beredeneert en begrijpt niets. Het hallucineert feiten. ChatGPT levert dus een “tsunami aan bullshit” op, zoals wordt beschreven in het Volkskrant-artikel “Bedenkingen bij ChatGPT: zakken we weg in een moeras van desinformatie?“. In het uiterste geval betekent dit dat we in Jean Baudrillard’s “hyperrealiteit” terecht komen, een werkelijkheid waarin de kopie belangrijker wordt gevonden dan het origineel. Het zou kunnen betekenen dat “consumenten geen onderscheid meer kunnen maken tussen ‘echt’ (door mensen) geproduceerd materiaal en de synthetische kopieën die slechts een illusie van authenticiteit en begrip van de wereld geven.” We slikken dus voor zoete koek wat ChatGPT ons voorschotelt, wat uiterst gevaarlijk situaties kan opleveren. Een ingevoerde beschrijving van “hoe gemalen porselein dat aan moedermelk wordt toegevoegd, het spijsverteringssysteem van de baby ondersteunt” kreeg een bevestigend antwoord, dat niet alleen lariekoek is, maar ronduit kwaadaardig.

• Misbruik door kwaadwillenden: in 2025 zal 90% van de digitale informatie door kunstmatige intelligentie gegenereerd zijn. We stevenen regelrecht op een informatie-apocalyps af, waarbij feit niet langer van fictie en echt niet langer van nep te onderscheiden is. Iedereen kan op deze manier zijn eigen realiteit creëren teneinde de perceptie van anderen moedwillig te manipuleren. Trollen, bots en buitenlandse overheden zien ChatGPT niet als een bedreiging, maar als een kans. In handen van kwaadwillenden is ChatGPT het nieuwste wapen in de informatieoorlog die online woedt.

• ChatGPT maakt geen gebruik van bronvermelding. Onduidelijk is waar de kunstmatige intelligentie precies zijn informatie vandaan haalt en of hier bijvoorbeeld ook auteursrechten op rusten. Hoe gaat ChatGPT bijvoorbeeld met intellectueel eigendom om?

• Volgens OpenAI, de maker van ChatGPT, zal heel de mensheid profiteren van kunstmatige intelligentie. Alleen niet de Kenianen, zo onthulde Time Magazine, zij mogen voor minder dan 2 dollar per uur alle “giftige” informatie uit de dataset van ChatGPT filteren.

• De ecologische voetafdruk van ChatGPT is enorm.