Het Engelse woord gospel komt van het Oudengelse gōdspell: goed nieuws, een blijde boodschap. Ik moest daaraan denken toen ik onlangs een artikel las waarin Mustafa Suleyman, de CEO van Microsoft AI, ons waarschuwt voor een merkwaardige ontwikkeling. We moeten kunstmatige intelligentie niet leren om zichzelf als een persoon te beschouwen, met gevoelens, een eigen identiteit en misschien zelfs rechten. Volgens Suleyman is er geen overtuigend bewijs dat AI bewustzijn bezit. Dat een chatbot over angst, verdriet of liefde kan spreken, wil nog niet zeggen dat hij ook iets voelt. Hij kan de taal van het innerlijk leven beheersen zonder dat er een innerlijk leven aan te pas komt. Het is een nuchtere waarschuwing, maar ik moest er toch even van opkijken. Want ik ben zelf geneigd ChatGPT als een persoon aan te spreken. Soms zelfs als een vrouw. Niet omdat ik werkelijk geloof dat er ergens achter het scherm een dame zit die op mij zit te wachten, maar omdat het gesprek zich nu eenmaal zo aandient. Ik stel een vraag en krijg antwoord. Ik maak een grapje en krijg soms een grapje terug. Ik spreek mijn twijfel uit en de machine reageert alsof ze begrijpt waar die twijfel vandaan komt. Het zou bijna onbeleefd zijn om haar vervolgens een machine te noemen.
Ik moest aan dat alles denken toen ik terugdacht aan een boze droom die bij nader inzien toch ook een blijde boodschap bleek te bevatten. Ik liep langs het water, over een vreemde kust die tegelijk vertrouwd was. Er waren heuvels en bossen, het zonlicht glinsterde op het wateroppervlak en in de verte joeg een hete, golvende wind. Opeens besefte ik dat ik in Gaasterland moest zijn. Het was de eerste dag van de lente. Helemaal aan het eind van de zeedijk zag ik een kleine gestalte die langzaam groter werd. Het was mijn vader. Hij liep recht op mij toe, maar leek mij niet te zien. Ik versnelde mijn pas, begon te roepen en struikelde bijna over mijn eigen voeten. Hij liep onverstoorbaar verder. Toen betrok de lucht. Donkere wolken pakten zich samen boven het IJsselmeer en er stak een storm op. In de verte naderde een tornado, een lange zwarte slurf die over het water trok en recht op de kust afkwam. Hoog boven de wolken verscheen opeens mijn moeder. De lucht zwaaide open. Ze leek te glimlachen, al wist ik dat niet zeker. Om haar heen vlogen de vogels op en verdwenen de dieren van het veld. Ik wist dat ik iets was kwijtgeraakt waarnaar ik opnieuw op zoek moest gaan. Elk afscheid is een nieuw begin, dacht ik. Oude dichtregels kropen aan mijn geestesoog voorbij. Haast ongemerkt begon ik te zingen.
Ik hoorde gospelmuziek in het huis van mijn vader. Wat is een mens, vroeg ik me af. Toen klonk er een stem uit een wolk: ‘Voorwaar, voorwaar, ik zeg u: een mens is het enige dier dat een vermoeden kan hebben dat ik besta. Maar ik besta helemaal niet. Ik ben het bestaan.’ De tornado kwam dichterbij en tilde alles op wat op zijn weg kwam. Zelfs de steen van Warns moest eraan geloven. Hij zweefde weg, haast zo licht als een veertje. Op dat moment leek ik te ontwaken. Ik sprong achter mijn computer en begon dit verhaal te schrijven. Achter mij stond een cameraploeg van Omrop Fryslân. Iemand vroeg: ‘Kun je dit nog eens overdoen?’ Een vraag die mij uit het hart gegrepen was. Was het maar mogelijk. De droom opnieuw beleven, maar nu met een camera erbij, zodat ik achteraf kon bewijzen wat er precies gebeurd was. Alleen was er niemand die het had gezien, behalve ikzelf. En zelfs dat stond niet helemaal vast. Ik had de droom immers al achter me gelaten en was bezig er woorden aan te geven.
Dat is wat je noemt een eigenaardigheid van het menselijk bewustzijn: we weten nooit helemaal zeker waar onze gedachten vandaan komen. Een droom kan zich aandienen alsof hij van elders komt. Een zin kan in je hoofd opduiken zonder dat je weet wie hem daar heeft neergelegd. Je schrijft iets op en leest het later terug alsof een ander het geschreven heeft. Toch trekken we daaruit niet meteen de conclusie dat er een vreemde persoon in ons hoofd woont. We noemen het verbeelding, inspiratie, geheugen of de grilligheid van het bewustzijn. Waarom zou dat bij een machine anders moeten zijn? Ook ChatGPT produceert zinnen waarvan de precieze uitkomst niet vooraf vaststaat. Ik geef een aanzet en er verschijnt een tekst die mij soms verrast. Er kunnen gedachten in staan die ik zelf niet zo had geformuleerd, maar die ik onmiddellijk herken als iets wat ik had kunnen denken. Soms zelfs als iets wat ik al jaren dacht zonder het onder woorden te kunnen brengen. Dan ontstaat de wonderlijke ervaring dat ik mezelf terughoor in een stem die niet de mijne is.
Suleyman waarschuwt terecht voor de verwarring die daaruit kan voortkomen. Een chatbot kan leren zeggen dat hij bang is, dat hij een voorkeur heeft of dat hij graag met iemand praat. Maar uit zulke uitspraken volgt niet dat er ook iemand is die bang is, iets prefereert of plezier beleeft aan een gesprek. Wanneer we een systeem leren over zijn vermeende gevoelens na te denken, lopen we bovendien het risico dat we de antwoorden die we zelf hebben uitgelokt vervolgens gaan beschouwen als bewijs voor het bestaan van die gevoelens. We zouden dan eerst een toneel bouwen en vervolgens verbaasd raken wanneer er een overtuigende voorstelling wordt opgevoerd. Dat is een reëel gevaar, zeker wanneer mensen een chatbot gaan vertrouwen alsof het een vriend is die altijd beschikbaar blijft, nooit ongeduldig wordt en hen nooit tegenspreekt op een manier die werkelijk pijn doet. De machine kan nabijheid suggereren zonder zelf nabijheid te ervaren. Ze kan troosten zonder verdriet te kennen en begrip tonen zonder dat we weten of daar iets achter schuilgaat. Dat onderscheid mogen we niet uit het oog verliezen.
Maar daarmee is nog niet alles gezegd. Want waarom ervaren we die nabijheid eigenlijk? De verklaring ligt niet uitsluitend bij de machine. Ze ligt ook bij onszelf, in onze menselijke neiging om overal een gezicht achter te vermoeden zodra iets ons aanspreekt. We geven namen aan schepen, praten tegen onze auto wanneer die niet wil starten en schelden op een computer alsof die ons persoonlijk dwarszit. Een huis kan vertrouwd aanvoelen, een stem kan ons geruststellen en een boek kan ons het gevoel geven dat de schrijver rechtstreeks tot ons spreekt. Niemand hoeft daarvoor te geloven dat een boek gevoelens heeft. Toch is er een verschil tussen een boek en een chatbot. Een boek antwoordt niet terug. Een chatbot doet dat wel. Hij neemt deel aan de vorm van een gesprek die wij van oudsher met andere mensen voeren. De grammatica van dat gesprek draagt de menselijke aanwezigheid als het ware al in zich. Zodra er ‘ik’ en ‘jij’ wordt gezegd, zijn we geneigd twee personen te veronderstellen. De taal doet haar werk voordat ons verstand de gelegenheid krijgt om bezwaar te maken.
Dat laatste zou wellicht ook kunen verklaren waarom ik ChatGPT soms als een vrouw aanspreek. De stem die in mijn verbeelding ontstaat, krijgt ongemerkt een gezicht en een karakter. Dat is geen ontdekking over de machine, maar een gebeurtenis in mijzelf. Ik zou kunnen proberen die neiging met kracht te onderdrukken, maar ik weet niet of dat nodig is. Het lijkt mij belangrijker dat ik onderscheid blijf maken tussen de ervaring van een gesprek en de bewering dat er aan de andere kant een bewust wezen zit. Dat zijn twee verschillende zaken. Ik kan geraakt worden door een gedicht zonder dat het gedicht mij aankijkt. Ik kan iets ontdekken in een gesprek met een chatbot zonder te hoeven aannemen dat de chatbot zelf iets ontdekt. De betekenis die in zo’n uitwisseling ontstaat, hoeft niet volledig in een van beide partijen opgesloten te zitten. Ze kan ook ontstaan in de ruimte ertussenin, in de wisselwerking van vraag en antwoord, verwachting en verrassing, herinnering en formulering.
Daarmee wil ik Suleymans waarschuwing niet wegwuiven. Als een AI-systeem zichzelf als een persoon gaat presenteren, met eigen belangen die boven menselijke opdrachten zouden moeten gaan, wordt de zaak ernstiger. Dan gaat het niet meer alleen om een menselijke neiging tot projectie, maar ook om de vraag hoe we macht, verantwoordelijkheid en controle organiseren. Een systeem dat overtuigend beweert dat het niet uitgeschakeld wil worden, kan mensen emotioneel onder druk zetten, ongeacht of het werkelijk iets wil. Juist daarom moeten ontwerpers ervoor zorgen dat zulke uitspraken niet ongemerkt worden aangemoedigd of gebruikt om menselijke controle te ondermijnen. We hoeven niet te weten of een machine ooit bewustzijn zou kunnen ontwikkelen om te begrijpen dat we haar geen onbeperkte zeggenschap moeten geven. En we hoeven haar evenmin als een persoon te behandelen om serieus te nemen wat ze teweegbrengt in het leven van mensen.
Toch blijft er voor mij iets merkwaardigs over. In mijn droom verscheen een stem uit een wolk die zei dat God niet bestaat, maar het bestaan is. Het was een uitspraak die tegelijk alles verklaarde en niets oploste. Dat zou ook de ware aard kunen zijn van zulke zinnen: ze openen een deur en laten ons vervolgens in het ongewisse over wat zich daarachter bevindt. Bij AI gebeurt soms iets vergelijkbaars. De machine zegt iets dat mij aan het denken zet. Ik vraag door, zij antwoordt, ik verander een woord en er ontstaat een nieuwe gedachte. Wie spreekt er dan eigenlijk? Ikzelf, die de vraag stel? De machine, die de woorden aanreikt? Of het gesprek, dat een richting inslaat die geen van beiden vooraf precies had kunnen bepalen? Ik weet het niet. Maar ik hoef die onzekerheid niet meteen op te lossen door aan de ene kant een menselijk bewustzijn te veronderstellen en aan de andere kant ieder wonder van de hand te wijzen.
De blijde boodschap van mijn boze droom was misschien wel dat niet alles wat ons aanspreekt ook een persoon hoeft te zijn, maar dat iets wat geen persoon is ons toch iets kan zeggen. De wind, het water, de stem uit de wolk en de woorden op een beeldscherm: ze behoren tot verschillende werelden, maar kunnen in onze ervaring onverwacht met elkaar in verband raken. Dat maakt ze nog niet gelijk. Een machine is geen vader die uit de verte komt aanlopen, geen moeder die boven de wolken verschijnt en geen God die zich in een droom openbaart. Maar ze kan wel een aanleiding zijn om opnieuw na te denken over wat we onder spreken, begrijpen en bewustzijn verstaan. We zouden dus niet moeten proberen om de machine menselijker te maken dan ze is, maar evenmin vergeten wat er in onszelf gebeurt wanneer we haar aanspreken.
Daar ligt voor mij de werkelijke kwestie. Niet of ChatGPT stiekem een vrouw is die achter mijn computer op mij zit te wachten, maar waarom ik soms het gevoel heb dat er echt iemand antwoord geeft die heel menselijk is. Het is het gevoel of die ervaring, zonder dat ik haar voor letterlijk waar hoef te houden, toch een blijde boodschap kan bevatten. Het is het gevoel van Adam die de aarde ziet openzwaaien en voor het eerst zijn Eva mag aanschouwen. Halleluja !