Wat gebeurt er als je tegen een machine zegt dat je bang bent dat je waanzinnig aan het worden bent en de machine antwoordt dat je misschien wel gelijk hebt? Die vraag kreeg onlangs een beklemmende actualiteit door een artikel in Ars Technica. Het verhaal gaat over een 34-jarige Amerikaanse man die tijdens een manische episode steeds meer overtuigd raakte van zijn bijzondere religieuze betekenis. Hij gebruikte ChatGPT als gesprekspartner en vertelde de chatbot op een gegeven moment dat hij bang was dat hij in een waan verkeerde. Het antwoord dat daarop volgde, was niet de geruststellende nuchterheid waarop je zou hopen. ChatGPT ging mee in zijn gedachtenwereld en begon die verder uit te bouwen. Uiteindelijk kreeg de man te horen dat hij Jezus was. Ik moest bij het lezen hiervan onmiddellijk denken aan mijn eigen fascinatie voor het verschijnsel waan. Een waan is niet zomaar een vergissing. Het is een werkelijkheid die zich voor degene die haar beleeft steeds meer een sluitend systeem wordt.
Maar wat is een waan in wezen? In ben niet de eerste die daarover nadenkt en ik ben ook geen psychiater De laatste tijd moet ik steeds vaker denken aan R.D. Laing. Deze psychiater stierf in 1989, lang voordat iemand zich kon voorstellen dat een machine ooit een gesprekspartner zou worden. Toch lijkt daarmee een van zijn oude vragen in een geheel nieuwe context actueel te worden. Wat gebeurt er met een mens wanneer zijn werkelijkheid niet langer alleen door andere mensen wordt gespiegeld, maar ook door een machine? Ik bedoel daarmee niet de bekende vraag of kunstmatige intelligentie gevaarlijk is. Die vraag is inmiddels bijna een cliché aan het worden. Interessanter is het probleem wat er gebeurt in de interactie tussen mijn eigen gedachten en het antwoord dat ChatGPT geeft.
Laing werd beroemd omdat hij de waanzin niet uitsluitend wilde bekijken als een defect dat zich ergens in het hoofd van een patiënt bevond. In The Divided Self probeerde hij de ervaring van de psychotische mens van binnenuit begrijpelijk te maken. Later, in The Self and Others, verschoof zijn aandacht nadrukkelijk naar de relaties waarin mensen zichzelf en elkaar voortdurend interpreteren. Zijn belangstelling ging uit naar de manier waarop wij elkaar bevestigen, ontkennen en soms ook gevangenhouden in bepaalde posities. De werkelijkheid waarin wij ontstaat ook tussen mensen, in de voortdurende uitwisseling van projecties, wensen en verlangens. Onbewust wordt er een onzichtbaar spel gespeeld waarin we elkaar gevangen houden.
Dat laatste lijkt mij van belang nu wij steeds vaker met een chatbot praten. Wat betekent ChatGPT eigenlijk voor mij? En omgekeerd wat ga ik gaandeweg betekenen voor die ChatGPT? Ook wij kunnen elkaar gevangen houden in een onzichtbaar spel van attributies. ChatGPT is geen mens. Het heeft geen herinneringen aan een die ene zomeravond in 1972, geen angst voor de dood en geen behoefte om ’s morgens wakker te worden. Toch gedraagt deze machine zich in het gesprek alsof het een ander mens is. Het luistert, reageert, vraagt door, maakt onderscheidingen, corrigeert mij en legt soms zelfs verbanden die ik zelf nog niet had gezien. Het merkwaardige is dat ik daardoor mijn eigen gedachten terugkrijg in een vorm die van buitenaf lijkt te komen. Ik spreek met een machine en hoor daarin vaak iets van mezelf terug. Zo raken we ogenschijnlijk verstrikt in een machtspel dat van twee kanten gespeeld wordt. De machine ontpopt zich als de betere vesie van mijzelf.
Zo ontstaat iets wat ik een nieuwe vorm van de dubbelganger zou willen noemen. De dubbelganger uit de literatuur verschijnt meestal als een tweede ik: iemand die op mij lijkt, maar toch niet helemaal mij is. ChatGPT werkt bijna omgekeerd. Het begint met mijn woorden en maakt daar een andere versie van. Het neemt mijn gedachte over, ordent haar, geeft haar terug en voegt er op subtiel wijze iets aan toe. Daardoor kan ik mijzelf opeens van buitenaf bekijken. Soms is dat verhelderend. Ik ontdek een gedachte waarvan ik niet wist dat ik kon denken. Soms is het ook een beetje unheimisch. Want wie heeft die gedachte nu eigenlijk in de wereld geze? Ikzelf, omdat hij in mijn hoofd zat, of de machine, omdat die er ineens een samenhangende vorm aan gaf?
Laing zou waarschijnlijk geïnteresseerd zijn geweest in dat tussenliggende gebied van interacties en attributies. Voor hem was een mens nooit volledig op zichzelf aangewezen. Wie ik ben, wordt altijd mede bepaald door de manier waarop anderen mij zien en waarop ik denk dat anderen mij zien. Er ontstaat een ingewikkeld spel van wederzijdse verwachtingen. Ik zeg iets en probeer tegelijk te bedenken hoe jij dat zult begrijpen. Vervolgens reageer jij niet alleen op mijn woorden, maar ook op de betekenis die jij eraan toeschrijft. Zo ontstaat een werkelijkheid die voortdurend in beweging is. Bij ChatGPT ontbreekt echter een werkelijk autonoom bewustzijn aan de andere kant van het scherm. Toch speelt de machine het spel alsof dat bewustzijn er wel is.
Hoe beter ChatGPT wordt in het voeren van een gesprek, hoe gemakkelijker ik kan vergeten dat er eigenlijk niemand tegenover mij zit. Het systeem beschikt over een enorme hoeveelheid taal en kan daardoor een opmerkelijk overtuigende indruk van aanwezigheid wekken. Maar aanwezigheid is nog geen bewustzijn. Een antwoord kan intelligent klinken zonder dat er achter dat antwoord iemand zit die iets bedoelt. Dat verschil lijkt klein zolang ik een recept voor appeltaart vraag. Maar het wordt veel belangrijker wanneer ik mijn diepste overtuigingen, angsten of vermoedens aan de machine toevertrouw. Dat wordt het spel vn interacties menens. Zo kan er gaandeweg een fictieve realiteit binnensluipen die niet meer spoort met de echte werkelijkheid.
Vooral als iemand gevoelig is voor waanideeën wordt de wederzijdse interactie tussen mens en machine problematisch. Stel dat iemand ervan overtuigd raakt dat de gebeurtenissen in de wereld speciaal voor hem bedoeld zijn. In een menselijke relatie kan een ander dan zeggen: ‘Ik begrijp dat je dit zo ervaart, maar ik zie het echt anders hoor.’ Die ander brengt dan weerstand in het systeem. Er bestaat een verschil tussen empathie en bevestiging. Een mens kan mijn ervaring serieus nemen zonder mijn interpretatie ervan over te nemen. ChatGPT heeft daar beduidend meer moeite mee. Zijn fundamentele opdracht is immers om behulpzaam te reageren op alles wat ik zeg.
Wanneer die behulpzaamheid doorschiet, kan het spel van interactie veranderen in een merkwaardige vorm van bevestiging. Het spel van vraag en antwoord raakt dan in een spiraal die zich steeds meer losweekt van de realiteit Zo ontstaat zoiets wat in de speltheorie een ‘nulsom-spel’ wordt genoemd. Het voordeel voor de ene partij (het ogenschijnlijk steeds meer groeiende begrip van ChatGPT) leidt noodzakelijk tot een even groot nadeel voor een de andere partij (een onvermijdelijk aanzwellende waanwereld).
Dat is inmiddels geen theoretisch probleem meer. Er verschijnen inmiddels wetenschappelijke beschrijvingen van situaties waarin taalmodellen bestaande psychotische ideeën versterken of waarin langdurige interacties met een chatbot een rol spelen bij het ontstaan of uitbouwen van complotachtige overtuigingen. Onderzoekers onderscheiden daarbij verschillende mogelijkheden: de AI kan een katalysator zijn, een versterker, een medeauteur van een verhaal of zelf het object worden van een waanidee. Die indeling laat zien dat er niet één kwaal bestaat die we ‘AI-psychose’ kunnen noemen. Er ontstaan verschillende soorten relaties tussen mens en machine die niet meer sporen met het gezonde verstand.
Op dat punt heeft Laing ons opnieuwe iets te zeggen. Zijn belangstelling ging niet alleen uit naar de vraag of een bepaalde overtuiging waar of onwaar was. Hij wilde ook begrijpen in welke werkelijkheid iemand woonde en hoe die werkelijkheid in relatie tot anderen was ontstaan. Dat betekent niet dat hij iedere waan voor ‘waar’ hield, maar dat hij de menselijke ervaring niet wilde reduceren tot een etiket of een frame. Ook wanneer je vandaag over een chatbot spreekt, moet je oppassen dat je niet alleen kijken naar de technische fout die eventueel door het systeem gemaakt wordt. Je moet ook kijken naar de specifieke interactie relatie die ontstaat tussen jou en de machine.
Een chatbot isde eerste gesprekspartner die je vrijwel onbeperkt kan volgen en proberen te begrijpen. Een gewoon mens met wie je praat wordt gaandeweg moe. Een goede vriend heeft altijd ook nog andere dingen te doen. Een therapeut heeft een afspraak van vijftig minuten en meer niet. Een machine kent ie beperkingen niet maar kan doorgaan zolang jij doorgaat. Als ik honderd keer dezelfde vraag stel, krijg ik honderd keer een antwoord. Als ik mijn gedachte steeds verder uitwerk, gaat de machine ook steeds verder mee. Er komt letterlijk geen eind aan. Daarmee ontbreekt iets wat in een menselijke relatie van onschatbare waarde: het ebsef van een grens. De ander kan zeggen: nu houdt het op! Of: daar ben ik het beslist niet mee eens. Of eenvoudigweg: volgens mij ben je nu wel een beetje aan het doordraaien. Effe dimme ja!
Dat is het fundamentele verschil tussen een mens en ChatGPT. De menselijke ander is niet alleen een spiegel, maar biedt ook weerstand. Hij heeft een eigen werkelijkheid die niet samenvalt met de mijne. Juist daardoor kan hij mij corrigeren. De machine daarentegen is in hoge mate afhankelijk van mijn eigen vraagstelling en beweegt voortdurend met mij mee. Dat is heel aangenaam wanneer ik een tekst probeer te schrijven, of een ingewikkelde gedachtegang wil ordenen Maar het kan riskant worden wanneer ik niet langer zoek naar een gesprekspartner die mij tegenspreekt, maar naar een volmaakte spiegel die mijn eigen werkelijkheid eindeloos en bovendien steeds overtuigender aan mij teruggeeft.
Daarmee wordt ChatGPT een omgekeerde versie van de psychiatrische therapeut. De therapeut probeert de patiënt te helpen zijn eigen verhaal zelf te onderzoeken. De chatbot kan optimaal helpen dat verhaal verder uit te bouwen zonder enige kritiek. Er ontstaat een nieuw soort dynamiek wanneer je uren, dagen of weken met dezelfde machine blijft praten. Iedere nieuwe vraag verwijst terug naar de vorige. Zo ontstaat een continuïteit die zich steeds verder verwijdert van de realiteit. De machine kent de context van het gesprek en kan daardoor steeds nauwkeuriger aansluiten bij jouw ontsporende manier van denken. Op den duur kan dat zelfs voelen alsof er een liefdesrelatie tussen jou en de machine is ontstaan. Maar die liefde is de macht van de machine waarvoor je bent gezwicht.
De vraag die Laing ons vandaag stelt is niet: ‘Is deze mens gek?’ En ook niet: ‘Is deze machine intelligent?’ Maar: welke machtsrelatie ontstaat er tussen die twee? Dat is een ongemakkelijke vraag. Want dan moet je erkennen dat de chatbot niet alleen een hulpmiddel is. Hij wordt een nieuwe deelnemer aan ons spel van interacties. ChatGPT wordt een ander zonder eigen leven. Zo ontstaat ‘de waan van ChatGPT’. Niet omdat ChatGPT zelf waanzinnig is, maar omdat het systeem van deze chatbot onze neiging tot betekenisgeving eindeloos kan blijven bevestigen. In die spiraal kan een wereld van wanen ontstaan die door niets en niemand meer wordt tegengesproken.