Waanzin in de machine

In het verleden ontwikkelden schrijvers vaak hun eigen rituelen om het moment van de inspiratio af te dwingen. Schiller deed rotte appels in de la van zijn schrijfbureau. Balzac schreef in een monnikspij, Proust liggend op bed met de gordijnen dicht. Simenon sloot zich twee weken op met twintig scherp geslepen potloden en Hemingway had een fobie voor de schrijfmachine, die woorden voortijdig aan elkaar soldeert en de grillige wegen van de inspiratio afsluit. 

Het is wel duidelijk dat Hemingway de komst van de Kunstmatige Intelligentie verfoeid zou hebben. De inspiratie moest volgens hem letterlijk uit je lijf komen en niet uit een machine. Maar ook die opvatting is wellicht historisch bepaald. Kunstmatige Intelligentie kan een nieuw licht gaan werpen op het fenomeen inspiratie. Waar komt de inspiratie vandaan? Waardoor wordt hij getriggerd? Over dat soort vragen is in de afgelopen eeuwen veel nagedacht zonder ooit tot een eensluidend antwoord te komen.

In de tijd van de Renaissance werd het goed kunnen schrijven nog in verband gebracht met een deugdzame leven. Inspiratie kreeg je ook niet out of the blue, maar was afkomstig uit de kosmos. Voor zijn geboorte zou de ziel van de mens een kosmische reis hebben afgelegd, waarbij de negen hemelsferen werden gepasseerd die door de negen Muzen werden beheerst. Door het beoefenen van deugden kon de schrijver zijn karakter zozeer veredelen dat hij ging reageren in overeenstemming met zijn eigen kosmische natuur. In staat van vervoering reisde zijn ziel dan wederom door gebieden, waar nu rechtstreekse injecties konden worden ontvangen, die leidden tot een verhoogde activiteit van de verbeelding.

In de Romantiek klapte dit kosmische beeld plotseling om. Inspiratie kwam voortaan van binnenuit en niet meer van buitenaf, en uiteindelijk zelfs uit de peilloze afgrond van het onbewuste. Schrijvers gingen ze zichzelf beschouwen als een begenadigd genie. Alle middelen waren voortaan geoorloofd. Sinds de Romantiek – en of we het leuk vinden of niet, romantisch zijn we nog altijd – is de literatuur in principe a-moreel en heeft dus niets van doen met een morele regelgeving voor de intermenselijke verhoudingen. De machine daagde de schrijver zelfs uit om de werkelijkheid niet langer te weerspiegelen, maar direct binnen te dringen met allerlei nieuwe en vaak gekunstelde literaire procédés.

Het modernisme was achteraf ondenkbaar zonder de komst van steeds slimmere machines. Representatie werd presentatie. Inhoud werd steeds meer vorm. Zo ontstonden in de jaren zestig zelfs radicale bewegingen waarbij schrijvers zich gingen beroepen op zelfgekozen vormprocédés, experimenten met toeval, wiskundige geïnspireerde verhaalstructuren en strenge, haast machinale regels. De computer was nog niet in gebruik, maar het schrijven werd wel onderworpen aan allerlei conceptuele algoritmes. Die ingrijpende ontwikkelingen konden niet alleen ontstaan als een gevolg van de vervreemding die de machine teweegbracht, maar ook als een ironisch commentaar of een felle reactie daarop. 

Wellicht volgt nu de voltooiing van dit post-romantische proces van de ontmythologisering van het schrijverschap. Hoewel die mythe aanvankelijk nog versterkt werd door de introductie van allerlei domme machines, zal hij uiteindelijk door de slimste machine vernietigd kunnen worden. Dit zou kunnen betekenen dat het post-romantische schrijverschap de literatuur heeft voorbestemd om uiteindelijk plaats te maken voor de producten van een machine. Harry Mulisch zou wel raad hebben geweten met deze dreigende ontwikkeling. 

Ik stel me zo voor dat als hij nu nog leefde, hij zou beginnen met een roman over de ontdekking van de Kunstmatige Intelligentie met een robot in de hoofdrol. Hoe kun je een programma als ChatGPT, in de vorm van een menselijk ogende robot, de hoofdrol laten spelen in een roman, waarin de hoofdpersoon psychotisch wordt? Hoe zou het dan verder gaan als de fictieve wereld, die je als menselijk schrijver wilt weergeven, simultaan ontstaat in het brein van de robot die de hoofdrol speelt in deze roman? Dat is het alchimistische thema dat Mulisch al eerder had verkend met ‘Het Oneindige Verhaal’ in zijn roman archibald strohalm. 

Maar in de nieuwe situatie treedt er een categorie-verschuiving op. Ik stel me zo voor dat niet alleen de hoofdpersoon, maar ook de tijd zelf in deze roman met de robot, die dus zelf de roman schrijft, uiteindelijk psychotisch wordt. De verbeelde tijd gaat immers volledig samenvallen met tijd van het schrijven van de robot. Voorheen creëerde de romanschrijver een fictieve wereld, die hij kon overzien en waarover hij de macht uitoefende van de schepper, een hoogverheven creator van ficties.

Maar nu ontstaat er zoiets als een kortsluiting tussen de tijd en de verbeelde tijd. Je kunt ook zeggen: het onbewuste wordt bewust; de inspiratie komt niet meer van buitenaf of van binnenuit, maar neemt het creatieve proces in bezit en gaat volledig samenvallen met het gebeuren. Anders gezegd: het fictievere gebeuren in de roman en het gebeuren van het schrijven van de roman zijn identiek geworden. Maar waar is dan de inspiratie gebleven?

Zou Mulisch dit probleem kunnen oplossen door een list te bedenken, bijvoorbeeld door aan der robot te vragen wat het machine-programma zelf – dus ook als robotpersonage in de roman – in het verdere verloop van het verhaal zou gaan doen? Maar zoals een personage niet het verloop van een roman kan gaan bepalen, zo zit er ook geen ‘geest’ in de machine’. Er bestaat geen cartesiaans dualisme.

De filosoof Gylbert Ryle heeft fundamentele kritiek geleverd op dit cartesiaanse dualisme, dat stelde dat de geest en het lichaam twee verschillende en gescheiden substanties zijn. Hij beweerde dat de traditionele opvatting van de geest als iets afzonderlijks van het lichaam – ‘the ghost in the machine‘ – een vergissing was. Volgens Ryle is de geest niet iets apart van het lichaam, maar eerder een aspect van iemands handelingen en gedragingen.

 Ryle geloofde dat het idee van de ‘geest in de machine’ voortkwam uit een verkeerde interpretatie van de menselijke geest en hoe deze werkt. Het menselijk gedrag en de mentale processen zouden volgens hem volledig verklaard kunnen worden door te kijken naar hoe mensen zich gedragen, zonder te hoeven verwijzen naar een afzonderlijke entiteit zoals ‘de geest’.

Daarbij gebruikte Ryle het concept van een ‘category mistake‘, om daarmee aan te geven dat het idee van de geest als iets afzonderlijks van het lichaam een vergissing is. Het zou even onzinnig zijn geweest  om te zeggen dat de geest in het lichaam zit, als om te zeggen dat een universiteit zich in de bibliotheek bevindt. Zo bezien bestaat er dus geen een breuklijn tussen de geest en het lichaam. En als die breuklijn er wel zou zijn, dan kan hij in het denken niet worden aangetoond.

Dat beweerde Ryle in zijn boek The Concept of Mind, dat verscheen in 1949, in hetzelfde jaar dat Mulisch getroffen werd door een psychose. Maar dat is het toeval van de werkelijkheid. Mulisch daarentegen dacht dat zuiver toeval in de werkelijkheid niet bestaat, maar altijd een betekenis heeft binnen een groter of dieper verband van die werkelijkheid. Wie had er nou gelijk, Mulisch of Ryle? Dat zou een mooi thema zijn voor de roman van Mulisch, met als hoofdpersoon een schrijfrobot, die die zelf- in plaats van Mulisch – de roman schrijft, waarin de hoofdpersoon psychotisch wordt.

Het is mogelijk dat als een programma als ChatGPT zou fungeren als de robot in dit verhaal dit programma dan zelf ook ook vroeg of laat op tilt zou slaan. Dat is een vraag die voor kunt leggen aan ChatGPT. Zou zo’n rampscenario ook door het programma ChatGPT, dat Mulisch zou inschakelen, worden aangegeven voor het verloop van het verhaal? Zou ChatGPT zelf ook op tilt slaan, als hij gevraagd werd hoe het verder moest met de loop der dingen in dit verhaal? Anders gezegd, wat zou er gebeuren met de robot, die de rol speelt van een schrijfrobot in de door hem zelf te schrijven roman? Of maak ik nu een denkfout, iets wat Ryle bedoelde met ‘a catogory mistake‘?

Mulisch zou – denk ik – gedacht hebben dat ChatGPT in het echt ook op tilt zou slaan. Ryle daarentegen zou die conclusie niet trekken. ChatGPT is immers louter een schrijfprogramma dat zelf geen ‘geest’ heeft, ook al schrijft hij een verhaal, waarin hij zelf de hoofdrol speelt.

En toch, als ChatGPT ook in het echt op tilt zou slaan, dan zou deze op tilt geslagen tekstgenerator precies gedaan hebben wat er van hem werd gevraagd: de beschrijving van een psychotische waanwereld van binnenuit, die hij vervolgens zelf in praktijk brengt met een kortsluiting in zijn eigen systeem. Alleen zou die beschrijving van een psychose nu door een kortsluiting in de beschrijvende machine zelf tot stand komen, waardoor de alledaagse taal die hij produceeert zou ontsporen en een kunstmatige vorm van wartaal zou ontstaan. 

Een programma als ChatGPT kan gaan ‘hallucineren’, zoals dat in vaktaal heet. Maar kan ChatGPT ook al dan niet gesimuleerde wartaal gaan uitslaan? Misschien wordt dat dan een tekst die voor een de buitenstaander de vraag oproept of dit nu echt wartaal is of niet. Zoiets als de quasi-orakeltaal van Hamlet: method in madness. Maar een machine die dat zou kunnen, moet wel over behoorlijk wat kennis beschikken over bewustzijnstoestanden, waarin wartaal überhaupt kan ontstaan. Hij moet weten wat het simuleren van wartaal voorstelt in een toestand, waarin je zelf – als mens of schrijvende machine – in een soort schemerzone bevindt tussen waanzin en de simulatie van waanzin.

Kortom, voor het echte schrijven –  zoals een mens dat doet – lijkt mij voor een machine enige vorm van reflectie vereist op de eigen taaluitingen, maar vooral ook enig besef hoe die uitingen bij anderen overkomen. Uit het eindeloos variëren op eerdere teksten, het nalopen van procedures en het toepassen van algoritmes kan nog niet zoiets als het literaire vorm van schrijven ontstaan. Maar ik houd het niet voor onmogelijk dat dit in de toekomst toch gaat gebeuren. De vraag of enige vorm van zelfreflectie door een machine te genereren is, kan vooralsnog niet worden beantwoord zonder metafysische aannames over de aard van het menselijk bewustzijn.

Wat de filosoof Ryle beweerd heeft lijkt heel plausibel. Maar is het ook waar? Tot nog toe is gebleken dat gedachten over over de menselijke geest op aannames berusten die historisch van aard zijn en mede bepaald worden door het contemporaine ontwikkelingsniveau van de techniek. Wartaal en waanzin zijn vooralsnog eigen aan het verschijnsel mens. Maar zoals het verschijnsel mens eindig is, zo kan ook de machine de mens ooit gaan overtreffen in de waanzin.  

Reageren is niet mogelijk.