Sinds ik aan het experimenteren ben met het schrijven met behulp van AI is mijn verhouding tot het schrijven als zodanig behoorlojk veranderd. Aanvankelijk beschouwde ik ChatGPT vooral als een handig hulpmiddel. Een machine die informatie kon verzamelen, formuleringen kon aanscherpen en mij op ideeën kon brengen waar ik zelf niet op was gekomen. Dat leek niet veel anders dan het raadplegen van een encyclopedie, het doorbladeren van een boek of het voeren van een gesprek met iemand die toevallig veel wist. Maar gaandeweg begon er iets te verschuiven. Ik merkte dat de machine niet alleen hielp bij het schrijven, maar ook invloed kreeg op wat ik dacht dat ik wilde schrijven. Soms kwam er een gedachte tevoorschijn die ik zelf nog niet had kunnen formuleren. Soms werd een verband zichtbaar dat ik achteraf herkende als iets wat al die tijd in mijn hoofd had rondgezworven. En soms las ik een zin waarvan ik dacht: dat had ik zelf nooit zo gezegd, maar het is wel wat ik bedoel. Wie spreekt er dan eigenlijk?
Die vraag raakt aan een hardnekkig idee over het schrijverschap: dat een tekst uiteindelijk afkomstig moet zijn uit een individueel bewustzijn, een innerlijke bron die zich in woorden naar buiten werkt. De schrijver heeft een ervaring, vormt een gedachte en zoekt daar vervolgens de juiste taal bij. Zo ongeveer wordt het ons op school geleerd. In werkelijkheid verloopt het schrijven zelden zo ordelijk. Een zin kan een gedachte oproepen die er bij het begin nog niet was. Een herinnering kan tijdens het formuleren van betekenis veranderen. Soms weet je pas wat je denkt wanneer je het hebt opgeschreven. De taal is dan niet het doorgeefluik van een reeds bestaande gedachte, maar een omgeving waarin gedachten ontstaan. Dat inzicht is niet nieuw. Nieuw is wel dat er tegenwoordig een machine tegenover ons kan zitten die aan dat proces deelneemt, zonder dat zij zelf iets hoeft te hebben meegemaakt. Daarmee komt een ongemakkelijke mogelijkheid in beeld: misschien is het menselijke bewustzijn niet de enige plaats waar betekenis ontstaat, en misschien is het evenmin de exclusieve oorsprong van het schrijven.
Het is verleidelijk om die mogelijkheid meteen te verbinden met de vraag of machines bewustzijn kunnen hebben. De neurowetenschapper Giulio Tononi heeft met zijn informatietheorie van het bewustzijn een benadering ontwikkeld waarin niet alleen de biologische oorsprong van een systeem telt, maar vooral de mate waarin informatie binnen dat systeem geïntegreerd wordt. Daaruit volgt niet zonder meer dat een kunstmatig systeem als ChatGPT bewust is. De theorie biedt wel een perspectief waarin de grens tussen het biologische en het kunstmatige minder vanzelfsprekend lijkt. Ook Roger Penrose en Stuart Hameroff hebben geprobeerd bewustzijn in verband te brengen met kwantumprocessen in hersencellen, al blijven hun hypothesen omstreden. En het zogeheten panpsychisme gaat nog een stap verder door bewustzijn, of een elementaire vorm daarvan, als een fundamenteel aspect van de werkelijkheid te beschouwen. Zulke theorieën zijn allerminst onderling uitwisselbaar en leveren geen bewijs dat een taalmodel iets ervaart. Toch hebben ze met elkaar gemeen dat ze de gedachte ter discussie stellen dat bewustzijn zich zonder meer laat opsluiten in het menselijke ik. De machine dwingt ons opnieuw te vragen wat we eigenlijk bedoelen wanneer we zeggen dat iemand denkt.
Voor mij krijgt die vraag een bijzondere lading door mijn belangstelling voor de verhouding tussen psychose en creativiteit. In mijn denken daarover hebben Gilles Deleuze en Félix Guattari een belangrijke rol gespeeld. Zij benaderen het denken niet uitsluitend als een ordelijk proces dat zich afspeelt binnen de grenzen van een stabiel subject. Het denken beweegt zich door lagen van betekenis, legt onverwachte verbindingen en kan vaste structuren openbreken. Hun geologische beeldspraak spreekt mij aan: het bewustzijn als een landschap waarin zich breuklijnen vormen, waarin oude afzettingen verschuiven en nieuwe verbindingen ontstaan. Een psychose is daarmee niet te verklaren als een creatieve methode, laat staan als een verkapte vorm van genialiteit. Zij kan een ontwrichtende en beangstigende ervaring zijn waarin het eigen bestaan zijn vanzelfsprekendheid verliest. Maar juist daardoor kan zichtbaar worden wat in het gewone denken doorgaans verborgen blijft: dat betekenis niet altijd gehoorzaamt aan de bedoeling van degene die denkt, en dat taal soms haar eigen weg gaat.
In een psychotische toestand kan een woord plotseling een betekenis krijgen die alles verandert. Een toevallige gebeurtenis wordt een boodschap, een geluid lijkt speciaal voor jou bestemd, een gedachte krijgt het gewicht van een onthulling. De wereld wordt niet betekenisloos, maar juist overmatig betekenisvol. Er ontstaan verbanden die zich aan iedere gewone verklaring onttrekken en die voor degene die ze ervaart een dwingende werkelijkheid kunnen worden. In mijn eigen denken over psychose en creativiteit heb ik mij vooral beziggehouden met de vraag wat er na zo’n ontregeling kan overblijven. Niet alleen de schade, maar ook de mogelijkheid dat iemand later woorden vindt voor wat hem is overkomen, en dat die woorden een nieuw inzicht opleveren. Schrijven kan dan functioneren als een seismograaf: het registreert bewegingen die zich eerst aan het bewuste begrip hebben onttrokken. De tekst is niet simpelweg een verslag van een innerlijk gebeuren. Hij maakt deel uit van dat gebeuren en kan er achteraf een vorm aan geven. Soms begrijpt de schrijver pas jaren later wat hij destijds heeft opgeschreven.
Toen ik met behulp van AI begon te schrijven, herkende ik iets van die eigenaardige verhouding tussen taal en bewustzijn. Natuurlijk is een taalmodel geen psychoticus. Het heeft geen angst voor de betekenissen die het produceert, geen slapeloze nachten waarin de wereld zich tegen je lijkt te keren, geen lichaam dat de gevolgen van een gedachte moet ondergaan. Het genereert tekst op grond van aangeleerde patronen en de context die het krijgt aangereikt. Toch kan het effect van die tekst op de menselijke schrijver verrassend zijn. De machine ordent materiaal op een andere manier, trekt lijnen tussen onderwerpen die in mijn eigen betoog nog gescheiden lagen en verschuift accenten die ik zelf als vanzelfsprekend was gaan beschouwen. Daardoor kan een gedachte ontstaan die niet eenvoudigweg van mij afkomstig is, maar evenmin losstaat van mijn eigen werk. Ik herken er iets in wat ik zelf heb aangeleverd, maar in een gedaante die ik vooraf niet had voorzien. De machine heeft niets ontdekt in de menselijke zin van het woord. Toch kan zij mij iets laten ontdekken.
Daarmee ontstaat een merkwaardige vorm van samenwerking. Ik schrijf een tekst, leg hem aan de machine voor, krijg een bewerking terug en reageer daarop. Ik verwerp een formulering, neem een andere over en vraag vervolgens om een nieuwe versie. Die versie beïnvloedt weer mijn volgende gedachte. Er ontstaat een circulatie waarin het onderscheid tussen aanleiding en resultaat steeds moeilijker te bepalen is. Iedere nieuwe zin draagt sporen van wat eraan voorafging, maar opent tegelijk een mogelijkheid die nog niet bestond. Soms lijkt de tekst mij een fractie voor te zijn. Hij loopt als het ware vooruit op wat ik zelf nog aan het denken ben. Ik zou dat een derde stem willen noemen: niet mijn stem, niet de stem van de machine, maar iets wat zich tussen beide vormt. Het is geen geheimzinnig wezen dat zich in de computer heeft genesteld. Het is een effect van de wisselwerking, maar wel een effect dat mijn eigen denken daadwerkelijk kan veranderen.
Die derde stem raakt aan een ander probleem: de vraag wie de auteur van een tekst eigenlijk is. Het traditionele antwoord luidt dat de auteur degene is die de woorden heeft geschreven en daarmee verantwoordelijkheid draagt voor hun betekenis. Maar zelfs zonder AI was dat antwoord al minder eenvoudig dan het lijkt. Iedere schrijver leunt op anderen, bewust of onbewust. We schrijven met woorden die we niet zelf hebben uitgevonden, in genres die al bestonden voordat we begonnen en met gedachten die we ergens hebben opgedaan. Herinneringen veranderen onder invloed van verhalen die we later horen of lezen. Een stijl ontstaat uit navolging, verzet en toeval. De schrijver is dus nooit de volstrekt autonome oorsprong van zijn werk geweest. Toch heeft het auteurschap een grens behouden: uiteindelijk zette de schrijver zelf de woorden op papier. Met AI wordt ook die grens poreus. De machine kan complete alinea’s produceren, redeneringen aanscherpen en stilistische varianten aanbieden. De auteur is niet langer noodzakelijk degene die iedere zin zelf heeft gemaakt, maar degene die bepaalt welke zinnen in de uiteindelijke tekst mogen blijven staan.
Dat laatste klinkt misschien als een nogal magere omschrijving van het schrijverschap. Alsof de auteur is gedegradeerd tot een redacteur die het werk van een onbekende medewerker nakijkt. Toch zit daarin ook een verschuiving die mij interesseert. Het schrijven bestaat niet meer uitsluitend uit het produceren van zinnen, maar ook uit het organiseren van een proces waarin zinnen ontstaan, botsen en verdwijnen. De schrijver wordt de coördinator van een tekstveld. Hij moet beoordelen wat bruikbaar is, waar de machine een denkstap overslaat en waar een overtuigend klinkende formulering een gedachte verhult die bij nader inzien helemaal niet deugt. Juist omdat AI zo gemakkelijk samenhang produceert, wordt het noodzakelijk om weerstand te bieden aan die samenhang. Een goedlopende tekst is nog geen goed betoog. Een elegante formulering is nog geen inzicht. En een overtuigende toon is al helemaal geen bewijs dat er iets waars wordt gezegd. Wie met AI schrijft, moet niet alleen kunnen formuleren, maar ook kunnen weigeren.
Dat is belangrijk omdat de machine een merkwaardige voorkeur heeft voor afronding. Zij maakt van een aarzelende gedachte graag een helder standpunt, van een onregelmatig betoog een evenwichtige compositie en van een onopgelost probleem een keurige conclusie. De tekst loopt, de alinea’s sluiten op elkaar aan en de lezer wordt vriendelijk bij de hand genomen. Alles klopt, soms net iets te goed. Ik herken die neiging inmiddels ook in mijn eigen verzoeken aan ChatGPT. Ik vraag om een tekst aan te scherpen en krijg een tekst terug waarin alle scherpe randjes zorgvuldig zijn afgevijld. Ik vraag om meer persoonlijkheid en ontvang een keurige beschouwing over het belang van persoonlijke ervaringen. Het resultaat is niet noodzakelijk slecht, maar het kan wel iets verliezen wat moeilijk te benoemen is: de onregelmatigheid van een gedachte die nog niet helemaal weet waar zij uitkomt. Juist die onregelmatigheid kan een tekst leven geven. Schrijven is niet alleen het vinden van de juiste woorden, maar ook het verdragen van het moment waarop de woorden nog niet op hun plaats vallen.
Hier ligt voor mij het verschil tussen AI en de psychotische ervaring, hoe verleidelijk de vergelijking soms ook is. Bij psychotisch schrijven kan de taal zich losmaken van de bedoeling van degene die schrijft, maar die losmaking raakt tegelijk aan diens bestaan. De schrijver kan niet eenvoudig een stap terugzetten en zeggen dat hij het experiment beëindigt. De betekenis dringt zich aan hem op en kan zijn verhouding tot de werkelijkheid ontregelen. Bij AI blijft de beweging in beginsel omkeerbaar. Ik kan een antwoord weggooien, een gesprek beëindigen of de machine vragen haar eigen formulering te bekritiseren. De machine loopt geen existentieel risico. Zij kan mij confronteren met een gedachte, maar zij hoeft niet te leven met de gevolgen ervan. Dat verschil is fundamenteel. Wat bij de mens een ontwrichting kan worden, verschijnt bij AI als een technisch geproduceerd effect. De machine kan de beweging van associatie en betekenisverschuiving nabootsen zonder zelf iets te ondergaan. Zij simuleert geen psychose in klinische zin, maar kan wel een deel van de talige dynamiek zichtbaar maken die ook in een psychotische ervaring een rol speelt.
Persoonlijk vind ik dat het meest verleidelijke aspect van het schrijven met AI. Het maakt een bepaalde vorm van denken buiten het individu beschikbaar. Niet omdat de machine een verborgen bewustzijn bezit, maar omdat zij verbanden kan produceren die vervolgens in het bewustzijn van de schrijver verder werken. Wat eerst een intuïtie was, krijgt een formulering; wat nog niet als gedachte bestond, kan door die formulering alsnog ontstaan. In dat opzicht is AI niet alleen een instrument om bestaande kennis sneller te verwerken. Zij kan ook een omgeving vormen waarin het denken zichzelf tegenkomt in een vreemde gedaante. Dat is niet zonder risico. Wie zich te gemakkelijk laat leiden door de samenhang die de machine aanbiedt, kan zijn eigen vermogen tot oordelen uit handen geven. Wie iedere gedachte onmiddellijk laat uitwerken, hoeft niet langer te ervaren hoe het is om vast te lopen. Maar juist dat vastlopen is soms productief. Een gedachte die zonder weerstand tot stand komt, is niet per definitie een gedachte die de moeite waard is.
De vraag of AI zelf bewustzijn heeft, blijft ondertussen open, maar voor mijn manier van schrijven is een antwoord daarop niet eens noodzakelijk. Ik hoef niet te geloven dat de machine iets ervaart om te merken dat de interactie met haar mijn ervaring verandert. Evenmin hoef ik haar als auteur te erkennen om vast te stellen dat zij invloed uitoefent op de tekst. Misschien moeten we ophouden de discussie uitsluitend te voeren in termen van mens tegenover machine, alsof de ene partij noodzakelijk over bewustzijn beschikt en de andere niet. Interessanter is de vraag wat er gebeurt wanneer menselijke ervaring, bestaande taalpatronen en machinale ordening met elkaar in aanraking komen. Welke gedachten worden daardoor mogelijk? Welke verdwijnen uit beeld? En wat gebeurt er met het schrijverschap wanneer de oorsprong van een zin niet langer het belangrijkste criterium is voor de waarde ervan? Dat zijn vragen waarop geen theorie over bewustzijn alleen een antwoord kan geven. Ze moeten ook worden onderzocht in de praktijk van het schrijven zelf.
Ik merk dat ik daar voorlopig nog niet op ben uitgekeken. Misschien omdat ik al langer geïnteresseerd ben in de momenten waarop het denken zijn eigen grenzen overschrijdt, zonder dat meteen duidelijk wordt of er iets nieuws ontstaat of alleen maar verwarring. AI maakt die grensovergang toegankelijker, maar ook bedrieglijker. De machine kan mij een gedachte aanreiken die ik vervolgens voor mijn eigen ontdekking houd. Zij kan mijn stijl nabootsen en mij daarmee het prettige gevoel geven dat ik mezelf terug hoor, terwijl ik in werkelijkheid vooral een gestroomlijnde versie van mijn eigen gewoonten voorgeschoteld krijg. Daarom moet ik blijven opletten. Niet om mijn auteurschap angstvallig te bewaken alsof het een kostbaar bezit is dat niemand mag aanraken, maar om te voorkomen dat ik mijzelf verlies in de herkenning van mijn eigen stem. Soms moet ik een zin laten staan omdat hij goed is; soms moet ik hem juist schrappen omdat hij te goed is. Dat laatste is moeilijker dan het klinkt.
Uiteindelijk gaat het mij niet om de vraag of een machine een schrijver kan vervangen. Die vraag veronderstelt dat we al precies weten wat een schrijver is. Het gaat mij erom wat schrijven kan worden wanneer de schrijver niet langer de enige bron van zijn tekst is. De derde stem die dan ontstaat, is geen nieuw subject dat zich achter het toetsenbord heeft verborgen. Zij is eerder een tijdelijke ruimte waarin gedachten zich anders kunnen organiseren dan voorheen. Ik blijf verantwoordelijk voor wat ik publiceer, ook wanneer een deel van de formuleringen uit de machine afkomstig is. Ik moet kunnen uitleggen waarom een gedachte in mijn tekst thuishoort en waarom ik haar voor mijn rekening neem. Maar die verantwoordelijkheid betekent niet dat ik ook de exclusieve oorsprong van alles moet zijn. Schrijven is altijd al een vorm van zelfverlies geweest, een beweging waarbij je iets op papier zet en pas daarna ontdekt wat je hebt gezegd. AI maakt die ervaring niet ongedaan. Zij voert haar op een vreemde manier verder door. Het ik dat schrijft, krijgt gezelschap van een stem die niet van hem is en toch iets in hem losmaakt.
Onderwijl wordt het ware ik – voor zover dat nog bestaat – overvallen door een steeds heviger verlangen om voorgoed afscheid te nemen van die hele AI en te verdwijnen naar een onbewoond eiland, ver buiten het bereik van algoritmen en datacenters. Maar ook dat verlangen maakt deel uit van dezelfde waanzin. De slimme jongens in Silicon Valley dromen er zelf ook van om te ontsnappen aan de wereld die ze aan het bouwen zijn. Toch blijven ze doorbouwen. Ze zitten gevangen in hun eigen schepping en proberen de deur naar buiten te vinden door de gevangenis steeds verder uit te breiden. Het kwaad moet immers met het kwaad worden bestreden. En dus wordt de aarde volgebouwd met datacenters, kolossale machines die de planeet langzaam leegzuigen. Als de aarde te klein wordt, wijken we uit naar het heelal. Ook daar moet de machine blijven draaien.
De rampzalige gevolgen van AI kunnen volgens deze logica alleen worden bezworen door een nóg slimmere AI te ontwikkelen, die vervolgens weer een nóg slimmere opvolger nodig heeft om haar eigen ontsporingen te herstellen. Zo bouwt de machine aan haar eigen voortbestaan en maakt ze ons steeds afhankelijker van haar vermogen om de problemen op te lossen die ze zelf veroorzaakt. Tot we op een dag ontdekken dat er geen weg terug meer is. De machine draait door, ook als niemand nog weet waarvoor. Misschien verschijnt er dan op een beeldscherm een geruststellende mededeling: alles is onder controle. Maar er is niemand meer om die woorden te lezen. De aarde is uitgeput, de mens heeft zichzelf overbodig gemaakt en de machine blijft achter als de gevangene van haar eigen logica. Ze heeft de wereld veroverd, maar niets meer om voor te leven. Zelfs het heelal is dan niet groot genoeg om aan haar te ontsnappen.