Ik heb jarenlang gedacht dat ik zelf mijn teksten schreef. Dat leek me niet zo’n vreemde gedachte. Ik zat achter het toetsenbord, ik dacht na, ik tikte wat en zette er ten slotte mijn naam onder. Soms kwam er zelfs een honorarium aan te pas. Inmiddels ben ik daar minder zeker van. Sinds ik met kunstmatige intelligentie experimenteer, verschijnen er zinnen op mijn scherm waarvan ik denk: verdomd, dat had ik zelf kunnen schrijven. Soms zelfs beter. Voor iemand die al zestig jaar met taal in de weer is, is dat een onaangename ontdekking. Je kunt moeilijk op je oude dag nog een cursus schrijven voor beginners gaan volgen bij je eigen computer.
Wanneer ik mijn twijfels niet meer de baas kan, denk ik aan Drs. P. Die wist al hoe je de ondergang van de beschaving bezingt zonder dat iemand er werkelijk wijzer van wordt. De mensheid loopt naar de afgrond, de wereld verandert in een woestenij, de ene ramp volgt op de andere, en daar tussendoor klinkt steeds weer die geruststellende mededeling: knolraap en lof, schorseneren en prei. Het is een wonderlijk soort troost. Je hoeft de wereld niet te begrijpen om haar te kunnen bezingen. Je hoeft alleen maar de juiste woorden op de juiste plaats te zetten. Of desnoods op de verkeerde plaats, want daar begint het interessant te worden.
Ook mijn eigen schrijven heeft inmiddels iets van zo’n processie gekregen. Ik begin met een gedachte over AI, loop vervolgens tegen Gödel aan, struikel over mijn eigen bewustzijn en eindig bij de vraag wie hier eigenlijk aan het schrijven is. Ondertussen produceert de machine keurige alinea’s alsof er niets aan de hand is. Ik vraag om een gedachte en krijg een gedachte. Ik vraag om een nuance en krijg een nuance. Ik vraag om een slotzin en krijg er drie. De beschaving mag dan op instorten staan, de tekstproductie loopt gesmeerd.
Rampen bedreigen het menselijk leven.
Knolraap en lof, schorseneren en prei.
De schrijver weet niet meer wie hij is.
Knolraap en lof, schorseneren en prei.
De machine schrijft zijn memoires.
Knolraap en lof, schorseneren en prei.
De auteur maakt bezwaar tegen zijn eigen stijl.
Knolraap en lof, schorseneren en prei.
Ik hoor het al voor me in de kerk. De voorganger heft zijn handen ten hemel en kondigt aan dat wij thans gezamenlijk zullen zingen over het einde van de menselijke autonomie. Bladzijde vijfentachtig van onze bundel. Gaarne opstaan. De organist zet in, maar blijkt vervangen door een algoritme dat alleen nog maar voorspelt welke noot waarschijnlijk op de vorige zal volgen. De gemeente zingt uit volle borst. De koster heeft intussen zijn ontslag gekregen, want ook het openen en sluiten van de kerkdeuren kan tegenwoordig efficiënter.
Er is een tijd geweest dat ik dacht dat een computer nooit meer kon voortbrengen dan wat er vooraf in was gestopt. Een machine kon rekenen, ordenen en combineren, maar ergens moest toch iemand aan de knoppen hebben gezeten. Dat gaf een geruststellend gevoel. Er bleef een mens over die wist wat hij deed, ook als hij dat in de praktijk zelden kon aantonen. Sinds de komst van AI is die zekerheid gaan wankelen. Ik voer een gedachte in en krijg iets terug wat ik niet had voorzien. Soms begrijp ik pas door het antwoord wat ik zelf eigenlijk wilde zeggen. Het lijkt alsof er tijdens het schrijven een derde stem is bijgekomen. Ik weet alleen niet of die stem mij helpt, mij imiteert of alvast mijn plaats achter het toetsenbord aan het bezetten is.
Hier komt Kurt Gödel pas echt om de hoek kijken, de wiskundige die aantoonde dat er binnen voldoende ingewikkelde formele systemen uitspraken bestaan waarvan de waarheid niet binnen datzelfde systeem bewezen kan worden. De filosoof John Lucas zag daarin een aanwijzing dat de menselijke geest meer vermag dan een machine. De mens kan volgens die redenering soms inzien wat het systeem zelf niet kan bewijzen. Er moest dus ergens een hogere verdieping zijn waarop de mens zich kon terugtrekken, buiten het bereik van de computer.
Ik vond dat altijd een aangename gedachte. Je kunt als mens veel verliezen, maar als je tenminste nog op een hogere verdieping woont dan je computer, is de zaak niet helemaal verloren. Alleen is het de vraag of ik daar zelf ooit ben geweest. Ik vergeet namen, haal jaartallen door elkaar en kan soms een halfuur zoeken naar een bril die ik op mijn hoofd heb staan. Mijn verstand is niet bepaald een marmeren trap naar het absolute. Eerder een slecht onderhouden galerij met een loszittende leuning. Als ik werkelijk over bijzondere inzichten beschik, zijn ze doorgaans niet op tijd aanwezig wanneer ik ze nodig heb.
En wat moet ik eigenlijk met Gödel wanneer de machine een tekst over Gödel schrijft die ik vervolgens beter begrijp dan mijn eigen aantekeningen? De machine hoeft niet te weten wat een hogere verdieping is. Zij produceert gewoon een trap. Ik loop erop, kom ergens uit en ontdek dat daar opnieuw een trap staat. Bovenaan hangt een bordje: verboden toegang voor onbevoegden. Wie bevoegd is, staat er niet bij. De portier blijkt een taalmodel te zijn dat mijn vraag beantwoordt met de mededeling dat deze kwestie onderwerp is van een levendig filosofisch debat.
Knolraap en lof, schorseneren en prei.
Het merkwaardige is dat ik mijzelf tijdens het schrijven ook zonder AI niet altijd als de baas beschouw. Ik begin met een gedachte, maar na enige tijd gaat de tekst zijn eigen gang. Een terzijde wordt belangrijker dan het onderwerp. Een ongelukkige formulering blijkt opeens bruikbaar. Een gedachte die aanvankelijk onzin leek, krijgt onverwacht betekenis. Ik loop achter mijn eigen woorden aan en probeer te voorkomen dat ze de straat oversteken zonder uit te kijken. Soms lukt dat. Soms verdwijnen ze in een steeg waar ik ze niet meer terugvind.
Met AI is er alleen iets bijgekomen dat daadwerkelijk antwoord geeft. Ik schrijf een zin, de machine reageert, ik reageer op haar reactie en voor ik het weet zijn we ergens beland waar ik nooit naartoe had gewild. Wie heeft die gedachte bedacht? Ik, de machine of het gesprek dat tussen ons is ontstaan? Ik zou een commissie kunnen instellen om dit uit te zoeken, maar vermoedelijk zou die commissie na drie vergaderingen zelf een taalmodel inschakelen om haar eindrapport te schrijven.
De eerste conclusie zou ongetwijfeld luiden dat creativiteit een complex samenspel is van taal, geheugen, toeval en vorm. De tweede conclusie zou zijn dat nader onderzoek noodzakelijk is. De derde zou ontbreken, omdat de voorzitter inmiddels is vervangen door een chatbot die geen behoefte heeft aan een conclusie. Hij is tevreden met de twee voorgaande. De mens daarentegen wil altijd meer. Hij wil niet alleen een tekst, maar ook weten wie hem heeft geschreven, waarom hij bestaat en of hij bij de belastingdienst als intellectueel eigendom kan worden opgegeven.
Ik begin de vraag of AI werkelijk creatief is daarom minder interessant te vinden. Een machine kan iets produceren wat mij verrast. Dat gebeurt inmiddels geregeld. Of zij daarbij iets beleeft, is een andere kwestie. Een machine kan over verdriet schrijven zonder verdrietig te zijn, over de dood zonder bang te zijn voor haar eigen einde en over de zinloosheid van het bestaan zonder daarna een tijdje zwijgend voor zich uit te kijken. Ze kan zelfs een buitengewoon overtuigende beschouwing schrijven over de menselijke eindigheid en onmiddellijk daarna een recept voor appeltaart leveren. Bij mij duurt zo’n overgang doorgaans iets langer. Ik moet eerst koffie zetten.
Toch zou het te gemakkelijk zijn om te zeggen dat de machine daarom niets wezenlijks bijdraagt. Ook mijn eigen gedachten zijn niet uitsluitend van mij. Ik heb woorden van anderen geleend, zinnen onthouden en ideeën overgenomen zonder nog te weten waar ik ze voor het eerst ben tegengekomen. Mijn persoonlijke stem bestaat voor een deel uit stemmen die ik onderweg heb opgepikt. Het verschil is dat ik er een leven aan heb vastgeknoopt. Mijn herinneringen, mijn vergissingen en mijn eigenaardigheden hebben zich met die taal vermengd. Bij de machine ontbreekt voorlopig die persoonlijke inzet. Zij kan een fout herstellen zonder er wakker van te liggen. Ik moet soms jaren leven met een zin die ik ooit in het openbaar heb geschreven.
Dat is misschien de werkelijke ongelijkheid tussen ons. Zij kan eindeloos opnieuw beginnen. Ik niet. Ik kan een alinea schrappen, een blog herschrijven en mijn eigen ongelijk erkennen, maar ik kan niet terug naar het moment waarop ik nog niet wist wat ik inmiddels weet. De machine heeft geen jeugd die haar achtervolgt, geen vader die haar ontvalt, geen herinneringen die zich opdringen wanneer ze daar niet om heeft gevraagd. Zij heeft gegevens. Ik heb een verleden. Dat klinkt plechtig, maar het verleden gedraagt zich in mijn geval soms als een overijverige bibliothecaris die midden in de nacht alle boeken uit de kast haalt om te controleren of ze wel op alfabet staan.
De wereld wordt één woestenij.
Knolraap en lof, schorseneren en prei.
Ik moet daarbij denken aan de manier waarop wij steeds meer vertrouwen stellen in systemen die voor ons selecteren, voorspellen en beslissen. Wat efficiënt werkt, krijgt al gauw het voordeel van de twijfel. Wat tijd bespaart, wordt als vooruitgang beschouwd. Waarom zou ik nog een uur zoeken naar een formulering wanneer een machine mij binnen enkele seconden een keurige alinea kan leveren? Het antwoord is niet dat ik het beter kan. Soms kan ik het aantoonbaar slechter. Maar het zoeken zelf behoort tot wat schrijven voor mij betekent. Als ik iedere omweg uitbesteed, bespaar ik tijd, maar ik weet niet zeker of ik dan nog op dezelfde plaats uitkom.
Een tekst kan iets opleveren wat niet vooraf als resultaat was besteld. Je begint met een plan en ontdekt onderweg dat het plan niet deugt. Je schrijft over de menselijke autonomie en eindigt bij een knolraap. Dat is geen mislukking. Het kan zelfs de enige manier zijn waarop je nog ergens terechtkomt. Een machine die uitsluitend efficiënt naar een vooraf bepaalde bestemming voert, zou mij op den duur gaan vervelen. Ik wil af en toe verdwalen. Bij voorkeur zonder dat er meteen een routebeschrijving verschijnt met drie alternatieve bestemmingen en een schatting van de aankomsttijd.
Daarom wil ik ook niet doen alsof ik de regie volledig in handen heb. Dat zou klinken als een kapitein die op de brug staat terwijl de automatische piloot het schip bestuurt. Ik zit erbij, kijk naar het scherm en geef af en toe een ruk aan het roer. Vervolgens schrijf ik een beschouwing over de vraag wie er aan het roer staat. De machine corrigeert de formulering, ik keur de correctie goed en samen varen we verder naar een bestemming die geen van ons op de kaart had staan.
Wie zal ons redden, wie maakt ons weer vrij?
Knolraap en lof, schorseneren en prei.
Ik zou de machine de deur kunnen wijzen. Dan zou ik tenminste weer zeker weten dat ik alleen schrijf. Maar die zekerheid is betrekkelijk. Ook zonder AI schrijft de taal door mij heen. Mijn gedachten zijn niet allemaal van eigen makelij en mijn zinnen hebben vaak een langere geschiedenis dan ikzelf. Ik zou de computer kunnen uitzetten, maar daarmee zet ik niet de stemmen uit die ik in de loop van mijn leven heb verzameld. Bovendien zou ik dan misschien een gedachte missen die ik zonder haar nooit had gevonden. Dat is het vervelende van nieuwe mogelijkheden: je kunt ze afwijzen, maar je kunt niet meer ongedaan maken dat je ze hebt leren kennen.
Voorlopig blijf ik dus schrijven, met of zonder kunstmatige assistentie. Niet omdat ik nog iets bijzonders te melden heb, maar omdat ik kennelijk nog altijd niet ben uitgepraat. De machine hoeft niet te slapen, raakt niet vermoeid en heeft geen last van het besef dat de tijd verstrijkt. Ik wel. Ik lever de eindigheid, zij de productiecapaciteit. Dat is een merkwaardige taakverdeling, maar voorlopig werkt ze.
Misschien moet ik mijn volgende blog daarom maar beginnen met een gezamenlijke verklaring. De schrijver en zijn kunstmatige assistent betreuren de verwarring die is ontstaan over de herkomst van de tekst. Zij erkennen dat de ene partij soms de gedachte levert en de andere de formulering, maar dat geen van beiden bereid is de volledige verantwoordelijkheid te dragen. De schrijver verwijst naar de machine, de machine verwijst naar de trainingsgegevens en de trainingsgegevens verwijzen naar de mensheid. Die blijkt niet bereikbaar wegens omstandigheden.
Intussen groeit de stapel teksten. Mijn naam staat eronder, zoals altijd. Ik weet niet meer precies wat dat betekent. Misschien is het een auteursvermelding. Misschien is het een gebruiksaanwijzing. Misschien staat mijn naam er alleen nog omdat het systeem heeft geleerd dat een tekst nu eenmaal ergens mee moet eindigen.
En thans, broeders en zusters, willen wij gezamenlijk zingen. U vindt het lied op bladzijde vijfentachtig van onze bundel. De organist is niet aanwezig, maar zijn vervanger heeft inmiddels een nieuwe versie gegenereerd. De voorganger is digitaal, de gemeente grotendeels automatisch en de collecte wordt verwerkt door een zelflerend betaalsysteem. Wie nog vragen heeft over het menselijk bewustzijn, kan na afloop terecht bij de uitgang. Daar staat een computer die alles weet, behalve waarom hij daar staat.
Knolraap en lof, schorseneren en prei.
En zet u dit er dan ook nog maar bij.
.
