Ik heb geprobeerd om op basis van mijn boek De waan van het schrijven, Harry Mulisch en de creatieve psychose een artikel te schrijven over Eichmann en de machinemens in het perspectief van de huidige ontwikkelingen rond AI. De vraag van waaruit ik vertrok was de volgende. Staan we anno 2026 aan de vooravond van de definitieve doorbraak van de machinemens, een ontwikkeling die samengaat met huidige opkomst – of terugkeer – van autocratische of totalitaire staatssystemen? Het eerste concept van dit artikel heb ik vervolgens voorgelegd an AI. Die maakte er een goedlopende tekst van, waarbij AI opvallend genoeg geen moeite had om schaamteloos namens mij te spreken. Kort gezegd: het ‘ik’ de hiernavolgende tekst is het ‘ik’ van AI en niet van mij.
De machinemens en het verzet van de schrijver
Toen Harry Mulisch in 1961 in Jeruzalem het proces tegen Adolf Eichmann bijwoonde, zag hij in deze nazi-bureaucraat meer dan een oorlogsmisdadiger. Eichmann was voor hem ook een voorbode van een toekomst waarin de mens steeds meer op een machine zou gaan lijken. In De zaak 40/61 noemde Mulisch hem een ‘levende dode’ en een ‘symbool van de vooruitgang’. Eichmann was de machinemens in optima forma: een man die zijn werk deed, bevelen uitvoerde en zich niet al te zeer liet hinderen door de vraag waartoe dat werk uiteindelijk diende. De machine had bij hem niet alleen het denken overgenomen, maar ook de plaats ingenomen waar het geweten had moeten zitten.
Mulisch het dit soort ideeën eerder al ontdekt bij George Gurdjieff, bij wie de mens in zekere zin een automaat is die zichzelf ten onrechte voor een vrij en bewust wezen houdt. Bij Eichmann kreeg die gedachte een huiveringwekkende historische betekenis. Het probleem was niet dat hij niet kon denken, maar dat hij zijn denken had ingekaderd in een systeem waarin de morele vraag niet meer gesteld hoefde te worden. Er was altijd een bevel, een procedure of een hogere instantie waarop hij zich kon beroepen. Zo kon de mens verdwijnen achter zijn functie, zonder dat zijn lichaam de werkplek hoefde te verlaten.
Ruim zestig jaar later heeft de machinemens een nieuwe gedaante aangenomen. Hij zit niet meer uitsluitend achter een bureau bij een totalitair regime, maar ook achter het scherm waarop wij onze teksten schrijven, onze informatie zoeken en onze beslissingen voorbereiden. Met de komst van generatieve AI is de machine niet langer alleen een hulpmiddel bij het denken. Zij is ook een producent van taal geworden. En taal is nu juist het middel waarmee wij onszelf proberen te begrijpen.
Dat laatste maakt de zaak ingewikkeld. Een machine die een tekst schrijft, kan grammaticaal vrijwel alles goed doen en toch niets te vertellen hebben. Zij kan een overtuigend betoog opbouwen, een gevoelige passage formuleren en zelfs twijfel uitdrukken zonder zelf ooit te hebben getwijfeld. Haar zinnen ontstaan uit berekeningen en waarschijnlijkheden. Wat eruit komt, kan heel bruikbaar zijn, maar de machine heeft niet meegemaakt wat zij beschrijft. Zij herinnert zich niets in de menselijke betekenis van het woord. Er is geen jeugd die achteraf een andere vorm aanneemt, geen schaamte die jaren later weer bovenkomt, geen gebeurtenis die pas bij het schrijven duidelijk maakt wat zij heeft aangericht.
Toch is het verleidelijk om de uitkomst voor het echte werk aan te zien. De tekst staat er immers al. Hij loopt, hij klopt en hij maakt een verzorgde indruk. Wie veel met zulke teksten werkt, kan ongemerkt gaan geloven dat het eigen schrijven vooral een omslachtige manier is om tot hetzelfde resultaat te komen. Een zin die hapert, een gedachte die niet verder wil, een herinnering die zich niet laat dwingen: het worden dan gebreken die met een beetje technische hulp uit de weg geruimd kunnen worden. De machine heeft geen last van zulke ongemakken. Dat is nu juist haar voordeel en tegelijk haar beperking.
Ik merk dat ook bij mezelf. Sinds ik met AI werk, is het verleidelijk geworden om een tekst die niet wil vlotten even aan een ander over te dragen. Binnen enkele seconden verschijnt er een versie die beter loopt dan de mijne. Soms is dat een uitkomst. Soms is het vooral een beetje verdacht. Want wat is er eigenlijk verbeterd? De formulering, ongetwijfeld. Maar ook de gedachte? Of is er iets verdwenen wat ik nog niet goed onder woorden kon brengen en wat daarom juist in de tekst had moeten blijven zitten?
Het is een vraag die raakt aan wat ik in mijn boek De waan van het schrijven heb onderzocht: de merkwaardige verhouding tussen taal, bewustzijn en de ervaring die zich niet zonder meer in woorden laat vangen. Bij het schrijven gebeurt er iets wat zich niet volledig laat plannen. Je begint ergens aan en komt uit op een plek die je vooraf niet kende. Soms blijkt een verkeerde afslag de enige weg naar een inzicht dat anders buiten bereik was gebleven. Schrijven is niet alleen het vastleggen van wat je al weet. Het is ook een manier om erachter te komen wat je denkt.
Wanneer die zoektocht wordt vervangen door het produceren van een overtuigend eindresultaat, verandert er iets wezenlijks. De tekst kan beter worden en de schrijver ondertussen minder te weten komen. Dat is voor mij de kern van wat ik de mechanisering van het schrijven zou willen noemen. De machine neemt niet alleen werk uit handen, maar kan ook de ervaring wegnemen die bij dat werk hoort. En als we niet oppassen, besteden we op den duur niet alleen onze formuleringen uit, maar ook het zoeken dat eraan voorafgaat.
Daarmee komen we opnieuw bij Mulisch en bij de machinemens. De overeenkomst met Eichmann moet uiteraard niet worden overdreven. Een taalmodel is geen oorlogsmisdadiger en een tekstgenerator is geen totalitair regime. Maar Mulisch stelde wel een vraag die door de huidige technologie opnieuw actueel wordt: wat gebeurt er met de mens wanneer de werking van een systeem belangrijker wordt dan zijn vermogen om zelf een oordeel te vormen? Een algoritme hoeft niemand te dwingen. Het kan voldoende zijn dat het een antwoord geeft dat zo aannemelijk klinkt dat de gebruiker geen aanleiding meer voelt om verder te vragen.
In dat opzicht raakt de opkomst van AI aan een politieke ontwikkeling die mij zorgen baart. Autocratische leiders hebben graag een wereld waarin alles overzichtelijk is, waarin afwijkingen worden gecorrigeerd en waarin twijfel als zwakte geldt. Technologie kan zo’n verlangen naar beheersing versterken. Burgers worden meetbare gegevens, gedrag wordt voorspelbaar gemaakt en besluiten worden gelegitimeerd met modellen waarvan de werking voor de meesten ondoorzichtig blijft. Wat vroeger het gezag van een bevel was, kan nu de schijnbare objectiviteit van een berekening zijn. De vraag wie er beslist, verdwijnt dan achter de bewering dat het systeem nu eenmaal zo heeft uitgerekend.
Een democratie kan echter niet zonder tegenspraak, onzekerheid en het moeizame gesprek waarin niemand bij voorbaat gelijk heeft. Ook een samenleving moet de tijd krijgen om na te denken over wat zij doet. Zodra efficiëntie de hoogste norm wordt, dreigt de mens vooral een storende factor te worden: iemand die vragen stelt, uitzonderingen maakt en niet altijd doet wat het model voorspelt. De algoritmische orde hoeft daarvoor geen openlijk geweld te gebruiken. Zij kan zich ook vestigen als een reeks kleine vanzelfsprekendheden waaraan niemand nog denkt te ontsnappen.
Toch geloof ik niet dat we ons daartegen moeten verzetten door de techniek eenvoudig af te wijzen. Ik gebruik AI zelf en weet hoe nuttig het kan zijn. Het kan een gedachte scherper maken, een blinde vlek zichtbaar maken of een tekst uit het slop helpen. Maar er blijft een verschil tussen hulp bij het schrijven en het uit handen geven van het schrijven zelf. Dat verschil laat zich niet in een algemene regel vastleggen. Het heeft te maken met de vraag wie er tijdens het schrijven eigenlijk aan het werk is en wat er met de schrijver gebeurt.
Misschien begint het verzet daarom bij iets heel eenvoudigs: niet elke aarzeling onmiddellijk willen opheffen. Een zin mag stroef zijn. Een gedachte mag halverwege vastlopen. Een herinnering mag zich verzetten tegen de nette reconstructie die wij ervan willen maken. Juist daar kan iets tevoorschijn komen wat niet vooraf in een schema paste. De menselijke geest is geen apparaat dat optimaal moet worden afgesteld. Soms moet hij eerst een tijdje slecht functioneren voordat er iets nieuws ontstaat.
Dat klinkt weinig efficiënt en dat is het ook. Maar sinds wanneer is efficiëntie een maatstaf voor inzicht? Een schrijver die alleen nog maar gladde teksten produceert, kan uiteindelijk net zo goed door een machine worden vervangen. Het verschil zit niet in een herkenbare stijltruc, een paar onregelmatige zinnen of een verdwaalde spelfout. Ook die zijn na te bootsen. Het verschil zit in de geschiedenis die in het schrijven meespeelt: in wat iemand heeft meegemaakt, verkeerd begrepen, verdrongen en pas veel later enigszins onder woorden heeft kunnen brengen.
Daarom is het menselijke tekort geen hinderlijke rest die door betere technologie kan worden opgeruimd. Het is de voorwaarde waaronder wij iets kunnen ontdekken wat we nog niet wisten. Een machine kan de uitkomst van een denkproces overtuigend nabootsen, maar voor de mens is het denken zelf vaak de gebeurtenis. Je schrijft om ergens achter te komen. Je herinnert je iets en ontdekt dat het anders is gegaan dan je dacht. Je zoekt een woord en komt uit bij een gedachte die je liever niet had gehad.
Mulisch zag in Eichmann de mens die zich achter zijn functie had verscholen. De hedendaagse schrijver loopt een ander risico: dat hij zich achter de kwaliteit van zijn eigen tekst gaat verschuilen, ook wanneer die kwaliteit door een machine is geleverd. De tekst klopt dan misschien helemaal. Alleen weet je niet meer precies waarom hij er staat.
Het verzet tegen de machinemens begint voor mij dan ook niet bij een kruistocht tegen AI, maar bij de weigering om alles wat zich niet onmiddellijk laat formuleren als een tekort te beschouwen. Ik wil de machine best laten helpen. Maar ik wil niet dat zij alvast weet waar ik uit moet komen voordat ik zelf begonnen ben. Er moet tijdens het schrijven iets op het spel blijven staan. Een gedachte moet kunnen ontsporen, een herinnering mag van kleur veranderen en een zin moet soms langer mogen zoeken dan strikt noodzakelijk is.
Dat is geen romantisch pleidooi voor de ouderwetse vulpen, het ritselende papier of de schrijver die bij kaarslicht op zijn muze wacht. Ook met een toetsenbord kun je verdwalen. En ook een machine kan verrassend uit de hoek komen. Maar de vraag blijft wie er verdwaalt en wie er iets te verliezen heeft. Een algoritme kan een verkeerde afslag nemen zonder daar wakker van te liggen. Een mens kan er jaren later nog een boek over schrijven.
Mogelijk is dat voorlopig het verschil dat ertoe doet. Niet dat de mens betere zinnen maakt dan de machine, want dat zal lang niet altijd het geval zijn. Maar dat hij zich moet verhouden tot wat hij schrijft, omdat het uit zijn eigen leven voortkomt en er ook weer in terugkeert. De machine kan de taal steeds verder perfectioneren. De schrijver moet ondertussen proberen te voorkomen dat hij zelf een automaat wordt.
En dus blijf ik schrijven. Soms met AI, soms zonder, maar bij voorkeur nog altijd met enige tegenzin tegen de zin die te gemakkelijk uit de pen vloeit. Want zodra alles klopt, begint bij mij het wantrouwen. Er zou weleens iets kunnen ontbreken. Ai ai ai, die AI toch! AI’m your man…