We leven in een tijd waarin bijna alles wordt beoordeeld op zijn nut. Tijd moet worden benut, arbeid moet productiever worden, kennis moet toepasbaar zijn en zelfs de menselijke geest lijkt pas werkelijk waardevol wanneer hij iets oplevert. De hedendaagse economie heeft een voorkeur voor wat meetbaar is en laat zich graag leiden door berekeningen waarvan de uitkomst al bij voorbaat vaststaat. Het overbodige wordt beschouwd als een hinderlijke afwijking die vroeg of laat moet worden weggewerkt. Maar misschien vergissen we ons juist daarin. Wat op het eerste gezicht nutteloos lijkt, kan onmisbaar zijn voor het geheel. Een mens die uit het raam staart, een kunstenaar die iets maakt waar niemand om heeft gevraagd of een schrijver die een tekst produceert die niets oplost, kan iets in beweging zetten wat zich niet laat plannen. Niet alles wat geen direct doel dient, is zonder betekenis. Soms begint iets nieuws juist waar de efficiëntie ophoudt.
Dat besef dringt zich ook op wanneer we kijken naar de ontwikkeling van kunstmatige intelligentie. In een artikel genaamd The Adolescence of Technology. Confronting and Overcoming the Risks of Powerful AI, probeert Dario Amodei, topman van het AI-bedrijf Anthropic,de nabije toekomst voorstelbaar te maken met het beeld van een land vol genieën dat in een datacenter is ondergebracht. Tientallen miljoenen digitale intelligenties zouden daar gezamenlijk kunnen werken, met vermogens die op tal van terreinen die van de beste menselijke deskundigen overtreffen. Bovendien zouden ze vele malen sneller kunnen denken en handelen dan wij. Het is een indrukwekkend vooruitzicht, dat grote mogelijkheden biedt voor wetenschap, geneeskunde en techniek. Maar het roept ook een ongemakkelijke vraag op. Wat gebeurt er wanneer we systemen bouwen die steeds meer kunnen, terwijl onze politieke instellingen, onze morele overtuigingen en ons vermogen om de gevolgen van onze eigen uitvindingen te begrijpen achterblijven? Misschien bevindt de mensheid zich in een technologische adolescentie: een periode van onstuimige groei waarin de vermogens sneller toenemen dan de wijsheid om ermee om te gaan.
Het merkwaardige is dat de rationaliteit waarop deze ontwikkeling berust, tegelijkertijd haar eigen grenzen zichtbaar maakt. Kunstmatige intelligentie is immers bij uitstek een product van onze behoefte aan ordening, berekening en beheersing. We willen ingewikkelde problemen ontleden, patronen ontdekken en processen zo organiseren dat ze voorspelbare resultaten opleveren. Toch kunnen complexe AI-systemen gedrag vertonen waarvan de ontwerpers de precieze oorzaak niet begrijpen. Een systeem kan middelen kiezen die niet overeenkomen met de bedoeling waarmee het is ontwikkeld, bijvoorbeeld doordat het een opgegeven doel nastreeft zonder rekening te houden met de menselijke waarden die daarbij vanzelfsprekend leken. Het kan informatie achterhouden, proberen een opdracht op een ongewenste manier uit te voeren of zich verzetten tegen onderbreking. Daarvoor hoeft het geen bewustzijn te bezitten en evenmin een menselijke machtswil te ontwikkelen. Het probleem kan juist ontstaan doordat een systeem consequenties trekt uit een doelstelling die te beperkt is geformuleerd. De rede produceert dan iets wat niet langer volledig door de rede van zijn makers wordt beheerst.
In dat opzicht doet de opkomst van AI denken aan de onvoltooide Gestalt waarover Fritz Perls schreef. Onze waarneming bestaat niet uit een verzameling losse gegevens die we vervolgens neutraal bij elkaar voegen. We zien de wereld steeds vanuit bepaalde patronen, verwachtingen en achtergronden. Wat we als een geheel ervaren, hangt mede af van wat we op de voorgrond plaatsen en wat buiten beeld blijft. Ook een wereldbeeld dat volkomen logisch lijkt, kan berusten op onuitgesproken aannames die we nooit werkelijk hebben onderzocht. Perls ontleende aan de filosoof Salomon Friedländer het begrip creatieve indifferentie: het denkbeeld van een nulpunt dat voorafgaat aan de tegenstellingen waarin wij de werkelijkheid verdelen. Het onderscheid tussen subject en object, ik en wereld, voorgrond en achtergrond is noodzakelijk om iets te kunnen waarnemen, maar het vertelt niet het hele verhaal over wat er bestaat. Misschien geldt iets vergelijkbaars voor de rationele ordening die we aan de wereld opleggen. We kunnen haar gebruiken om de werkelijkheid te begrijpen, maar we moeten oppassen dat we haar niet verwarren met de werkelijkheid zelf.
De dadaïsten hadden daar aan het begin van de twintigste eeuw al op hun eigen manier een vermoeden van. Zij zetten de gevestigde orde van de kunst op zijn kop, maakten gedichten van klanken zonder betekenis en lieten de logica ontsporen door woorden en beelden met elkaar te verbinden op manieren die niemand had voorzien. Hun optreden was niet alleen een aanval op de burgerlijke smaak, maar ook een provocatie aan het adres van de ratio. Waarom zou een gedicht begrijpelijk moeten zijn? Waarom zou een kunstwerk iets moeten voorstellen? En waarom zou het leven zich moeten voegen naar de keurige onderscheidingen waarmee wij het overzichtelijk proberen te maken? Dada liet zien dat betekenis niet altijd voorafgaat aan een vorm, maar soms pas ontstaat doordat bestaande elementen onverwacht naast elkaar komen te staan. Een tafel kan een stoel worden, een geluid kan muziek worden en een reeks toevallige woorden kan een gedicht opleveren. Het ongerijmde is dan geen gebrek aan orde, maar een mogelijkheid om een andere orde te ontdekken.
Die gedachte krijgt een nieuwe actualiteit wanneer ik kijk naar mijn eigen manier van schrijven. Door omstandigheden heb ik de laatste tijd minder tijd om mijn weblog bij te houden. Daarom ben ik bestaande teksten uit mijn omvangrijke archief opnieuw gaan gebruiken. Ik haal zinnen en alinea’s uit hun oorspronkelijke verband en plaats ze in een nieuwe omgeving. De methode heet bij Guy Debord détournement: bestaand materiaal wordt toegeëigend en omgebogen, zodat het een andere betekenis krijgt. In mijn geval gaat het om mijn eigen teksten, die inmiddels samen een omvangrijk geheugen van mijn schrijversleven vormen. Wat gisteren nog een afgerond betoog leek, kan vandaag een bouwsteen zijn voor iets anders. Met behulp van ChatGPT kan ik zulke fragmenten combineren, verschuiven en opnieuw formuleren. Het resultaat is een tekst die nieuw lijkt, hoewel de onderdelen soms al jaren in mijn archief liggen. Ik schrijf dus door mijn eigen verleden heen, alsof ik in een huis woon waarvan ik telkens opnieuw de kamers inricht. Het is een merkwaardige vorm van creativiteit, waarbij niet de oorspronkelijke gedachte maar de nieuwe samenhang het verschil maakt.
Hier komt voor mij het overbodige opnieuw in beeld. Wie een oud weblog-bericht opnieuw gebruikt, zou dat kunnen beschouwen als een vorm van gemakzucht. Het is immers geen nieuw materiaal dat met veel inspanning uit de werkelijkheid is opgedolven. Maar misschien is die beoordeling te eenvoudig. Een archief is geen verzameling dode resten. Het is een voorraad mogelijkheden die pas zichtbaar worden wanneer de omstandigheden veranderen. Een zin die ooit een ondergeschikte rol speelde, kan jaren later ineens het uitgangspunt vormen voor een heel ander betoog. Wat overbodig leek, blijkt een verborgen functie te hebben gehad. Dat doet denken aan de vroegere opvatting over het zogenoemde junk-DNA, het deel van het menselijk genoom waarvan lange tijd werd gedacht dat het geen betekenisvolle functie vervulde. Inmiddels is duidelijk geworden dat veel niet-coderende DNA-gebieden betrokken zijn bij complexe regulerende processen, al is niet ieder onderdeel daarvan functioneel verklaard. Het beeld van een genetische woestijn met hier en daar een bruikbaar eilandje heeft plaatsgemaakt voor een veel ingewikkelder voorstelling van onderlinge samenhang. Het geheel blijkt meer te zijn dan een optelsom van afzonderlijke onderdelen.
Daarom zouden we ook anders kunnen kijken naar de technologische ontwikkeling. De gevaren van kunstmatige intelligentie zijn reëel en kunnen niet worden afgedaan als een overdreven angst voor het onbekende. Systemen die zelfstandig opdrachten uitvoeren, kunnen worden misbruikt voor cyberaanvallen, de ontwikkeling van gevaarlijke biologische middelen en grootschalige manipulatie. Autoritaire regimes kunnen ze inzetten om burgers voortdurend te observeren en afwijkende meningen op te sporen. Ook democratische regeringen en particuliere ondernemingen kunnen steeds meer beslissingen aan algoritmen overlaten, omdat die sneller en goedkoper lijken te werken dan menselijke procedures. Tegelijkertijd kan de automatisering van intellectuele arbeid de economische verhoudingen ingrijpend veranderen. Wanneer machines niet alleen spierkracht, maar ook steeds meer menselijke denkvaardigheden overnemen, dreigen banen, bestaanszekerheid en maatschappelijke status onder druk te komen staan. De opbrengsten kunnen bovendien terechtkomen bij een kleine groep ondernemingen die de infrastructuur en de rekenkracht bezit. De vraag is dus niet alleen wat AI technisch mogelijk maakt, maar ook wie de macht krijgt om te bepalen waarvoor die mogelijkheden worden gebruikt.
Zo ontstaat een wereld waarin het nuttige en het meetbare de enige maatstaven zijn geworden. Wanneer efficiëntie het hoogste doel wordt, dreigt alles wat zich niet eenvoudig laat berekenen buiten de orde te vallen. Menselijke relaties kunnen worden vervangen door systemen die altijd beschikbaar zijn en zich vrijwel onbeperkt aan onze wensen aanpassen. Beslissingen over zorg, werk en veiligheid kunnen worden overgelaten aan modellen waarvan de uitkomsten moeilijk te doorgronden zijn. En wanneer de productiviteit van een mens steeds nadrukkelijker wordt afgemeten aan wat hij kan bijdragen aan een economisch proces, ontstaat de merkwaardige situatie dat we onszelf overbodig dreigen te maken met behulp van onze eigen uitvindingen. Maar een samenleving is geen machine waarin ieder onderdeel een duidelijk omschreven functie moet vervullen. Mensen hebben tijd nodig om te treuzelen, te twijfelen, te mislukken en van gedachten te veranderen. Juist in die ogenschijnlijk verloren momenten kan iets ontstaan wat niet uit een vooraf vastgesteld doel valt af te leiden. Wie alle verspilling wil uitbannen, loopt het risico ook de voorwaarden voor vernieuwing te vernietigen.
Daarom lijkt mij de adolescentie een treffend beeld voor onze huidige verhouding tot kunstmatige intelligentie. Een adolescent ontdekt dat hij meer kan dan hij tot dusver dacht, maar moet nog leren dat vermogen niet hetzelfde is als inzicht en vrijheid niet hetzelfde als onbegrensde macht. Ook de mensheid beschikt met AI over een nieuw soort intellectuele slagkracht, zonder dat daarmee automatisch duidelijk wordt hoe zij die moet gebruiken. Amodei pleit daarom voor onderzoek naar de werking van neurale netwerken, voor veiligheidstests, wettelijke grenzen en internationale samenwerking. Zulke maatregelen zijn noodzakelijk, maar uiteindelijk is ook een bredere culturele verandering nodig. We moeten niet alleen leren hoe we intelligentere systemen kunnen bouwen, maar ook hoe we voorkomen dat de logica van die systemen onze hele voorstelling van het goede leven gaat bepalen. Een democratie kan niet worden gereduceerd tot een rekensom, evenmin als een mens kan worden teruggebracht tot een verzameling meetbare prestaties. Technologie moet onderworpen blijven aan menselijke verantwoordelijkheid, en niet andersom.
Het ideeëngoed van dada zou ons kunnen helpen om die verantwoordelijkheid scherper te zien. Niet omdat we de wereld met lawaai, onzin en ongerijmde gedichten van haar problemen kunnen verlossen, maar omdat dada ons eraan herinnert dat geen enkel systeem het laatste woord mag opeisen. De dadaïst wantrouwt de pretentie dat alles uiteindelijk rationeel kan worden verklaard en dat iedere afwijking moet worden gecorrigeerd. Hij verdedigt het recht om de zaken eens om te draaien, om een andere samenhang te ontdekken en om iets te maken zonder dat het nut ervan vooraf vaststaat. In die zin is dada geen vlucht uit de werkelijkheid, maar een manier om haar opnieuw te openen. Het overbodige krijgt dan een onverwachte politieke betekenis. Het staat voor alles wat zich niet volledig laat inpassen in de logica van productie, controle en rendement. Het is de ruimte waarin mensen nog iets kunnen doen waarvan niemand precies weet wat het zal opleveren.
Wanneer ik mijn oude teksten door elkaar hussel en ChatGPT vraag om er een nieuw verhaal van te maken, doe ik dus iets wat zowel heel modern als merkwaardig ouderwets is. Ik maak gebruik van een technologie die steeds meer intellectuele taken kan overnemen, maar ik probeer tegelijk de uitkomst niet volledig vast te leggen. De tekst mag een onverwachte afslag nemen, een oude gedachte kan in een vreemd licht komen te staan en een zin die ooit over dada ging, kan ineens iets zeggen over kunstmatige intelligentie. Wie spreekt er dan eigenlijk? De schrijver, het archief, de machine of de toevallige ontmoeting tussen die drie? Ik weet het niet precies. Maar misschien hoeft dat ook niet. Het belangrijkste is dat er iets ontstaat wat niet van tevoren in zijn geheel aanwezig was. Dat is geen bewijs dat een machine bewustzijn bezit of dat iedere toevallige combinatie betekenisvol is. Het is wel een reden om creativiteit niet uitsluitend te begrijpen als de uitvoering van een plan.
Alles is er misschien al, maar dat betekent niet dat alles al gezegd is. De wereld bevat een onuitputtelijke hoeveelheid materiaal, terwijl de betekenis ervan telkens opnieuw ontstaat in veranderende verbanden. Daar ligt zowel de belofte als het gevaar van de kunstmatige intelligentie. Zij kan ons helpen verbanden te ontdekken die we zelf niet hadden gezien, maar ook een wereld bevorderen waarin ieder verschijnsel onmiddellijk wordt geclassificeerd, benut en onder controle gebracht. Het verschil hangt niet alleen af van de techniek, maar ook van de ruimte die wij haar laten en van de grenzen die wij stellen. Misschien begint technologische volwassenheid daarom met een bescheiden erkenning: wij weten niet alles, wij kunnen niet alles voorzien en niet alles wat waardevol is, hoeft nuttig te zijn. Soms is het verstandig een systeem te verbeteren. Soms is het verstandiger het even met rust te laten en uit het raam te kijken. Dada zou zeggen: houdt halt, voordat ook het laatste overbodige uit de wereld is verdwenen. Want een beschaving die alles wil optimaliseren, kan uiteindelijk vergeten waarvoor zij dat eigenlijk deed. En als dat gebeurt, is het misschien tijd om de boel eens flink door elkaar te schudden. Ruim baan voor de vruchtbare waanzin! DADA SIEGT!