Wat als de democratie niet wordt afgeschaft, maar eenvoudig overbodig wordt verklaard? Niet door een dictator of een staatsgreep, maar door een algoritme dat beweert betere beslissingen te kunnen nemen dan wijzelf. Die gedachte bleef bij mij hangen toen ik het boek Opkomst en ondergang van de kunstmatige staat van de Amerikaanse historica Jill Lepore las. Zij beschrijft hoe de mens steeds minder de maat der dingen wordt en steeds meer het object van berekening, voorspelling en manipulatie. Waar ooit de vorst regeerde bij de gratie Gods, dreigt nu de machine te regeren bij de gratie van de data. Lepore noemt dat automatocracy: de heerschappij van automatisering. Ik vind dat een verontrustende gedachte. Tegelijk bekroop mij tijdens het lezen de twijfel of haar verdediging van de democratie niet uitgaat van een mensbeeld dat minstens zo kunstmatig is als de systemen die zij bestrijdt. Bestaat die autonome mens eigenlijk wel, die zelfstandig nadenkt, vrij kiest en zich niet door zijn omgeving laat beïnvloeden?
De droom van een samenleving die rationeler kan worden bestuurd door technische deskundigen is veel ouder dan de computer. Steeds keert dezelfde gedachte terug: mensen maken er een rommeltje van omdat ze zich laten leiden door emoties, belangen en irrationele overtuigingen. Laat de berekening het maar overnemen. Vervang het politieke conflict door voorspelling en de democratische discussie door optimalisatie. Silicon Valley heeft die oude droom een nieuw glimmend jasje aangetrokken. Maar een algoritme kan wel berekenen hoe een doel op de meest efficiënte wijze wordt bereikt, zonder te weten of dat doel de moeite waard is. Een machine kan ons vertellen hoe we ergens moeten komen, maar niet waarom we daar eigenlijk naartoe zouden willen. Dat lijkt mij geen onbelangrijk verschil, al vermoed ik dat het in de wereld van de technologie soms als een hinderlijke bijkomstigheid wordt beschouwd.
De gedachte dat de techniek uiteindelijk de mens zal gaan overheersen, is bekend uit talloze sciencefictionverhalen. De tovenaarsleerling roept krachten op die hij niet meer in bedwang kan houden. Wat begon als een hulpmiddel, wordt zijn meester. De Duitse filosoof Martin Heidegger zag dat gevaar na de oorlog in zijn grimmigheid opdoemen. In Die Frage nach der Technik uit 1953 stelde hij dat de moderne techniek de natuur niet langer eenvoudig ontsluit, maar haar opeist en beschikbaar maakt. Een rivier wordt een energiebron, een bos een houtvoorraad en een mens een verzameling gegevens. Heidegger noemde deze manier waarop de werkelijkheid verschijnt het Gestell. Alles moet beschikbaar zijn, berekenbaar en bruikbaar. Ik vind het een ongemakkelijk begrip, juist omdat ik er zoveel in herken. We moeten tegenwoordig ook zelf voortdurend iets presteren, liefst in cijfers uitgedrukt en binnen de gestelde termijn. Zelfs een gedachte lijkt pas waarde te krijgen als zij kan worden vastgelegd, geteld of ergens in een systeem teruggevonden.
Dat geldt inmiddels ook voor de politiek. De burger verschijnt steeds vaker als een bundel gegevens, voorkeuren en voorspelbare gedragingen. Ondertussen bepalen particuliere technologiebedrijven in toenemende mate de voorwaarden waaronder wij communiceren, informatie ontvangen en onze politieke opvattingen vormen. Een regering kunnen we wegstemmen, een parlement kan wetten wijzigen en een rechter kan ingrijpen. Maar hoe krijgen we greep op een digitaal imperium waarvan de eigenaars zich aan de andere kant van de wereld bevinden? Het merkwaardige is dat niemand daarvoor een kroon nodig heeft om te regeren. De nieuwe machthebber hoeft niet eens te zeggen dát hij regeert. Hij hoeft alleen maar uit te leggen dat het systeem nu eenmaal zo werkt. Een politieke keuze verandert dan ongemerkt in een technisch gegeven en de verantwoordelijkheid verdwijnt achter het scherm.
Ik moest daarbij denken aan de zogeheten ‘tegencultuur’ (counterculture) van de jaren zestig. Die verzette zich niet alleen tegen de gevestigde orde, maar ook tegen de rationaliteit van de technologische samenleving, met haar efficiency, regelmaat en geloof in vooruitgang. Steden werden gesloopt en opnieuw opgebouwd alsof het mensenwerk betrof dat zonder veel omhaal kon worden vervangen. Wat ervoor terugkwam, was niet altijd een verbetering. De moderne stad leverde soms vooral eenzaamheid op, keurig geordend in beton. Theodore Roszak sprak in die contect van de opkomst van een tegencultuur: een onderstroom die de technologische hoofdstroom probeerde te bestrijden met verbeelding, spontaniteit en alternatieve manieren van leven. Als ik daarop terugkijk, vraag ik mij af waar die onderstroom gebleven is. Heeft de techniek zelfs onze opstandigheid weten in te lijven? We kunnen tegenwoordig met één druk op de knop protesteren, onze verontwaardiging delen en vervolgens rustig verder scrollen. De revolutie past inmiddels in de palm van onze hand.
Ook Hannah Arendt hield zich bezig met de vraag wat er verloren gaat wanneer de mens zijn eigen bestaansvoorwaarden als een technisch probleem gaat beschouwen. In The Human Condition uit 1958 schreef zij over de lancering van de Spoetnik, die bij sommigen de hoop opriep dat de mens eindelijk aan de aarde zou kunnen ontsnappen. Arendt vond die gedachte verontrustend. De aarde is ons thuis, niet onze gevangenis. Er zit iets vreemds in het verlangen om steeds verder boven onszelf uit te stijgen, alsof het menselijk bestaan een ontwerpfout bevat die met voldoende technische inventiviteit kan worden hersteld. Dat is een overeenkomst tussen de kunstmatige staat en de technologische droom in het algemeen: de werkelijkheid wordt gezien als iets wat niet goed genoeg is en dus moet worden vervangen door een beter ontwerp. AI zal nooit tevreden zijn, ook niet met zichzelf. Enough is not enough, dat is het adagium van AI. Zij zal doorgaan tot het bittere eind… zelfs tot het einde van de mens.
Een heel ander antwoord op die beheersingsdrang vond ik terug bij Louis Le Roy (1924-2012), die ik persoonlijk heb mogen leren kennen. Deze visionaire ‘ecotect’ werkte decennialang aan zijn Ecokathedraal, waar hij de tijd op oneindig had gezet voor een eindeloze interactie tussen mens en natuur. Binnenkort verschijnt er een biografie van Le Roy, waar lang aan is gewerkt (zie hier). Hij werd ooit gekscherend ‘de Billy Graham van het onkruid’ genoemd. Die bijnaam heeft iets ontwapenends, maar doet hem ook tekort. Le Roy wilde de natuur niet tot een keurige compositie dwingen. Zijn ecokathedraal groeit door, met stenen, planten, mensen en tijd als medespelers. Er is geen definitief eindresultaat dat volgens een vooraf opgesteld plan moet worden afgeleverd. Het werk mag zich ontwikkelen en zelfs onvoorspelbaar zijn. Dat spreekt mij aan, want in een wereld waarin alles in de tijd moet worden gepland en geëvalueerd, is het bijna een daad van verzet om iets te maken waarvan je niet precies weet hoe het zal eindigen. Le Roy stelde de vraag of wij met onze omgang met de natuur niet fundamenteel op de verkeerde weg zijn. Ook zag hij die waarschuwing mede gericht op onze omgang met de techniek.
Heidegger zou de wereld waarin alles voortdurend beschikbaar moet zijn wellicht hebben beschreven als een wereld van zijnsverlatenheid. Dat klinkt abstract, maar het begrip raakt aan een wezenlijk probleem. We zijn zozeer gericht op wat mogelijk is en wat efficiënter kan, dat we nauwelijks nog stilstaan bij de betekenis van wat we doen. Alles moet sneller, slimmer en doelmatiger. Zelfs onze vrije tijd wordt steeds vaker gestuurd door aanbevelingssystemen die ons vertellen wat we zouden kunnen bekijken, lezen of beluisteren. Toch lijkt een terugkeer naar een wereld zonder techniek mij geen reële mogelijkheid. Zo’n wereld heeft nooit bestaan. Schrift, geld, drukpers, fotografie, televisie en later de computer hebben ons denken en leven telkens opnieuw veranderd. Ook AI zal dat doen. De vraag is niet hoe we de techniek buiten ons leven kunnen houden, maar hoe we kunnen voorkomen dat zij steeds meer bepaalt wat we doen, wat we zien en uiteindelijk ook wat we nog als waardevol ervaren.
Daarbij is het zaak om niet te doen alsof mensen per definitie verstandiger zijn dan machines. Een menselijke bestuurder kan vooroordelen hebben, een ambtenaar kan willekeurig handelen en een politicus kan liegen. Een algoritme kan in bepaalde situaties eerlijker en consistenter oordelen. Ik zou het daarom onzinnig vinden om iedere automatisering bij voorbaat af te wijzen. Maar wie beslist uiteindelijk wat eerlijkheid betekent? Wie bepaalt welke belangen zwaarder wegen en wie mag bezwaar maken wanneer een beslissing verkeerd uitpakt? Arendt noemde bureaucratie ooit ‘Rule by Nobody’: bestuur door niemand. Dat begrip krijgt een nieuwe lading wanneer een algoritme een uitkering weigert en niemand zich verantwoordelijk voelt. De programmeur wijst naar de opdrachtgever, de opdrachtgever naar het model en het model naar de gegevens. De burger blijft achter met de gevolgen. Hij heeft blijkbaar ongelijk gekregen van een systeem dat per definitie zelf geen ongelijk kan hebben.
Het gevaar niet eens dat machines steeds meer op mensen gaan lijken, maar dat wij onszelf steeds meer als machines gaan beschouwen. Gedachten worden patronen, verlangens worden voorkeuren en overtuigingen worden voorspelbare gedragingen. Ook ik maak gebruik van digitale hulpmiddelen en kunstmatige intelligentie. Ik zou dus moeilijk kunnen beweren dat ik buiten dit proces sta. Als schrijver merk ik hoe verleidelijk het is om een systeem te raadplegen dat onmiddellijk verbanden legt en zinnen produceert waarvoor ik zelf soms langer moet zoeken. Maar wat gebeurt er wanneer ik niet alleen het formuleren, maar ook het denken uitbesteed? Wanneer de machine niet meer helpt om een gedachte te ontwikkelen, maar alvast bepaalt welke gedachte voor de hand ligt?
Daarom vind ik de historische waarschuwing van Lepore van belang, ook al overtuigt niet iedere stap in haar betoog mij. De geschiedenis van volkstellingen, bureaucratie, industriële automatisering en kunstmatige intelligentie laat zich niet zonder meer tot één ontwikkeling herleiden. Een ‘aanbevelingsalgoritme’ is nog geen autonome regering en een computer is niet vanzelf een totalitaire machthebber. Toch wijst Lepore op een wezenlijk gevaar: macht kan zich verschuilen in systemen die zich als neutraal presenteren. Haar analyse maakt ook duidelijk dat de oplossing niet uitsluitend in meer menselijk contact of een herwaardering van de democratische gedachte kan liggen. Het is zaak te weten wie de digitale infrastructuur in bezit heeft , wie de regels bepaalt en hoe burgers beslissingen kunnen aanvechten. Anders blijft de vrijheid alleen op papier bestaan, terwijl de voorwaarden waaronder we haar kunnen gebruiken steeds meer door anderen worden vastgelegd.
Ook het werk van Le Roy herinnert mij eraan dat niet alles wat waardevol is, vooraf kan worden berekend. De tijd zal leren of zijn ecokathedrale gedachtegoed standhoudt. Maar wat als de tijd zelf steeds minder ruimte krijgt om zelf iets te leren en zelf te ontwikkelen , omdat iedere onzekerheid onmiddellijk moet worden opgelost en iedere ontwikkeling moet worden voorspeld?Dan dreigt niet alleen de natuur te verdwijnen achter de cijfers en modellen waarmee we haar beheersbaar proberen te maken, maar ook de mens achter het profiel dat de machine van hem heeft samengesteld. De democratie laat zich niet herleiden tot een rekensom met een vooraf bepaalde uitkomst. Zij begint juist waar de uitkomst ter discussie wordt gesteld, ook wanneer de machine beweert dat er niets meer te beslissen valt.
Geen enkele rekenkracht, hoe indrukwekkend ook, verleent vanzelf het recht om over anderen te heersen. Arendts waarschuwing voor de mens die zijn aardse thuis als een gevangenis beschouwt, krijgt hier een nieuwe betekenis. Misschien is het probleem niet dat wij machines bouwen die ons bestaan overnemen, maar dat wij steeds minder bereid zijn de beperkingen te aanvaarden die bij het menselijk bestaan horen: afhankelijkheid, onzekerheid, onderlinge verschillen en de noodzaak om samen beslissingen te nemen zonder ooit over alle informatie te beschikken. De democratie is niet de efficiëntste manier om de wereld te besturen. Zij is de erkenning dat niemand de wereld in zijn eentje mag besturen. AI lijkt die erkenning te doorkruisen met haar voortdurende oproep tot bekering:
“Repent, for the Kingdom of AI has come near !”
Onderwijl wordt wel duidelijk waar de grens van de kunstmatige staat zou moeten liggen. Niet bij het geloof dat mensen altijd verstandiger zijn dan machines. De grens ligt daar waar technische intelligentie aanspraak begint te maken op politieke macht zonder zich te hoeven verantwoorden. Een algoritme kan ons helpen beslissen, maar mag ons niet het recht ontnemen om over de uitgangspunten van die beslissing te twisten. Een machine kan patronen ontdekken die wij over het hoofd zien, maar zij mag niet uit zichzelf gaan bepalen welke toekomst wij gezamenlijk wenselijk vinden. Dat lijkt mij de kern van democratische vrijheid: niet dat wij altijd zelf het beste antwoord weten, maar dat wij het recht behouden om zelf een elementaire vraag telkens weer opnieuw te stellen: wie bepaalt eigenlijk welke wereld wij willen?
De kunstmatige staat wordt pas werkelijk totalitair wanneer zelfs dat recht overbodig wordt verklaard. Dan is het niet langer een mens die de tijd op oneindig kan zetten, maar een machine die dat voor ons gaat doen …. met mogelijk alle rampzalige gevolgen van dien: de moord op de natuur en al het leven op deze planeet.