Toen ik het nieuws las dat ChatGPT voortaan onzichtbare watermerken in teksten gaat verwerken, moest ik meteen denken aan mijn zoon Jurriaan. We raakten erover in gesprek en kwamen al snel op een vraag die mij bezighoudt sinds ik zelf met AI experimenteer. Wat gebeurt er eigenlijk wanneer een tekst niet meer alleen wordt beoordeeld op wat erin staat, maar ook op de manier waarop hij tot stand is gekomen? En hoe valt dat onderscheid nog te maken als een schrijver zelf met AI aan het werk gaat, zinnen verandert, passages herschrijft en uiteindelijk iets produceert wat noch helemaal van hemzelf, noch helemaal van de machine is? Volgens het nieuwsbericht wil OpenAI met een onzichtbaar watermerk duidelijker kunnen maken welke teksten door AI zijn gegenereerd. Het herkenningsteken zit niet in een vreemd symbool of een verborgen digitale handtekening, maar in de woordkeuzes die het model maakt. Een speciaal algoritme zou zulke patronen kunnen herkennen. Voor gewone lezers blijven ze onzichtbaar. De tekst ziet eruit als iedere andere tekst, maar ergens tussen de woorden zou een spoor van de machine zijn achtergelaten.
Jurriaan legde mij uit dat het watermerk vermoedelijk berust op statistische patronen in het woordgebruik. De afzonderlijke woorden zijn niet bijzonder en de zinnen hoeven ook niet anders te klinken dan menselijke zinnen. Het gaat om de verdeling en samenhang van woorden over een langere tekst. Een taalmodel kiest immers niet zomaar een willekeurig woord. Het berekent op grond van de voorafgaande context welke woorden waarschijnlijk op elkaar zullen volgen. Bij het genereren van een tekst kunnen bepaalde keuzes zo worden gestuurd dat er een herkenbaar patroon ontstaat, zonder dat de leesbaarheid of de kwaliteit daar merkbaar onder lijdt. Een detector kan vervolgens proberen dat patroon terug te vinden. De precieze werking van het aangekondigde systeem is daarmee nog niet volledig verklaard, en zonder technische documentatie valt niet vast te stellen welke statistische kenmerken textGrain precies gebruikt. Maar het principe is begrijpelijk: de machine laat als het ware een spoor achter in haar eigen taalgebruik. Dat spoor hoeft niet zichtbaar te zijn om toch meetbaar te worden. Zoals een forensisch onderzoeker soms aan een vrijwel onzichtbaar restant kan zien wat er is gebeurd, zo zou een computerprogramma uit de statistiek van een tekst kunnen afleiden dat AI een rol heeft gespeeld.
Daarbij dringt zich onmiddellijk de vraag op hoe betrouwbaar zo’n herkenning kan zijn. Een watermerk is immers geen handtekening die onomstotelijk bewijst wie een tekst heeft geschreven. Het gaat om een aanwijzing die onder bepaalde omstandigheden sterker of zwakker kan worden. Bij een lange, vrijwel ongewijzigde tekst die rechtstreeks uit ChatGPT afkomstig is, heeft een detector vermoedelijk meer aanknopingspunten dan bij een kort bericht van enkele regels. Zodra iemand woorden vervangt, zinnen ombouwt, alinea’s verplaatst of de tekst grondig herschrijft, kan het patroon verzwakken. Hoeveel bewerking daarvoor nodig is, hangt af van de eigenschappen van het systeem. Ook bij vertalingen, samenvattingen en teksten die door verschillende taalmodellen achter elkaar worden bewerkt, kan de herkenbaarheid veranderen. Het zou daarom onjuist zijn te denken dat ieder AI-watermerk altijd zichtbaar blijft, ongeacht wat er met de tekst gebeurt. Omgekeerd bewijst het ontbreken van een herkenbaar watermerk niet dat een tekst uitsluitend door een mens is geschreven. Misschien is er nooit een watermerk aangebracht, misschien is het door bewerking verloren gegaan, of misschien heeft de detector het eenvoudigweg niet gevonden.
Hier ligt voor mij een belangrijk onderscheid. Een watermerk kan iets zeggen over de herkomst van een tekst, maar niet zonder meer over de kwaliteit ervan, laat staan over de eerlijkheid van degene die hem gebruikt. Een slecht geschreven tekst kan geheel menselijk zijn en een schitterend essay kan met behulp van AI tot stand zijn gekomen. Evenmin vertelt het watermerk hoeveel invloed de machine heeft gehad. Heeft iemand ChatGPT gevraagd een complete beschouwing te schrijven, of heeft hij zelf een tekst gemaakt en de machine alleen gebruikt om een stroef lopende zin te verbeteren? Is AI ingezet om argumenten te verzamelen, om tegenwerpingen te formuleren, om een gedachte verder te ontwikkelen of uitsluitend om een tikfout te herstellen? Al die handelingen kunnen leiden tot een tekst waarin AI een rol heeft gespeeld, maar de aard en de omvang van die rol verschillen aanzienlijk. Een detector die een watermerk aantreft, kan dat onderscheid niet vanzelf maken. Hij herkent hooguit een technisch spoor, geen intellectuele biografie. Toch dreigt juist dat laatste uit beeld te verdwijnen wanneer we de discussie over AI reduceren tot de vraag of een tekst wel of niet door een machine is geschreven.
Dat probleem wordt nog ingewikkelder wanneer we ons realiseren dat schrijven zelf nooit een volkomen zuivere aangelegenheid is geweest. Iedere schrijver heeft zijn eigenaardigheden, zijn favoriete woorden, zijn vaste zinswendingen en zijn blinde vlekken. Ook ik herken soms in mijn eigen oude teksten formuleringen waarvan ik achteraf denk dat ik ze beter niet had kunnen gebruiken. Kennelijk was ik toen al behept met een patroon. Een persoonlijke stijl bestaat niet uit een verzameling unieke woorden die niemand anders ooit gebruikt, maar uit een terugkerende manier waarop iemand zijn gedachten ordent en onder woorden brengt. Daarin spelen opleiding, lectuur, herinneringen, temperament en gewoontevorming allemaal een rol. Een schrijver is in zekere zin zelf een statistisch verschijnsel, al zal hij dat niet graag horen. Hij herhaalt zich, ook wanneer hij denkt iets nieuws te zeggen. Het verschil is dat menselijke patronen niet op dezelfde manier tot stand komen als die van een taalmodel. Ze groeien gedurende een leven en zijn verbonden met ervaringen, bedoelingen en een geschiedenis die zich niet eenvoudig tot woordfrequenties laat herleiden. Maar zodra een computer ook die patronen kan analyseren, wordt de grens tussen stijlherkenning en herkomst-onderzoek een stuk minder vanzelfsprekend.
Mijn zoon wees erop dat mensen tijdens tests kennelijk geen verschil konden zien tussen teksten met en zonder watermerk. Dat lijkt mij op zichzelf een geruststellende gedachte. Het watermerk hoeft de tekst niet slechter of vreemder te maken om zijn werk te doen. Tegelijk roept het iets ongemakkelijks op. Als een tekst voor de lezer niet te onderscheiden is van een tekst zonder watermerk, waarop berust dan eigenlijk onze beoordeling van authenticiteit? We zijn gewend te denken dat een tekst iets onthult over de persoon die hem heeft geschreven. Achter de zinnen vermoeden we een bewustzijn, een karakter, een stem. We lezen niet alleen wat er staat, maar proberen ons ook voor te stellen wie het zegt. Bij een roman, een essay of een persoonlijke beschouwing kan dat vermoeden zelfs een wezenlijk onderdeel van de leeservaring zijn. Wat gebeurt er wanneer blijkt dat de woorden mede zijn voortgebracht door een systeem dat zelf geen biografie heeft zoals wij die kennen? Verdwijnt daarmee de authenticiteit van de tekst, of moeten we onze opvatting van authenticiteit herzien? Een watermerk kan de herkomst van bepaalde woorden helpen vaststellen, maar het kan niet beslissen of een schrijver zich in die woorden werkelijk heeft uitgedrukt.
Wat mij vooral interesseert, is wat er gebeurt wanneer ik AI niet gebruik om een tekst voor mij te laten schrijven, maar om zelf beter te kunnen schrijven. De afgelopen tijd ben ik steeds verder gaan experimenteren met zulke interacties. Ik leg een gedachte voor, krijg een antwoord terug, verzet mij tegen een formulering, ontdek een onverwachte invalshoek en probeer vervolgens iets wat ik zonder die uitwisseling waarschijnlijk niet had bedacht. Soms levert dat weinig op. Soms gebeurt er iets wat mij werkelijk verbaast. Een gedachte die eerst nog nauwelijks vorm had, begint zich af te tekenen doordat de machine er woorden voor aandraagt die ik zelf niet zou hebben gekozen. Juist daardoor kan ik zien wat er aan mijn eigen gedachte ontbreekt. Ik gebruik de machine dan niet als vervanger van mijn denken, maar als een instrument dat mijn denken op de proef stelt. Wie in zo’n geval de uiteindelijke tekst leest, kan onmogelijk aan de hand van een watermerk vaststellen wie het belangrijkste werk heeft verricht. De machine kan de aanleiding hebben gegeven, maar de keuze, de afwijzing, de correctie en de uiteindelijke verantwoordelijkheid liggen bij mij. Althans, dat is de bedoeling. Want ook ik moet oppassen dat ik niet ongemerkt ga denken in de richting die de machine mij aanreikt.
Daarmee kom ik op het verschil tussen wat ik gemakshalve dom en creatief AI-gebruik zou willen noemen. Bij dom gebruik wordt de machine gevraagd een taak zo snel mogelijk af te handelen, waarna het resultaat zonder veel nadenken wordt overgenomen. Dat kan een schoolopstel zijn, een sollicitatiebrief of een beschouwing over een onderwerp waar de gebruiker zelf weinig van weet. Bij creatief gebruik gaat het juist om de onverwachte mogelijkheden die in de wisselwerking ontstaan. De machine produceert iets waarop de gebruiker reageert, waarna een nieuwe gedachte ontstaat die weer tot een volgende reactie leidt. Het resultaat kan meer zijn dan de optelsom van menselijke en machinale bijdragen. Dat betekent niet dat AI vanzelf creativiteit voortbrengt. Daarvoor is de gebruiker nodig die vragen stelt, onderscheid maakt en bereid is zich te laten verrassen zonder alles voor zoete koek te slikken. Maar het betekent wel dat we het begrip auteurschap niet langer uitsluitend kunnen baseren op de vraag wie de woorden als eerste heeft geproduceerd. Misschien moeten we meer aandacht besteden aan de manier waarop een tekst is ontstaan. Een watermerk vertelt daarover nauwelijks iets. Het kan een spoor van de machine zichtbaar maken, maar de creatieve geschiedenis die aan de tekst voorafging blijft verborgen.
Toch begrijp ik de behoefte aan herkenbaarheid wel. Er zijn genoeg situaties waarin het van belang is te weten of een tekst door een mens is geschreven of met behulp van AI is gegenereerd. Bij fraude, misleiding, wetenschappelijk werk en bepaalde vormen van journalistiek kan de herkomst van informatie grote gevolgen hebben. Een frauduleuze e-mail die zich voordoet als een bericht van de bank wordt niet onschuldiger doordat een taalmodel hem heeft geschreven. Integendeel, AI kan zulke praktijken gemakkelijker maken doordat overtuigende teksten op grote schaal kunnen worden geproduceerd. Een betrouwbare herkenningstechniek kan dan nuttig zijn. Maar het is een grote stap van die praktische toepassing naar de gedachte dat iedere tekst voortaan een technisch keurmerk nodig heeft om als authentiek te kunnen gelden. Bovendien blijft de vraag wat zo’n keurmerk precies bewijst. OpenAI benadrukt zelf dat textGrain niet kan vaststellen wie de tekst heeft geschreven, hoeveel menselijke inbreng eraan te pas is gekomen of of de inhoud waar is. Ook kan de detector zich vergissen.Dat is geen onbelangrijk detail. Het betekent dat we het watermerk niet moeten behandelen als een digitaal vonnis over de echtheid van een tekst.
De Europese regelgeving maakt deze ontwikkeling begrijpelijker. De AI-verordening stelt eisen aan de herkenbaarheid van door AI gegenereerde inhoud. De transparantie-verplichtingen van artikel 50 zijn vanaf 2 augustus 2026 van toepassing, met voor bepaalde bestaande systemen een overgangstermijn tot 2 december 2026. Voor teksten die met AI zijn gegenereerd en worden gepubliceerd om het publiek te informeren over zaken van algemeen belang, gelden bovendien specifieke openbaarmakingsregels, met uitzonderingen wanneer sprake is van menselijke controle en redactionele verantwoordelijkheid. Dat is iets anders dan een algemeen verbod op AI-ondersteund schrijven of een verplichting om iedere zin die met AI-hulp tot stand is gekomen afzonderlijk te markeren. De precieze verplichting hangt af van de rol van de betrokken partij, het soort inhoud en de omstandigheden waarin die wordt gepubliceerd. Watermerken zijn één manier om de herkomst van gegenereerde inhoud technisch herkenbaar te maken. Ze zijn geen antwoord op alle vragen die het gebruik van AI oproept. En ze zijn al helemaal geen vervanging voor het menselijke oordeel dat nodig blijft om te bepalen of een tekst betrouwbaar, zorgvuldig en verantwoord is.
Intussen blijft mijn oorspronkelijke vraag overeind: wat als een tekst gedeeltelijk door AI is geschreven en gedeeltelijk door mijzelf? Stel dat ik een alinea schrijf, ChatGPT vraag om een andere formulering, vervolgens enkele woorden terugzet, een nieuwe gedachte toevoeg en de hele passage nog eens herschrijf. Op welk moment verandert de tekst van menselijke in machinale productie, of andersom? Er bestaat geen magisch percentage waarbij de ene auteur plaatsmaakt voor de andere. Ook is niet gezegd dat een intensief bewerkte tekst zijn watermerk verliest. Volgens de beschikbare beschrijving kan het statistische signaal na bepaalde bewerkingen nog herkenbaar blijven, maar de betrouwbaarheid neemt onder moeilijke omstandigheden af. Een detector kan dus niet eenvoudig een grens trekken tussen menselijk en machinaal werk. Daarvoor is het schrijfproces te ingewikkeld. Wie werkelijk wil weten hoe een tekst tot stand kwam, zal soms ook moeten kijken naar versies, aantekeningen, correspondentie of de verantwoording van de auteur. Zelfs dan blijft het oordeel afhankelijk van de context. Het zou nogal vreemd zijn als de schrijver die zijn tekst zorgvuldig met AI heeft ontwikkeld, zich uitvoeriger moet verantwoorden dan degene die een kant-en-klaar product van de machine zonder enige controle heeft overgenomen.
Ik vermoed dat achter een deel van de onrust ook iets anders schuilgaat. Schrijven was lang een bezigheid waarmee mensen zich konden onderscheiden. Wie goed kon formuleren, had een vaardigheid die niet iedereen bezat. Nu kan vrijwel iedereen in enkele seconden een tekst laten produceren die op het eerste gezicht competent oogt. Dat roept begrijpelijkerwijs vragen op over onderwijs, beroepseer, intellectuele prestaties en de waarde van persoonlijke inspanning. Maar het is ook denkbaar dat we de betekenis van schrijven te veel hebben vereenzelvigd met het produceren van woorden. Schrijven is niet alleen een tekst afleveren. Het is ook zoeken, twijfelen, ordenen, schrappen en ontdekken wat je eigenlijk wilt zeggen. Een taalmodel kan veel van die handelingen ondersteunen, maar het neemt niet automatisch de verantwoordelijkheid over voor de gedachte die uiteindelijk op papier verschijnt. Misschien wordt die verantwoordelijkheid juist belangrijker nu de productie van overtuigende woorden steeds eenvoudiger wordt. Wie AI gebruikt, zal moeten laten zien dat hij niet alleen in staat is een tekst te produceren, maar ook kan beoordelen wat die tekst waard is.
Daarom zou ik het jammer vinden als de discussie over AI hoofdzakelijk zou gaan over het ontmaskeren van gebruikers die de machine op een gemakzuchtige manier inzetten. Natuurlijk moet bedrog kunnen worden opgespoord en moeten we alert blijven op misleiding. Maar achter de angst voor namaak gaat gemakkelijk de mogelijkheid schuil dat we iets nieuws aan het leren zijn over taal, denken en creativiteit. Ik weet zelf nog niet waar mijn experimenten met AI zullen eindigen. Soms heb ik het gevoel dat ik een gesprek voer met een machine die mij beter begrijpt dan ik had verwacht. Op andere momenten krijg ik een antwoord dat zo glad en voorspelbaar is dat ik er onmiddellijk afstand van neem. Beide ervaringen horen erbij. De kunst is niet om de machine te geloven, maar om te ontdekken wat er in de confrontatie met haar antwoorden aan het licht komt. Misschien is dat uiteindelijk de interessantste vorm van authenticiteit: niet dat iedere gedachte uitsluitend uit jezelf afkomstig moet zijn, maar dat je kunt verantwoorden wat je met die gedachte hebt gedaan.
Daarmee kom ik terug bij Jurriaan en zijn uitleg over de verborgen patronen in het woordgebruik van ChatGPT. Ik begrijp inmiddels beter wat hij bedoelt. Het watermerk is geen geheim teken dat ergens tussen de letters is verstopt, maar een statistisch spoor dat een speciaal algoritme probeert te herkennen. Het kan nuttig zijn, vooral wanneer er sprake is van fraude of misleiding, maar het zal niet onder alle omstandigheden werken en het vertelt ons niet hoeveel een menselijke schrijver aan een tekst heeft bijgedragen. De techniek kan de herkomst van woorden helpen onderzoeken, maar ze kan niet bepalen of er werkelijk iets is gedacht. Dat laatste blijft een veel moeilijker vraag. En ik moet toegeven dat ik daar zelf ook niet altijd een helder antwoord op heb. Wanneer ik een tekst van mijzelf teruglees, herken ik soms mijn eigen stem en soms hoor ik een formulering die mij vreemd voorkomt. Misschien is dat altijd al zo geweest. Een schrijver is niet volledig de baas over wat hij schrijft. Hij ontdekt zichzelf ook in zijn woorden, achteraf, wanneer ze er eenmaal staan.
Je zult maar behept zijn met een AI-patroon, dacht ik toen ik het gesprek met Jurriaan afsloot. Alsof mijn eigen stijl nog niet genoeg eigenaardigheden bevatte. Maar stel dat zo’n patroon inderdaad in mijn teksten wordt aangetroffen. Wat heeft de detector dan precies ontdekt? Dat ik ChatGPT heb gebruikt? Dat de machine bepaalde woorden heeft aangedragen? Of dat mijn eigen zinnen inmiddels zo vertrouwd zijn geraakt met de mogelijkheden van AI dat ze een spoor van die omgang zijn gaan dragen? Dat laatste lijkt mij niet eens ondenkbaar. Misschien zal over enige tijd blijken dat we niet meer goed kunnen schrijven zonder op de een of andere manier door machines te zijn beïnvloed. Dan wordt de vraag niet langer hoe we de machine uit onze teksten kunnen verwijderen, maar wat we met haar invloed hebben gedaan. Ik zou het een treurige ontwikkeling vinden als we ons voortaan vooral bezighouden met het verbergen of ontmaskeren van elkaars watermerken.
Zelf blijf ik liever gewoon door experimenteren. En als er op een dag een detector wordt ontwikkeld die feilloos kan vaststellen waar mijn eigen stem ophoudt en die van ChatGPT begint, dan heb ik maar één verzoek: laat hem eerst mijn oude teksten eens onderzoeken die zonder AI zijn geschreven. Ik ben namelijk heel benieuwd hoeveel ik van mijn vroegere zinnen in al die jaren ten onrechte voor mijn eigen gedachten heb gehouden. We bouwen allemaal voort op andermans ideeën. Een volledig originele schrijver moet nog geboren worden. En trouwens, wanneer is het gebruik van bestaand materiaal een vorm van creativiteit, en wanneer wordt het plagiaat? De grens ligt niet simpelweg bij het overnemen zelf, maar ook bij de manier waarop het materiaal wordt verwerkt, bij de herkenbaarheid van het oorspronkelijke werk en bij de vraag of de maker eerlijk is over zijn bronnen. Picasso zei het al: “Good artists copy; great artists steal.”