Teksten die ChatGPT schrijft voor gebruikers in de Europese Unie krijgen een onzichtbaar watermerk. Dat maakte OpenAI bekend, meldden de NOS en NU.nl dinsdag. Het herkenningsteken heet textGrain en moet duidelijker maken of een tekst authentiek is of is gegenereerd door kunstmatige intelligentie. Volgens NU.nl zet OpenAI de stap om aan Europese regelgeving te voldoen. Buiten de Europese Unie bevatten de teksten geen watermerk.
Een stempel dat je niet ziet
Wie bij een watermerk denkt aan een logo of een speciaal teken, zit ernaast. Het herkenningsteken is voor normale gebruikers niet te zien, schrijft de NOS. Het is geen fysiek stempel en geen bijzonder symbool, maar zit ingebouwd in de woordkeuzes van het generatieve AI-model zelf. De tekst leest dus precies zoals altijd. Alleen de manier waarop het model zijn woorden kiest, draagt een patroon dat een machine kan herkennen.
Een speciale detector kan dat patroon wel oppikken, en daarmee door AI gegenereerde woorden en teksten aanwijzen. Die tool is vooralsnog alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties, aldus OpenAI. Een gewone lezer, docent of redacteur kan een tekst dus nog niet zelf controleren. Het watermerk wordt de komende tijd verwerkt in de AI-teksten van gebruikers in de Europese Unie.
Sterk, maar niet foutloos
OpenAI is zelf voorzichtig over wat het systeem kan. Het watermerk is volgens het bedrijf achter ChatGPT sterk, maar niet foutloos. Onder meer korte en bewerkte teksten maken betrouwbare detectie lastig. Dat is een belangrijke kanttekening. Wie een gegenereerde tekst herschrijft, inkort of in stukken knipt, verzwakt het patroon waar de detector op leunt.
Daarmee is het watermerk eerder een hulpmiddel dan een sluitend bewijs. Het kan aanwijzingen geven over de herkomst van een tekst, maar een uitkomst van de detector is geen eindoordeel. Volgens OpenAI zelf zijn juist korte en bewerkte teksten het lastigst, en dat zijn precies de teksten die in de praktijk veel rondgaan.
Anthropic ging eerder en breder
OpenAI is niet de eerste. Anthropic, het bedrijf achter chatbot Claude, voerde twee maanden geleden een vergelijkbaar watermerk in, meldde de NOS. Ook dat is onzichtbaar voor mensenogen, maar wel waarneembaar voor computersystemen. Het verschil zit in de reikwijdte: Anthropic past zijn watermerk wereldwijd toe, terwijl OpenAI het beperkt tot gebruikers in de Europese Unie.
Die keuze zegt iets over hoe de grote AI-bedrijven met regels omgaan. Waar de ene partij één aanpak voor de hele wereld kiest, voert de andere de maatregel alleen in waar de wet erom vraagt. Voor de Europese Unie betekent dit dat ChatGPT er een andere versie van zijn teksten aflevert dan in de rest van de wereld. Volgens NU.nl doet OpenAI dit om aan Europese regelgeving te voldoen.
Waarom dit verder gaat dan techniek
Op het eerste gezicht is een watermerk een technisch detail. Toch raakt het aan een grotere vraag: hoe weet een lezer nog waar een tekst vandaan komt? Generatieve AI maakt het eenvoudig om in korte tijd grote hoeveelheden overtuigende tekst te produceren. Dat geldt voor schoolwerk en sollicitatiebrieven, maar ook voor berichten op sociale media en teksten die zich voordoen als nieuws.
Voor de AI-bedrijven zelf is het nieuws ook een teken van de tijd. De afgelopen weken draaide de discussie rond OpenAI al om veiligheid, toen het bedrijf zijn beursgang uitstelde en later werk aan zijn krachtigste modellen stillegde. Regels rond herkenbaarheid worden zo een vast onderdeel van het speelveld waarop deze bedrijven opereren.
De feiten op een rij
- OpenAI voorziet teksten van ChatGPT-gebruikers in de Europese Unie van een onzichtbaar watermerk.
- Het watermerk heet textGrain en wordt de komende tijd ingevoerd.
- Buiten de Europese Unie bevatten de teksten geen watermerk.
- Het herkenningsteken zit ingebouwd in de woordkeuzes van het AI-model, niet in een zichtbaar teken.
- Een speciale detector kan het oppikken, maar die is alleen toegankelijk voor goedgekeurde onderzoekers en expertorganisaties.
- Volgens OpenAI is het systeem sterk, maar niet foutloos; korte en bewerkte teksten maken detectie lastig.
- Anthropic, het bedrijf achter Claude, voerde twee maanden geleden een vergelijkbaar watermerk wereldwijd in.
- OpenAI zet de stap om aan Europese regelgeving te voldoen.
De les: herkomst is niet hetzelfde als betekenis
Een watermerk vertelt hooguit wie of wat een tekst schreef. Het zegt niets over de vraag of die tekst klopt. Een door een mens geschreven bericht kan net zo misleidend zijn als een gegenereerd bericht, en een AI-tekst kan feitelijk juist zijn. Voor een belegger die dagelijks koppen, analyses en berichten op sociale media leest, is dat de kern. De hoeveelheid tekst groeit, de betrouwbaarheid ervan niet vanzelf mee.
Daarom blijft nieuws een signaal, geen feit. Wie beslissingen laat afhangen van een overtuigend verhaal, loopt het risico mee te bewegen met ruis, of die nu van een mens of van een machine komt. Een vast en emotieloos systeem leest geen verhalen, maar volgt per positie wat de koers daadwerkelijk doet. Dat is ook de rode draad in eerdere stukken, zoals over de concentratie in de grootste beursnamen en de gevolgen van AI voor werkgelegenheid: de ruis van het signaal scheiden is het werk.
Een watermerk vertelt wie de tekst schreef, niet of hij klopt. Het systeem leest geen verhalen; het volgt per positie wat de koers doet.
Dit artikel is bedoeld ter educatie en informatie en vormt geen persoonlijk beleggingsadvies. Beleggen brengt risico's met zich mee; in het verleden behaalde rendementen bieden geen garantie voor de toekomst. Genoemde koersen, standen, percentages en uitspraken zijn momentopnames uit openbare bronnen en bewegen gedurende de handelsdag.