Wie in Europa tekst met ChatGPT laat schrijven, krijgt binnenkort te maken met een verandering die nauwelijks zichtbaar is, maar technisch wel belangrijk is.

OpenAI rolt namelijk een onzichtbaar watermerk voor AI-gegenereerde tekst uit binnen de Europese Unie. Het systeem heet textGrain en voegt een statistisch signaal toe aan de manier waarop woorden in AI-tekst worden gekozen.

De tekst ziet er voor de gebruiker normaal uit.

Toch kan speciale detectiesoftware proberen vast te stellen of de tekst door een OpenAI-model is gegenereerd.

Je ziet het watermerk zelf niet

Het gaat dus niet om een zichtbaar logo of een melding onder iedere ChatGPT-tekst.

OpenAI verandert subtiel de statistische eigenschappen van de gegenereerde tekst.

Een speciale detector zoekt vervolgens naar het patroon.

Volgens OpenAI is het systeem bedoeld om te helpen voldoen aan de transparantie-eisen van de Europese AI Act.

Dat maakt Europa een van de eerste grote markten waar AI-gegenereerde tekst op deze manier herkenbaar wordt gemaakt.

Ook Codex krijgt de technologie

De maatregel geldt niet alleen voor ChatGPT.

OpenAI brengt textGrain ook naar Codex, de AI-tool voor softwareontwikkeling. De uitrol gebeurt gefaseerd voor geschikte gebruikers in de Europese Unie.

Dat is interessant voor bedrijven en ontwikkelaars.

Steeds meer programmeurs gebruiken AI om code te schrijven. Daardoor ontstaat ook bij software de vraag welke onderdelen door mensen en welke door AI zijn gemaakt.

Het is geen perfecte AI-detector

OpenAI waarschuwt zelf voor de beperkingen.

Een watermerk bewijst volgens het bedrijf niet wie een tekst heeft geschreven. Het kan ook niet aantonen hoeveel menselijke input er is gebruikt.

Daarnaast garandeert het systeem geen perfecte detectie.

Dat verschil is belangrijk.

Een school of werkgever kan dus niet simpelweg concluderen dat iemand fraude heeft gepleegd omdat een detector een AI-watermerk vindt.

Waarom komt dit juist nu?

De hoeveelheid AI-gegenereerde tekst is enorm gegroeid.

Nieuwsartikelen, marketingteksten, schoolopdrachten, e-mails en zakelijke documenten kunnen tegenwoordig allemaal met AI worden gemaakt.

Daarmee wordt het steeds moeilijker om de oorsprong van digitale content te bepalen.

Europa wil daarom meer transparantie rond generatieve AI.

OpenAI probeert daar technisch op in te spelen.

OpenAI maakt detector beschikbaar voor onderzoekers

Het bedrijf wil bovendien geselecteerde onderzoekers en gespecialiseerde organisaties toegang geven tot de detectietechnologie.

Volgens OpenAI moet dat helpen om het systeem in de praktijk verder te testen en verbeteren. Het bedrijf zegt daarnaast dat het de technologie uiteindelijk als open source beschikbaar wil maken.

Voor gewone ChatGPT-gebruikers verandert er voorlopig weinig aan de manier waarop ze de chatbot gebruiken.

Je schrijft gewoon je prompt.

Je krijgt gewoon je antwoord.

Alleen zit er achter de schermen een extra technisch signaal in de tekst.

Bronnen: OpenAI – Text provenance onder Europese regels · The Verge – OpenAI voegt watermerken toe aan ChatGPT en Codex