Amandus Molland Karlson
Det har lenge vært vanskelig å vite sikkert om en tekst er skrevet av et menneske eller laget med kunstig intelligens.
Nå tar OpenAI i bruk en ny løsning som skal gjøre det lettere å finne ut av nettopp dette.
Endringen vil ikke være synlig for den som leser teksten. Likevel kan den etterlate et mønster som kan avsløre hvor teksten kommer fra.
Skjules i selve teksten
OpenAI skal i løpet av de kommende ukene begynne å legge et usynlig vannmerke i tekst som genereres av ChatGPT og Codex i EU, skriver Tek.no.
Teknologien heter textGrain.
Det er ikke snakk om et symbol, skjulte tegn eller usynlige mellomrom. I stedet påvirker teknologien hvilke ord og deler av ord modellen velger når den lager en tekst.
Over en lengre tekst oppstår det et statistisk mønster som OpenAIs detektor kan lete etter.
OpenAI forklarer at vannmerket dermed ligger i selve ordvalgene. Vanlig kopiering og innliming av teksten fjerner det ikke.
Kommer ikke til Norge ennå
Det er imidlertid en viktig begrensning for norske ChatGPT-brukere.
OpenAI bekrefter overfor Tek.no at vannmerkingen ikke kommer til Norge ved lanseringen.
I første omgang er det kvalifiserte ChatGPT- og Codex-brukere i EU som omfattes. OpenAI opplyser også selv at vannmerking ikke blir en global standard ved lanseringen.
Norge er ikke medlem av EU, selv om vi er en del av EØS.
Tek.no skriver at OpenAI foreløpig ikke har svart på om norske brukere vil bli inkludert på et senere tidspunkt.
Derfor kommer endringen
Bakgrunnen er EUs nye regler for kunstig intelligens.
EU-kommisjonen opplyser at transparenskravene i AI-forordningen begynte å gjelde 2. august 2026. Leverandører av generativ kunstig intelligens skal sørge for at generert eller manipulert innhold kan merkes og oppdages maskinelt.
OpenAI viser selv til disse kravene som årsaken til at textGrain nå tas i bruk.
Reglene skal etter planen også innføres i Norge gjennom EØS, men de er foreløpig ikke en del av norsk lov.
Ingen sikker fasit
Selv med vannmerket vil det ikke bli mulig å slå fast med full sikkerhet at en tekst kommer fra ChatGPT.
OpenAI understreker at teknologien har begrensninger.
Korte tekster er vanskeligere å kontrollere enn lange tekster. Det samme gjelder tekster hvor modellen har liten frihet til å variere ordvalget. Kraftig omskriving eller oversettelse kan også gjøre vannmerket vanskeligere å oppdage.
Detektoren kan dessuten både overse vannmerkede tekster og i enkelte tilfeller slå feilaktig ut på tekster uten vannmerke.
Et manglende vannmerke er derfor heller ikke bevis på at teksten er skrevet av et menneske.
Ikke alle får tilgang
Det blir heller ikke mulig for hvem som helst å lime inn en tekst og få vite om den kommer fra ChatGPT.
Ved lanseringen begrenser OpenAI tilgangen til detektoren til godkjente forskere og ekspertorganisasjoner.
Selskapet begrunner dette blant annet med risikoen for feilaktige resultater. Detektoren skal heller ikke kunne avsløre hvem som har laget teksten, hvilken ChatGPT-konto som ble brukt eller hva brukeren skrev til ChatGPT.
For norske ChatGPT-brukere fortsetter ting altså som før inntil videre.
Men dersom EUs AI-regler senere blir innført i Norge, kan det usynlige kjennetegnet også bli aktuelt for ChatGPT-tekst laget her.
