Vannmerking av AI-innhold (watermarking)
Vannmerking i kunstig intelligens er en innebygd, ofte usynlig signatur i generert tekst, bilde eller lyd som lar programvare bekrefte opphavet.
Vannmerking innen kunstig intelligens betyr at det legges inn en digital signatur eller et skjult mønster i generert innhold, enten det dreier seg om bilder, skriftlig tekst eller lydfiler. Målet med et slikt vannmerke er å gjøre det mulig for algoritmer og analyseprogrammer å identifisere at innholdet er skapt av en datamaskin, selv om det ser helt naturlig ut for det menneskelige øyet eller øret.
I motsetning til tradisjonelle vannmerker, som en synlig logo i hjørnet av et fotografi eller en halvgjennomsiktig tekst over en forhåndsvisning, er moderne AI-vannmerker som regel usynlige. De bakes direkte inn i dataene i selve skapelsesprosessen, og fungerer som en form for digitalt fingeravtrykk.
Slik bygges et usynlig vannmerke inn
Hvordan et digitalt vannmerke legges inn, avhenger av hvilket format som blir generert av modellen:
- Bilder: Modellen endrer fargenyanser eller lysstyrke i utvalgte piksler på en så subtil måte at endringene er umerkelige for mennesker. Mønsteret danner en matematisk kode som kan leses av en spesifikk skanner.
- Tekst: Språkmodeller har mange ord å velge mellom for å fullføre en setning. Vannmerking i tekst fungerer ofte ved at modellen bevisst favoriserer visse ord fremfor andre i et forhåndsbestemt mønster. En person leser teksten som helt vanlig norsk, men en algoritme kan analysere ordvalgene statistisk og avsløre sannsynligheten for maskinell opprinnelse.
- Lyd og stemmer: I syntetiske stemmer eller musikk kan produsenten legge inn ørsmå svingninger i frekvenser som ligger utenfor det normale hørselsområdet, eller flette inn en svak matematisk rytme i bakgrunnen.
Et eksempel fra norsk arbeidsliv
Tenk deg en grafisk designer i Tromsø som jobber med illustrasjoner for en lokal næringslivskampanje. Designeren bruker et generativt bildeverktøy for å lage bakgrunner av nordlys og moderne kontorbygg. Programvaren legger automatisk inn et usynlig vannmerke i pikseldataene til bildene.
Når bildene senere publiseres på nett, kan en lokalavis eller en kontrollinstans sjekke om motivene er ekte fotografier eller datagenerert kunst. Skanneren leser pikselmønsteret på brøkdelen av et sekund og bekrefter at bildet opprinnelig stammer fra en AI-modell, uten at det forstyrrer det visuelle uttrykket for leserne i avisen.
Slik kontrollerer man et vannmerke i praksis
Du kan vanligvis ikke finne et usynlig AI-vannmerke ved å åpne en fil i et vanlig fotoprogram på datamaskinen din. For å sjekke om en fil inneholder et slikt merke, må filen lastes opp i en dedikert deteksjonstjeneste eller skannes med et API fra selskapet som utviklet teknologien. Mange aktører jobber nå med felles åpne standarder for opprinnelsesmerking, slik at nettlesere på sikt kan vise et lite ikon dersom et bilde eller en video er merket som syntetisk.
Begrensninger og typiske misforståelser
En vanlig misforståelse er at et AI-vannmerke er en ubrytelig garanti for å avdekke falskt innhold. Virkeligheten er mer sammensatt. Vannmerker kan svekkes eller forsvinne helt dersom en fil manipuleres kraftig. Hvis noen tar et skjermbilde av et bilde, beskjærer det, legger på kraftige fargefiltre eller komprimerer filen gjentatte ganger, kan det matematiske mønsteret bli uleselig for skanneren.
Det samme gjelder tekstvannmerking: Hvis noen oversetter teksten til et annet språk via et annet verktøy, skriver om noen få setninger for hånd, eller fjerner enkeltord, blir de statistiske sporene raskt visket ut. Derfor blir vannmerking i dag sett på som ett av flere sikkerhetslag, og ikke som en perfekt løsning på utfordringer med feilinformasjon og manipulasjon.
Ofte stilte spørsmål
Kan jeg fjerne et usynlig AI-vannmerke fra et bilde?
Det er teknisk mulig å ødelegge eller forstyrre mønsteret ved å komprimere bildet hardt, beskjære det, endre oppløsningen eller ta et skjermbilde, men mønsteret lar seg sjelden fjerne selektivt uten å skade bildekvaliteten.
Hva er forskjellen på metadata og et usynlig vannmerke?
Metadata er tilleggsinformasjon lagret i filhodet, for eksempel kamerainnstillinger eller opphavsperson, og kan enkelt slettes med et tastetrykk. Et usynlig vannmerke er bakt direkte inn i selve pikslene eller lydbølgene og er langt vanskeligere å fjerne.
Fungerer vannmerking på tekst skrevet på norsk?
Ja, prinsippet for tekstvannmerking bygger på statistisk sannsynlighet i valg av ord og fungerer uavhengig av språk, forutsatt at språkmodellen har støtte for å legge inn mønsteret under genereringen.
Er det lovpålagt med vannmerking av AI-innhold i Norge?
Regelverk i Europa stiller stadig strengere krav til merking av syntetisk innhold, særlig for deepfakes og materiale som kan villede offentligheten, og dette påvirker også norske aktører og tjenesteleverandører.
