Przejdź do treści
Säkerhet och kvalitet

Deepfake

En deepfake är en bild, video eller ljudinspelning skapad med AI som verklighetstroget visar en person säga eller göra något den aldrig gjort.

En deepfake är en bild, filmsekvens eller ljudfil som har genererats eller ändrats med hjälp av maskininlärning för att efterlikna en verklig person. Resultatet är ofta så pass övertygande att betraktaren tror att personen på skärmen faktiskt yttrade orden eller utförde handlingen, trots att materialet i själva verket är helt syntetiskt.

Begreppet uppstod genom en kombination av orden deep learning (djupinlärning) och fake (förfalskning). Tekniken har gått från att kräva avancerad hårdvara i specialiserade forskningslabb till att finnas tillgänglig för vem som helst via vanliga appar och webbplatser. Detta öppnar för kreativitet inom film och underhållning, men skapar samtidigt nya utmaningar kring bedrägerier, desinformation och digital identitetsstöld.

Hur en deepfake skapas tekniskt

Grunden för att skapa en deepfake är stora mängder data. För att förfalska någons röst behöver en neural nätverksmodell matas med inspelningar där personen pratar. Modellen analyserar röstens tonläge, dialekt, andningspauser och tempo. Därefter kan man skriva in valfri text och få modellen att läsa upp den med personens karakteristiska stämma, en process som ofta kallas röstkloning.

När det handlar om video tränas systemet ofta på fotografier och filmklipp tagna ur olika vinklar och med varierande ljussättning. Ett vanligt tillvägagångssätt bygger på autoenkodrar eller generativa modeller som delar upp ansiktet i digitala koordinater. AI-modellen byter sedan ut originalansiktet mot målpersonens mimik i realtid, bildruta för bildruta, samtidigt som ljus och hudtoner anpassas för att smälta samman med bakgrunden.

Vardagsexempel: Det falska telefonsamtalet

Tänk dig en småföretagare i Jönköping eller en förälder i Sundsvall som svarar i telefonen på eftermiddagen. I luren hörs en bekant röst: sonen eller dottern låter stressad, förklarar att mobiltelefonen har ramlat i vattnet och att hen ringer från en kompis lånade nummer. Rösten vädjar om ett snabbt utlägg via Swish för att kunna betala en akut tågbiljett hem.

Detta är ett typiskt scenario där ljudbaserade deepfakes kan användas för att öka trovärdigheten. Bedragaren behöver inte nödvändigtvis göra ett tekniskt perfekt jobb, utan förlitar sig på den psykologiska stressen hos mottagaren. Eftersom rösten låter bekant sänker offret garden, och i stundens hetta kontrolleras sällan uppgifterna.

Hur du känner igen en manipulation i praktiken

Tidigare räckte det med att titta efter konstiga blinkningar, hackiga läpprörelser eller suddiga konturer runt håret. Eftersom modellerna ständigt förfinas är visuella detaljer inte längre ett säkert bevis. För att genomskåda manipulering måste du kombinera digitala spår med klassisk källkritik:

  • Granska sammanhanget och avsändaren: Vem publicerade klippet först? Finns hela uttalandet att se i ett längre sammanhang, eller rör det sig om en lösryckt snutt på tio sekunder i sociala medier?
  • Sök efter oberoende bekräftelse: Om en svensk partiledare eller en företagsledare påstås ha sagt något kontroversiellt borde etablerade medier ha rapporterat om det. Finns det inga andra källor är risken för en bluff mycket stor.
  • Avbryt och ring tillbaka: Om någon ringer och ber om pengar eller inloggning med BankID och hävdar att det är bråttom, lägg på luren direkt. Slå sedan upp personens vanliga telefonnummer i din egen kontaktlista eller kontakta en annan anhörig för att stämma av läget.
  • Lita inte blint på automatiska detektorer: Program som påstår sig kunna avgöra om en fil är gjord av AI har ofta hög felmarginal. Ladda inte heller upp känsliga eller privata filer till okända kontrollverktyg på nätet.

Vanliga misstag när man hanterar syntetisk media

Ett mycket vanligt misstag är att tro att en video måste vara äkta bara för att det inte syns några uppenbara grafikfel. Att händerna har rätt antal fingrar och att skuggorna stämmer betyder inte att händelsen ägt rum. Moderna system hanterar dessa detaljer galant.

Ett annat misstag är att sprida en misstänkt falsk video vidare till vänner och bekanta för att fråga om deras åsikt. Även om avsikten är god bidrar varje delning till att sprida manipulationen vidare i algoritmerna. Om någon har kapat din egen bild eller röst ska du i stället dokumentera händelsen med skärmdumpar, spara länken till kontot och anmäla materialet direkt till plattformen och Polisen vid misstanke om brott.

Vanliga frågor

Är det olagligt att skapa en deepfake i Sverige?

Tekniken i sig är inte olaglig, men hur den används kan vara brottsligt. Att använda någons ansikte eller röst för förtal, bedrägeri, ofredande eller olaga integritetsintrång är straffbart.

Hur kan jag skydda min röst från att klonas?

Om du har offentliga ljud- eller videoklipp på nätet går det i praktiken inte att stoppa nedladdning. Det bästa skyddet är att bestämma ett internt kontrollord inom familjen eller företaget som måste uppges vid oväntade förfrågningar om pengar.

Varför blinkar personer i vissa deepfakes så konstigt?

Tidiga AI-modeller tränades främst på stillbilder där människor hade öppna ögon, vilket gav stela blickar. Moderna system har dock åtgärdat detta och kan imitera helt naturliga blinkningar och ögonrörelser.

← Alla termer i AI-ordlistan

🛒 Sklep Kinetyka CapCut Pro 460 zł/rok Lovable Pro 450 zł/rok Replit Core 119 zł/rok Zobacz wszystko →
× ‹ powiększenie ›