Hur deepfakes skapas
Deepfakes skapas med hjälp av djupinlärning, specifikt en typ av neurala nätverk som kallas generativa modeller. De vanligaste teknikerna inkluderar autoencoders och generativa adversariella nätverk (GANs), där två neurala nätverk tävlar mot varandra för att producera allt mer realistiska resultat.
Processen börjar med att modellen tränas på mängder av bilder eller videomaterial av en person. Den lär sig personens ansiktsdrag, uttryck och rörelsemönster. Sedan kan modellen applicera dessa egenskaper på annan video, effektivt byta ut ansiktet eller manipulera personens uttryck och läpprörelser.
Moderna deepfake-verktyg har blivit avsevärt enklare att använda. Det som tidigare krävde avancerad teknisk kompetens och kraftfull hårdvara kan idag göras med appar och webbtjänster som kräver minimal teknisk kunskap. Denna tillgänglighet är en av anledningarna till att problemet har eskalerat.
Risker och samhällspåverkan
De mest oroväckande tillämpningarna av deepfakes inkluderar politisk desinformation, där förfalskade videos av politiker kan spridas för att påverka val och opinionsbildning. Icke-samtyckt pornografiskt material med riktat mot specifika personer, särskilt kvinnor och offentliga personer, är den vanligaste formen av deepfake-missbruk.
Bedrägeri och social manipulation är ett växande problem. Det finns dokumenterade fall där deepfake-ljud har använts för att imitera företagsledare i telefonsamtal och lura anställda att genomföra stora överföringar. I takt med att tekniken blir bättre ökar risken för denna typ av attacker. I Veckans AI-podden har man belyst hur viktigt det är att vara medveten om dessa risker.
Det finns också en bredare samhällsrisk i att deepfakes urholkar tilliten till digitala medier generellt. Om allt kan förfalskas blir det svårare att lita på äkta material, ett fenomen som kallas "the liar's dividend" där begreppet deepfake i sig kan användas för att avfärda äkta bevis.
Motåtgärder och detektion
Forskning inom deepfake-detektion pågår intensivt. Metoder inkluderar analys av ojämnheter i belysning, ögonblinkningar, ansiktsrörelser och digitala artefakter som mänskliga ögon kanske inte upptäcker. AI-baserade detekteringsverktyg utvecklas parallellt med generativa verktyg i ett teknologiskt kapprustning.
Vattenmärkning och autenticering är mer proaktiva lösningar. Initiativ som Content Authenticity Initiative och C2PA-standarden arbetar med att skapa digitala signaturer som kan verifiera äktheten hos bilder och video. Kameratillverkare och plattformar börjar implementera dessa system.
Lagstiftning utvecklas också. EU:s AI Act ställer krav på transparens kring AI-genererat innehåll, och flera länder har infört eller förbereder lagar specifikt riktade mot deepfakes. I Sverige pågår diskussion om hur befintlig lagstiftning om förtal och bedrägeri kan appliceras på deepfakes, samt om ny lagstiftning behövs.
Vanliga frågor
Hur kan man identifiera en deepfake?
Tecken att leta efter inkluderar onaturliga ansiktsrörelser, flimrande kring ansiktets kanter, konstiga ögonblinkningar, suddiga detaljer i bakgrunden och ljud som inte matchar läpprörelser perfekt. Men kvaliteten förbättras ständigt och det blir allt svårare att se skillnad.
Är det olagligt att skapa deepfakes i Sverige?
Att skapa en deepfake är inte i sig olagligt, men användningen kan bryta mot befintliga lagar. Förtal, bedrägeri, olaga integritetsintrång och upphovsrättsbrott kan alla vara tillämpliga beroende på hur materialet skapas och sprids.
Finns det positiva användningsområden för deepfake-teknik?
Ja, tekniken används inom film och underhållning för visuella effekter, dubbing av filmer med synkade läpprörelser, tillgänglighet genom teckenspråksavatarer, och utbildning. Den underliggande tekniken driver också framsteg inom generativ AI generellt.