En deepfake skapas av ett datorprogram som kan lära sig själv att återskapa ett ansikte genom att analysera olika bilder på en person. Det är en form av djupinlärning. Programmet kan sedan lägga in ansiktet det skapat på en existerande video – som en digital mask. Du kan se spår av en sådan mask i den här videon:

I detta experiment exporterades samma källvideo med två olika bildhastigheter. Båda modellerna tränades med exakt samma studioinställningar. Antalet träningscykler per bild är densamma, men träningstiden var längre med det större datasetet. Man kan klart se att algoritmen som tränades med fler bilder kan producera ett mer raffinerat slutresultat som bättre matchar målet.

Deepfaken exporteras i upplösningen 64 px. Den lägre upplösningen gör att det tar mindre tid att träna algoritmen eftersom modellen endast behövt lära sig skapa lågupplösta bilder. I närbilder på ansikten syns den låga upplösningen tydligt.

Inlärningstiden är relaterad till hur många gånger algoritmen behandlar bilderna. Behandlingsprocessen innefattar att skapa ett ansikte (eller digital mask), jämföra den med källbilden och sedan justera för att förbättra likheterna mellan masken och källan. Modellen går igenom denna cykel en gång för varje källbild. Sedan börjar den om igen. Hur mycket tid det tar beror på hur kraftfull dator som använts.

Ansiktsåterskapande kräver mycket mer datakraft men är mycket svårare att upptäcka. Många av de utmaningar man ser med källvideor gäller inte för återskapande, men algoritmen fungerar på ett liknande sätt. De återskapade delarna av ansiktet kommer vara lite suddiga och mindre detaljerade.

Var också uppmärksam på ljudet och håll utkik efter fel eller läppsynkningsproblem. Använd det du lärt dig på denna sida, fundera på huruvida videon sannolikt är en målvideo och om omständigheterna stämmer för en möjlig deepfake. Om du är tveksam, kolla videons källa.