Bemærk Denne artikel blev udgivet for over en måned siden

Den nye generation af deepfakes er så tæt på virkeligheden, du ikke længere kan se forskel

Indsigt 28. apr 2022  -  7 min læsetid
This describes the image
  • Tom Cruise danser, synger og fjoller i videoer på TikTok, der tilsammen er blevet set over en kvart milliard gange

  • Men det er ikke Tom Cruise i videoerne. I stedet er der tale om såkaldte deepfakes

  • Deepfake-teknologi kan nemlig få personer til at gøre og sige ting, de aldrig har gjort eller sagt

  • Manden bag videoerne har til mål at vise, at “deepfake-teknologien kan bruges på en etisk ansvarlig måde”

“Jeg vil viser jer noget magi,” siger den amerikanske skuespiller Tom Cruise og holder en mønt op. “Det er den ægte vare. Det er alt sammen ægte,” forsikrer han. 

Så tryller han mønten væk og bryder ud i et påtaget grin. 

Scroller man gennem det sociale medie TikTok kan man blive mødt af videoer som denne, hvor den populære actionskuespiller opfører sig små-fjoget. I andre videoer danser og mimer han til musik, slår sten-saks-papir og imiterer en skildpadde. 

Men det er ikke den ægte vare. 

For til trods for hans karakteristiske tandpastasmil, det velfriserede hår og markerede kæbeparti, er manden i videoerne ikke Tom Cruise. 

Videoerne er eksempler på såkaldte deepfakes, hvor man ved hjælp af kunstig intelligens kan få det til at se ud som om, at personer gør og siger ting, de aldrig har gjort eller sagt.  

Som regel kan man hurtigt gennemskue, at videoerne er falske. Øjnene ser kunstige ud, munden bevæger sig mærkeligt, eller stemmen lyder besynderlig. 

Men videoerne med den falske Tom Cruise er realistiske. Endda meget realistiske. Og så er de tilsammen blevet set knap en kvart milliard gange i alt.

Manden bag videoerne kalder dem “de bedste deepfakes, der er lavet," og han vil med sit arbejde vise, at “deepfake-teknologien kan bruges på en etisk ansvarlig måde”. 

Chris Ume har både fået deepfake-Tom Cruise til at trylle, spille golf og spise en slikkepind. 

“Uhyggeligt ægte” og “alarmerende nøjagtige”

De første deepfakes dukkede op i 2017, da en bruger på internetforummet Reddit delte pornovideoer, hvor kendte menneskers ansigter - herunder Taylor Swift og Scarlett Johansson - var blevet redigeret ind på pornoskuespilleres kroppe, så det lignede, de var en del af pornovideoerne. 

Sidenhen er teknologien blevet mere populær og er i dag lettilgængelig. Flere apps kan redigere dit ansigt ind på kendte menneskers kroppe, og en app har tilmed gjort det muligt at vække gamle fotos til live ved hjælp af deepfake-teknologien. 

Du har måske set nogle af de deepfakes, der har floreret på nettet de seneste par år af eksempelvis den tidligere amerikanske præsident Barack Obama og Storbritanniens dronning Elizabeth. Fælles for hovedparten af de manipulerede videoer er dog, at man hurtigt gennemskuer, at de er falske. 

Sådan er det dog ikke med deepfake-videoerne af Tom Cruise. Medier har kaldt dem “uhyggeligt ægte” og “alarmerende nøjagtige”. Og læser man kommentarerne til videoerne på TikTok, er flere overbevist om, at det faktisk er Tom Cruise i videoerne. 

“Jeg er sikker på, at det er Tom Cruise,” skriver en bruger, mens en anden skriver “Det må være Tom Cruise. Han lyder nøjagtig som ham”. 

Hvordan fungerer det?

Ordet deepfake er dannet af begrebet deep learning og det engelske ord for falsk. Deep learning (dyb læring på dansk, red.) går ud på at få en computer til at efterligne den menneskelige hjerne ved hjælp af kunstig intelligens. På den måde gør man den i stand til at lære selv.
 

Det kan lyde meget abstrakt, så lad os gøre det konkret ved at tage udgangspunkt i deepfake-teknologien. 
 

Her “fodrer” man computeren med et stort antal billeder og videoer af personen, man vil lave en deepfake af. Ved hjælp af kunstig intelligens bliver computeren i stand til at indlære alle nuancer af personens ansigtstræk og mimik.  
 

Når computeren har “lært personen at kende,” er det muligt at indsætte personens ansigt på en andens krop og få dem til at sige og gøre nøjagtigt, hvad man ønsker - præcis som i tilfældet med Tom Cruise.

Også den verdenskendte popstjerne Justin Bieber er blevet snøret. I en video på Instagram gør han grin med en TikTok-video, hvor deepfake-Tom Cruise spiller guitar, i den tro, at det virkelig er Tom Cruise, der spiller.  

Men det har også taget sin tid at skabe det tekniske fundament, der gør videoerne så vellykkede for videoerne, fortæller Chris Umes, som har skabt deepfake-videoerne af Tom Cruise, til TjekDet. 

Han brugte to en halv måned på at fodre en computer med talrige billeder og videoer af Tom Cruise for at få den til at kende hver en vinkel af skuespilleren. Men da computeren først havde lært Tom Cruises ansigt at kende, tog det kun et par dage, før deepfake-Tom Cruise dukkede op på TikTok. 

Chris Ume fortæller, at han startede med at lave deepfakes af Tom Cruise af to årsager.

“Jeg ville få folk til at smile. Og så ville jeg gøre folk opmærksomme på, hvor langt deepfake-teknologien er nået”.

Værktøj til at skabe misinformation

Efter Chris Ume delte de første videoer på TikTok, sendte han en mail til Tom Cruises agent for at gøre det klart, at hvis Tom Cruise ønskede videoerne slettet, ville han gøre det øjeblikkeligt. Agenten bekræftede at have modtaget mailen, men vendte aldrig tilbage. 

Og så længe Tom Cruise ikke protesterer, ser Chris Ume ikke noget problem i at lave deepfakes af ham. 

“Vi lægger meget vægt på, at videoerne ikke er ærekrænkende eller kommercielle på nogen måde. Men vi er også klar over, at vi bevæger os på en hårfin grænse, fordi deepfakes også kan benyttes til at sprede misinformation,” fortæller han. 

Deepfake-videoerne bliver skabt via tusindvis af billeder og videoer af Tom Cruise, som man fodrer til en computer, indtil den "har lært personen at kende". 

Det var eksempelvis tilfældet i marts, hvor en video af den ukrainske præsident Volodymyr Zelenskyj florerede på sociale medier. I videoen opfordrer præsidenten landets soldater til at overgive sig. Videoen viste sig dog at være manipuleret med deepfake-teknologi. 

Og det er netop denne type misinformation, Chris Umes vil bekæmpe ved at øge kendskabet til deepfakes, forklarer han. 

“Deepfake-teknologien vil sprede sig, om vi vil det eller ej, så det er vigtigt, at vi gør folk opmærksomme på, at denne type manipulation eksisterer”. 

“Pludselig er hele verden ens publikum”

Deepfake-teknologiens blakkede ry som værktøj til at skabe misinformation og manipulerede pornoseancer med kendte mennesker giver måske anledning til at overveje, om der så overhovedet er noget positivt ved teknologien?

For Chris Umes er svaret et klart ja. Udover at få Tom Cruise til at te sig fjoget, har Chris Umes senest brugt deepfake-teknologien til at få sangeren Aloe Blacc til at synge på kinesisk - til trods for at sangeren ikke taler sproget. 

Ved hjælp af deepfake-teknologien er det pludselig muligt for Aloe Blacc at synge på kinesisk til trods for, at sangeren ikke taler sproget. 

På samme måde forestiller Chris Umes sig, at eksempelvis en dansk kunstner i fremtiden vil kunne indspille en sang på dansk og ved hjælp af kunstig intelligens og deepfake-teknologien optræde med sangen på alverdens sprog. 

“Pludselig er hele verdens ens publikum,” siger Chris Umes. 

Og selvom en indvending kunne være, at autenticiteten forsvinder, når man ikke længere ved, om det man ser, er virkelighed eller ej, så mener Chris Ume ikke, at det er et problem.

“Hvis man ikke kan se forskel mellem deepfake og virkeligheden, så behøver man ikke længere spekulere over, hvorvidt det er virkeligt,” siger han.

Deepfakes kan berede os på mødet med deepfakes

Når deepfakes når en kvalitet, hvor man ikke længere er i stand til at se, at videoen er manipuleret, kan de være etisk problematiske, mener Christiane Vejlø, der er digital trendanalytiker og direktør for medievirksomheden Elektronista Media. 

“Den gængse bruger af TikTok kan nok ikke gennemskue, at det de ser, faktisk ikke er Tom Cruise. I dette tilfælde er videoerne rimelige harmløse, men det er let at forestille sig langt alvorligere tilfælde. For eksempel en deepfake af den ukrainske præsident".

Ifølge hende er deepfakes grundlæggende problematiske, fordi man med teknologien kan få folk til at agere på en måde, som de ikke selv har kontrol over - en form for “digital kidnapning,” siger hun. 

“Hvor meget har vi ret til at bruge andre som marionetdukker til at sige og gøre ting, som vi bestemmer? Man iklæder sig digitalt en anden persons identitet. Og det kan potentielt være en form for overgreb,” siger hun.  

Anders Kofod-Petersen, der er dr.scient i kunstig intelligens, mener også at deepfakes af denne kvalitet kan være problematiske. Især hvis de bliver brugt til at sprede misinformation.  

“Hvis jeg var russer og havde set mig vred på Zelenskyj (Ukraines præsident, red), så ville jeg måske forsøge at få ham til at sige noget russer-venligt. Så kan det være, at vi dagen efter opdager, at det er en deepfake, men så er skaden sket,” siger han. 

Han er dog enig med Chris Ume i, at deepfakes som dem med Tom Cruise kan berede os på mødet med deepfakes, der har mere ondsindede intentioner. 

“Måske de her videoer kan lære os lidt god gammeldags kildekritik. Måske vi kan blive bedre til at afgøre, hvad der er sandt, og hvad der er falsk. Og måske vi kan blive mere kritiske, når vi er på sociale medier,” slutter han. 

Opdateret 28. apr 2022