“Den populære youtuber Mr. Beast og hans nye applikation har taget internettet med storm.”

Sådan indleder TV 2-værten Ditte Haue tilsyneladende et nyhedsindslag, der florerer på sociale meder, hvor hun fortæller, hvordan titusindvis af danskere allerede har downloadet den verdenskendte youtubers app og tjent svimlende beløb ved at spille spil. 

Men der er bare ét problem. 

Videoen er en deepfake, der er skabt med kunstig intilligens. Det får det til at se ud som om, at den rigtige Ditte Haue sidder i et TV 2-studie og præsenterer danskerne for, hvordan de hurtigt og nemt kan komme til rigdom med den amerikanske influencer og filantrop Jimmy Donaldson, der på Youtube går under navnet Mr. Beast.

Svindlernes mål er at få folk til at downloade den omtalte app gennem falske reklamer på de sociale medie-platforme.

Advarer mod svindelnummeret

TV 2 og hovedpersonen, Ditte Haue, bekræfter, at indslaget ikke er ægte. Det er skabt med kunstig intelligens og har til hensigt at snyde folk til at downloade den falske app gennem reklamer på Facebook.

“Det var skræmmende, da jeg så den, for jeg synes faktisk, den er ret godt lavet. Jeg er med på, man godt kan høre, det ikke er fuldstændig én til én, men det er ret krænkende at opleve sig selv gengivet med ting, man ikke har sagt,” siger Ditte Haue på tv2.dk.

På hendes instagramprofil sender hun samtidig en bredside mod Meta, der står bag Facebook og Instagram - og opfordrer virksomheden til at få den slags falske videoer standset.

Jacob Kwon, nyhedschef hos TV 2, deler den bekymring.

“Det er dybt bekymrende, at vi nu ser, at der bliver lavet 'deepfakes' med vores medarbejdere. Det et angreb på vores troværdighed, og vi tager det meget alvorligt. Vi vil gå målrettet efter at få det stoppet,” fortæller han på tv2.dk.

Artiklen fortsætter under videoen...

I denne video fortæller journalister på TjekDet's redaktion, hvilke advarselssignaler, du blandt andet kan holde øje i en mulig deepfake-video.

Stor indsats mod deepfakes

Til B.T. oplyser Meta i et skriftligt svar: 

“Vi forstår, at det er frustrerende. Vi bruger mange ressourcer på at komme det til livs – altså at man bruger offentlige personer til at vildlede folk. Vi ønsker selvfølgelig ikke disse annoncer på Facebook.”

Og til TV 2 uddyber Ditte Haue sin frygt for, hvad deepfakes á la den her kan komme til at betyde.

“Som journalist tænker man jo som det første på den situation, verden står i lige nu med en masse uro og krige, hvor nogle af våbnene er sandheden og dokumentation. Hvad kan man ikke frygte, teknologien kan blive brugt til, når man kan få det til at ligne nyheder?”

Ikke en enlig svale

TjekDet har før beskrevet, hvordan nyhedsværter fra de amerikanske tv-stationer CBS og CNN får deres ansigter og stemmer misbrugt i deepfake-nyhedsindslag. 

På internettet florerer nemlig flere videoer, hvor man blandt andet kan høre en nyhedsvært sige, at verdens farligste mand er flygtet fra et fængsel, mens man i en anden video kan høre en vært sige, at et fly er styrtet ned i et supermarked. 

Ifølge magasinet Forbes får de falske videoer ofte mere opmærksomhed og tiltrækker mere interaktion på sociale medier end de ægte nyhedsindslag, som tv-stationerne deler på sine officielle profiler. Forbes skriver, at et falsk indslag, der foregav at komme fra programmet Face The Nation på amerikanske CBS, fik flere end 300.000 likes, mens Face The Nation samme dag kun fik cirka 7.000 likes på deres mest populære video.