“Nøglen til succes er at handle i det rigtige øjeblik, og det øjeblik er nu. Lad være med at vente. Gå ind på hjemmesiden og benyt dig af denne mulighed. Dit liv er ved at ændre sig.”

Ordene er Mette Frederiksens og fra en annoncevideo, der lige nu kører på Facebook.

Ifølge videoen er Danmarks statsminister en af de økonomiske kræfter bag en helt ny supercomputer, “tusind gange kraftigere end en hjemmecomputer”, samt software, der gør det nemt og risikofrit for dig at investere. Og nu vil Mette Frederiksen gerne sælge det til dig:

“Du har en mulighed foran dig, som kan ændre dit liv. Det er ikke bare et tilbud, men en chance, som ikke alle får,” lyder det i videoen.

Du skal blot udfylde dine informationer i et kontaktformular og vente på et opkald fra “din egen personlige leder”, der kan sætte dig i gang med dine investeringer. Supercomputeren vil derefter klare det hele. “Den gør alt arbejdet for dig, og dit job er bare at se resultaterne og indkassere overskuddet.”

Hvis alarmklokkerne er begyndt at ringe, kan du trygt lade dem fortsætte. Videoen er nemlig falsk og lavet med kunstig intelligens.

Det, du ser på videoen, er en deepfake af den danske statsminister, viser TjekDets research.

Mette Frederiksen har hverken produceret eller promoveret en investeringsplatform, hun er i stedet et offer for en online svindeltendens, hvor statslederes identitet udnyttes for troværdighed.

I den manipulerede video af Mette Frederiksen lover hun at gøre Facebook-brugere rige, hvis de investerer penge i hendes nye investeringssystem. Foto: Skærmbillede af Facebook Meta.

Undersøgelsens omfang

Videoen af Mette Frederiksen dukker op den 2. oktober. Den er delt som en betalt annonce af Facebook-siden Financial News og er ikke mere end en time gammel, da vi opdager den. Få timer efter er fire nye annoncer udkommet og taget ned igen. De sidste fire dage har Financial News skiftevis gjort annoncerne aktive og inaktive.

Annoncevideoerne linker til en artikel på hjemmesiden city-report.daily-nyheder.com, der med layout foregiver at være det danske medie Avisen Danmark. I toppen af siden kører “Seneste nyt” med realistiske artikler, og i bunden er Pressenævnets logo indsat.

Selve artiklen handler om den enestående investeringsplatform, der understøttes af Danmarks regering, dog nævner de ikke Mette Frederiksen eksplicit. Sproget i artiklen er fyldt med stavefejl og ukritiske beskrivelser af platformen.

I bunden fremgår en kontaktformular, hvor du skal give dine oplysninger. Her fremgår også falske verificeringer fra store digitale sikkerhedsvirksomheder som Norton og McAfee.

Videoerne fører til en hjemmeside, der har kopieret Avisen Danmark og misbrugt Pressenævnets logo som et led i deres svindel. Foto: To skærmbilleder af city-report.daily-nyheder.com

I undersøgelsen tilgår vi tidligere annoncer fra Financial News i Metas annoncebibliotek. Her afsløres det, at Facebook-siden tilbage i juni og juli måned kørte mindst otte reklamer for lignende investeringsplatforme, som angiveligt også er promoveret af Mette Frederiksen.

Sådan kan vi spotte kunstig intelligens

På videoen sidder Mette Frederiksen genkendeligt foran et stort vindue, iklædt et sort jakkesæt og med håret strøget tilbage. Ved hjælp af omvendt billedsøgning finder vi den originale video, som svindlerne har manipuleret. Den er fra Mette Frederiksens egen Facebook-side og lagt op i marts 2020. Videoen er dokumenteret i en artikel og med skærmbillede her.

Du kan også gøre andet for at spotte kunstig intelligens. I dette tilfælde er Mette Frederiksens stemme, gestik, ordvalg og udseende mere realistisk, end hvad vi er vant til at se. Deepfaken siger for eksempel “Æh” naturligt mellem sætninger, og har en let stammen som ved sætningen: “Hvor-Hvorfor vil du ikke?”.

Men videoen afslører også afvigelser fra virkeligheden, der gør det muligt at konkludere en involvering af kunstig intelligens. Ansigtet er et nanosekund bagud i forhold til hovedet, og det gør, at Mette Frederiksens bevægelser bliver en smule mekaniske. Det samme gælder hendes stemme, der flere gange knækker med en robotagtig lyd.

Langt fra første gang

TjekDet udgav for nylig en afdækning, lavet af det franske nyhedsbureau AFP, om svindelannoncer med politiske deepfakes på Facebook. De fulgte og rapporterede blandt andet udbredelsen af en falsk video af Donald Trump, der udloddede checks på 5.000 dollars. Noget tyder altså på, at digitale svindlere kan se strategisk gevinst i at bruge deepfakes af statsledere.

Deepfake-videoen kommer fra en video lagt op af Mette Frederiksens egen Facebook-side i marts 2020. Ritzaus dækning af publiceringen, blev udgivet hos PolicyWatch sammen med et skærmbillede af den originale video. Foto: Skærmbillede af PolicyWatch / Foto: Statsministeriet

Det er heller ikke første gang, at Mette Frederiksens ansigt er blevet brugt til svindel med investeringsplatforme. Tidligere i år afdækkede TjekDet en lignende sag, hvor falske artikler berettede om den “regeringsstøttede” investeringsplatform, Kronix Pulseva. Svindlerne duplikerede layout fra både B.T. og Politiken for derefter at sende dem ud som betalte annoncer på Facebook.

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.