Han har i flere år haft sin daglige gang på et hospital tæt ved den canadiske storby, Toronto. 
Som farmaceut hjælper han hospitalets patienter med behandling og sikrer, at den ordinerede medicin indtages korrekt.

På et billede fra hospitalets sociale medier står han smilende med sit medarbejderkort om halsen og fejrer markeringen af marts som måneden, hvor man hylder hans og andre farmaceuters arbejde.

Men når han kører hjem fra job i sin Tesla, fjerner sit medarbejderkort og tænder for sin computer, arbejder han på noget helt andet. Et projekt, som han er villig til at gå langt for at skjule, at han står bag.

David Do, som farmaceuten hedder, driver nemlig den kontroversielle hjemmeside MrDeepFakes.com. Hjemmesiden er intet mindre end verdens største site for deepfake-porno, hvor kendte kvinder fra det meste af verden - uden samtykke - får deres ansigter manipuleret ind på pornografisk indhold ved hjælp af kunstig intelligens. 

På det canadiske hospitals instagramside finder vi et billede af en smilende David Do. Opslaget handler om, hvor vigtigt hans arbejde som farmaceut er. TjekDet har valgt at sløre billedet. (Foto: Instagram).

Det går også ud over danske kvinder, herunder Dronning Mary og supermodellerne Nina Agdal og Josephine Skriver.

TjekDet har tidligere - i samarbejde med Politiken - fortalt historien om MrDeepFakes. En hjemmeside hvor brugere tjener penge på at efterkomme andres ønsker om deepfake-porno med specifikke kendisser, og som besøges af flere millioner hver måned, selvom det i Danmark og mange andre lande er ulovligt at dele seksuelt indhold uden samtykke - uanset om det er autentisk eller skabt med eksempelvis kunstig intelligens.

Samtidig er sitet og dets forum blevet et knudepunkt for udviklingen af deepfake-teknologi i det hele taget.

Kendte kvinder misbruges i porno-deepfakes

MrDeepFakes har i årevis været omgærdet af mystik, og både myndigheder og medier har forsøgt at finde frem til personen bag. I december 2024 kunne tyske Der Spiegel pege på, at en af personerne bag er en 36-årig mand ved navn David D., bosat nær Toronto og ansat på et hospital – dog uden at offentliggøre hans fulde identitet.

Nu kan TjekDet afsløre, at David D. - altså David Do – ikke blot er en af personerne bag. Han er ifølge vores dokumentation hovedperson bag både driften og skabelsen af MrDeepFakes, og derfor har vi også valgt at offentliggøre hans identitet.

Afsløringen sker på baggrund af omfattende detektivarbejde af TjekDet i samarbejde med Politiken, det anerkendte undersøgende medie Bellingcat og Canadian Broadcasting Corporation (CBC), der er den canadiske pendant til Danmark Radio.

Afsløringen af David Do er altafgørende for ofrene, lyder det fra advokat og partner i ReThink Law, Miriam Michaelsen, der jævnligt repræsenterer ofre for digitale krænkelser, vold og chikane.

“Ofrene står jo fuldstændig alene og skal prøve at finde ud af, hvem der står bag. Hvordan får jeg det fjernet? Hvordan får jeg hjælp? Det kan være nærmest umuligt for dem, men det har de nemmere ved nu, fordi de nu har et navn at bringe med videre til politiet,” siger hun.

Verdens største

Vi skal en tur over Atlanten, hvor vi finder en tilsyneladende almindelig ung mand. Men bag skærmen har han i over et årti faciliteret ulovligheder på internettet. Ulovligheder, som han tjener penge på.

Inden vi dykker ned i, hvem David Do er, skal vi forstå, hvad han står bag.

Produktionen og distributionen af deepfake-manipulerede seksuelle videoer og billeder er eksploderet de seneste år. Kendte kvinders ansigter bliver uden samtykke klippet ind i seksuelle sammenhænge, og på de mest overbevisende videoer er det svært at se, hvad der er ægte, og hvad der er falsk.

Superstjernen Taylor Swift, den svenske klimaaktivist Gretha Thunberg, skuespiller Scarlett Johansson og Finlands tidligere statsminister Sanna Marin er et udpluk af tusindvis af misbrugte ofre.

I Danmark har eksempelvis Det Konservative Folkepartis Mai Mercado, Liberal Alliances Pernille Vermund, Socialdemokratiets Ida Auken og dronning Mary oplevet at få delt manipulerede billeder og videoer, dog ikke på MrDeepFakes.

Deepfake-porno er et generelt problem, der ikke kun begrænser sig til kendte personer. Men som noget særligt på MrDeepFakes er det - ifølge sitets egne regler - kun tilladt at uploade manipulerede videoer med kendte mennesker. TjekDet har dog fundet flere eksempler på, at den regel ikke bliver overholdt.
 

På MrDeepFakes.com findes en række regler for, hvem det er tilladt at lave deepfake-porno med. Reglerne handler blandt andet om, hvor kendte ofrene er i offentligheden, og hvor gamle de er. TjekDet har dog fundet flere eksempler på, at reglerne ikke overholdes.

Selv om indholdet ikke er ægte, så er konsekvenserne det. Også for de kendte.

“At blive udsat for denne form for billedmanipulering er for mig på samme niveau som en verbal trussel om at blive slået ihjel,” har Mai Mercado sagt til Politiken, da de kunne afsløre, at der blev delt manipulerede billeder af hende på nettet.

Hvis du undrer dig over, hvorfor det udelukkende er kvindelige personer, der er nævnt her, så er det ikke tilfældigt. Det er nemlig næsten altid kvinder, det går udover.

Ifølge en opgørelse fra 2023 fra cybersikkerhedsvirksomheden Security Hero udgør seksuelle videoer 98 procent af alle deepfake-videoer. 99 procent af ofrene er kvinder. Og på MrDeepFakes’ særdeles aktive forum handler det også næsten udelukkende om kvinder, og tonen kan være både brutal og nedsættende.

Kvinder omtales som ‘kællinger’ og ‘billige ludere’, og flere brugere på sitet mener, at nogle kvinders opførsel direkte opfordrer til at dele seksuelt indhold af dem.

“[navn fjernet] er måske et af de bedste kneppedyr, der findes. Jeg mener, se på den kællings krop! Og hun tirrer folk ved at opføre sig som en komplet tøjte. Vi er uden tvivl nødt til at have porno og nøgenbilleder med hende,” skriver en bruger på forummet.

Den hårde tone afspejler sig også i de videoer, brugerne lægger op. I en falsk video bliver Gretha Thunberg bagbundet, tvunget til at give oralsex til overgrebsmanden, der samtidig klipper hende skaldet med en trimmer.

Det er den type krænkende indhold, der findes på MrDeepFakes. Med sitets 650.000 brugere, næsten 70.000 manipulerede videoer og flere millioner besøgende hver måned er MrDeepFakes verdens største distributør af manipulerede seksuelle videoer. Videoerne har tilsammen ifølge Bellingcat mere end to milliarder visninger. 

På nuværende tidspunkt er det i Danmark ikke ulovligt at producere manipuleret seksuelt indhold, selv om der ikke er givet samtykke. Men det er derimod ulovligt at dele seksuelt indhold uden samtykke - uanset om det er manipuleret med eksempelvis kunstig intelligens. 

Regeringen med justitsminister Peter Hummelgaard (S) i spidsen har dog i marts måned præsenteret et lovforslag, der skal gøre det ulovligt også at producere manipuleret seksuelt materiale uden samtykke.

På MrDeepFakes.com kan brugere i et forum udveksle tanker, ønsker og meninger. Tonen er ofte hård, når kvinder omtales. Her er en række eksempler på kommentarer, TjekDet har fundet på hjemmesiden.

Et liv i det skjulte

Hovedpersonen hedder som nævnt David Do. Vores dokumentation viser, at han står bag  skabelsen og driften af MrDeepFakes. I hvilket omfang, han får hjælp af andre, ved vi ikke, men vi kan se, at David Do er hovedansvarlig for siden.

Ifølge TjekDets oplysninger er David Do 36 år gammel og bor i en forstad til metropolen Toronto i Canada. Her lever han et tilsyneladende almindeligt liv med sin partner i det, der bedst kan beskrives som et poleret villakvarter med store huse og pæne biler i indkørslerne.

Det kan man se, når man taster adressen ind i Google Maps. Men man kan også se, at  husets beboere tilsyneladende ønsker at være anonyme.

Som det eneste hus i nabolaget har David Do nemlig valgt at skjule sit hus på Google Maps for nysgerrige blikke. På Google Maps kan man nemlig anmode om at få sin adresse gjort anonym, hvorefter den fremstår sløret på Googles billeder.

Samme sløring har David Dos forældres hus, der ligger omkring en times kørsel fra David. 

David Do er uddannet farmaceut med en bachelor fra University of Waterloo. Siden 2016 har han arbejdet som netop det på et hospital tæt ved Toronto. Et arbejdsliv han siden 2018 har delt med sit virke på MrDeepFakes, da sitet opstod.

Men allerede et årti tidligere, mens han studerede en bachelor i biomedicin på University of Waterloo, var han aktiv på nettet, viser TjekDets dokumentation. I 2008 stiftede han fildelings-hjemmesiden ‘xinoa.net’, hvor man ulovligt kunne downloade piratkopierede film, spil og musik.

Hjemmesiden er for længst lukket ned, men var aktiv i minimum fire år indtil 2012.

Sådan fandt vi manden bag MrDeepFakes

MrDeepFakes

Seks år senere - i 2018 - tyder alt på, at det er David Do, der opretter MrDeepFakes. Det gør han i kølvandet på Reddits beslutning om at lukke ned for sektionen med navnet ‘Deepfake’, der kun nåede at være aktiv i to måneder, fordi der blev delt manipuleret seksuelt indhold uden samtykke.

Reddit-sektionen var indtil nedlukningen det centrale mødested for deepfake-interesserede, og nedlukning førte til, at en række andre sider poppede op som potentielle efterfølgere af sektionen, herunder altså MrDeepFakes.

Flere sider lukkede dog hurtigt ned, men i august 2018 lover David Do sine brugere, at de ikke skal være bange for igen at miste deres mødested, som tilfældet var efter udelukkelsen fra Reddit:

“Siden den oprindelige eksplosion på Reddit er MANGE sider dukket op – og lige så mange er forsvundet igen. MrDeepFakes.com var tidligere kendt som dpfks.com, og vi åbnede dørene kort tid efter udelukkelsen fra Reddit. Siden da har vi konstant arbejdet på at forbedre hjemmesiden og forummet for brugerne og fællesskabet.

Jeg ved, at det kan føles som en ny begyndelse at tilslutte sig et nyt forum eller fællesskab, men miljøet er lille, og de vigtigste aktører holder sammen. Jeg lover at holde dette fællesskab i gang så længe, jeg kan,” skriver han på MrDeepFakes’ forum i 2018.

David Do er mere end blot en facilitator af spredningen af deepfake-porno. Han har også produceret sine egne pornovideoer af eksempelvis en populær canadisk Pokemon-streamer, YouTube-personligheden Gibi ASMR, ligesom han har delt en mappe med over 6.000 billeder af den demokratiske politiker Alexandria Ocasio-Cortez, der er medlem af Repræsentanternes Hus i USA, som kan bruges til at lave manipuleret porno med politikeren.

Han har ligeledes instrueret andre brugere i, hvordan man producerer deepfakes.
 

David Do er 36 år gammel. Han har drevet MrDeepFakes siden 2018. Hvorvidt han får hjælp, ved vi ikke. (Foto: Privatfoto).

Skjuler sine penge

Men for David Do er MrDeepFakes ikke kun et værktøj til udbredelse af deepfake-porno. Det er også en indtægtskilde.

Han tjener penge på både reklamer og på brugere, der har mulighed for at gøre sig til premium-bruger på sitet for 50 kroner om måneden. Derudover tager han en bid af det beløb, som brugere betaler direkte til skaberen af en video for at downloade den.

Hvor meget han præcist tjener, ved vi ikke. Men for fem år siden - i 2020 - giver David Do selv et bud på størrelsen. Under et alias på forummet OffshoreCorpTalk, skriver han, at han tjener op til 7.000 amerikanske dollars om måneden, svarende til godt 45.000 danske kroner. 

Det er nærliggende at tro, at beløbet i dag er steget væsentligt i takt med sitets popularitet. I 2018 - altså to år før David Do skriver, at han tjener op til 7.000 dollars om måneden - skriver han fra en profil på et andet forum, at hans “hjemmeside med voksenvideoer” besøges af 15-20.000 personer om dagen, hvilket svarer til omtrent 450.000 til 600.000 månedligt.

I år har hjemmesiden haft millioner af brugere - hver måned.

På OffshoreCorpTalk beder han i et andet opslag om hjælp til en “forretningsløsning til min side med voksenvideoer”. Han søger ifølge opslaget en langsigtet løsning på en forretningsmodel, fordi hans anonyme bruger på betalingstjenesten PayPal er blevet lukket af PayPal.

“Ja, jeg var dum nok til at prøve at bruge PayPal på en hjemmeside med voksenvideoer,” skriver han på forummet - sandsynligvis med henvisning til PayPals politik om at sortliste brugere, der handler med “seksuelt orienterede digitale varer”.

Det lader dog ikke til, at David Do finder sin langsigtede løsning i 2020, for i juni 2022 spørger han på samme forum til en forretningsmodel for en canadisk statsborger, der fokuserer på privatliv, så forretningen ikke kan spores tilbage til den egentlige ejer.

Og noget tyder på, at han forsøger sig med at registrere en virksomhed i Ungarn, sandsynligvis ved hjælp af en stråmand. I juli 2022 beder han i hvert fald om navne på troværdige virksomheder, der kan inkorporere virksomheder i Ungarn.

Det har ikke været muligt at identificere, hvilken forretningsløsning MrDeepFakes er endt med.

Flugt eller ferie

Vi har flere gange, både mundtligt og skriftligt,  forsøgt at få en kommentar fra David Do til vores afdækning af, at han står bag MrDeepfakes, men uden held. Vi kan dog se, at han har åbnet de mails, vi har sendt, flere gange ifølge såkaldte mail-trackers. 

For at få en kommentar fra hovedpersonen møder CBC’s anerkendte journalist Eric Sczeto derfor uanmeldt op på David Do’s arbejdsplads den 11. april, hvor han præsenterer sit ærinde og forklarer, at han er journalist. Men David Do nægter at svare på CBC-journalistens spørgsmål.

“Jeg ved ingenting om det,” siger David Do til journalisten, der spørger, hvad han mener med det, hvortil David Do svarer “Jeg er på arbejde lige nu”. 

CBC’s journalist tilbyder, at de kan gå ud for at tale, men også det afviser David Do. “Beklager,” slutter han. Det lykkes dog Eric Szeto at overlevere et brev med de kritikpunkter, vi offentliggør i blandt andet denne artikel.

Heller ikke de følgende dage svarer David Do på vores henvendelser, og kort efter forlader David Do tilsyneladende Canada med sin familie. På AirBnB-profiler, der tilhører David Do og hans partner, kan vi se anmeldelser, der fortæller, at han er taget til Portugal. 

Og så sker der noget uventet.

Om morgenen søndag den 4. maj lukker MrDeepFakes.com, og brugerne bliver nu mødt af denne besked:

“En kritisk tjenesteudbyder har permanent afbrudt sin service. Datatab har gjort det umuligt at fortsætte driften. Vi vil ikke genåbne. Enhver hjemmeside, der påstår dette, er falsk. Dette domæne vil på et tidspunkt udløbe, og vi er ikke ansvarlige for fremtidig brug. Denne besked vil blive fjernet om cirka en uge”.

Efter vores henvendelser, hvor David Do nu ved, at han vil blive afsløret, lukker MrDeepfakes altså ned med en besked til sine millioner af besøgende om, at siden ikke vil genopstå.

På forskellige forummer på nettet bliver der spekuleret i årsagen, og flere nævner den nyligt vedtagne lov - den såkaldte Take-It-Down Act - i USA som et bud. Loven ulovliggør offentliggørelse af blandt andet deepfake-porno uden samtykke, ligesom man kan kræve, at platforme fjerner indholdet inden for 48 timer efter varsel.

På det tidspunkt ved brugerne ikke, at MrDeepfakes identitet vil blive afsløret.

Den 5. maj gør CBC-journalisten Eric Sczeto et sidste forsøg på at få en kommentar fra David Do, da han konfronterer ham, mens David Do sidder i sin Tesla. 

“David, må jeg tale med dig? Jeg er journalist ved CBC News,” siger Eric Szeto gennem et åbent bilvindue.

“Vi har forsøgt at komme i kontakt med dig i ugevis om MrDeepFakes og din rolle i det, og hvorfor du gør, som du gør”. 

“Jeg vil ikke filmes,” er det eneste, siger David Do siger. Han ignorerer journalistens opfølgende spørgsmål og kører derefter væk. 

Lukningen er en stor hjælp

Afsløringen af David Do og lukningen af MrDeepFakes er ifølge advokat Miriam Michaelsen en stor hjælp for ofrene.

“Når man bliver delt på nettet, uanset om det er ægte eller falsk materiale, så er hjælp det første, ofrene beder om. Hjælp til at få fjernet materialet og stoppet delingerne. Og lukningen må være en lettelse for de ofre, der er blevet delt på MrDeepFakes,” siger hun.

Hun fortæller også, at det kan hjælpe ofrene juridisk, at de nu har et navn på en person bag en side som MrDeepFakes. For selv om det ikke er ulovligt at lave deepfake-porno i Canada, mener Miriam Michaelsen, at der stadig kan være et juridisk ansvar.

"Digital kriminalitet kender ikke landegrænser. Der kan sidde en i Canada og krænke danske statsborgere og når skaden er sket i Danmark, så bør der kunne rejses en straffesag herhjemme, hvis ofrene anmelder det eller dansk politi vælger at gribe ind,” siger hun.

Og så mener hun, at de danske myndigheder fokuserer for lidt på platformenes ejere.

“Der er et kædeansvar her. Hvis du ejer en platform, der bliver brugt til ulovlig deling - og ikke reagerer, når du bliver gjort opmærksom på deling af ulovligt og krænkende materiale - så mener jeg, du er medskyldig efter dansk strafferet. Og den, der administrerer en platform som MrDeepFakes, hvor det ligger i selve navnet, at det handler om falsk materiale, er jo netop bekendt med, hvad den bliver brugt til", siger hun.

Selvom det nu ikke længere er muligt at tilgå MrDeepFakes, advarer Michaelsen om, at problemet med deepfake-porno langtfra er løst.

"Den store udfordring er, at der kan poppe en ny platform op, eller at brugerne bare rykker et andet sted hen. Vi har brug for strukturelle løsninger, en opdatering af lovgivningen i de forskellige lande, et reelt internationalt samarbejde i den her type sager og at det bliver prioriteret af myndighederne i de forskellige lande," siger hun.

Hvis du vil vide mere om, præcis hvordan vi fandt frem til David Do, kan du læse det i artiklen her. Du kan også læse mere om hjemmesiden MrDeepFakes.com, om en dansk forbindelse og om, hvordan hjemmesiden har spillet en væsentlig rolle i udviklingen af deepfake-teknologien helt generelt i artiklen her.

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDet's gratis nyhedsbrev, hvor vi tipper dig om vores seneste faktatjek - direkte i din mailindbakke. Tilmeld dig nyhedsbrevet her.