“Forældreløs hele mit liv. I dag er jeg læge. Hvert eneste “tillykke”, jeg læser, betyder mere, end du kan forestille dig.”

Sådan lyder billedteksten på et opslag, der har ramt hjertet hos over 15 tusind danskere. Billedet forestiller en tårevædet ung mand i kittel og med en buket og et diplom i hånden.

Det rørende opslag har genereret 4.400 kommentarer fra danskere, der smider kærlighed og lykønskninger efter den nyudklækkede læge.

Men den unge læge eksisterer ikke.

Flere end 4.400 danskere har kommenteret det følelsesladede billede af, hvad der angiveligt er en nyuddannet forældreløs læge. Men manden på billedet findes slet ikke i virkeligheden. Foto: Skærmbillede af Facebook.

Han er AI-genereret og en del af en stor, international tendens på Facebook, hvor sider udgiver fokuseret indhold, der skal vække empati og få folk til at reagere.

Opslagene kredser om indiskutabelt følelsesladede emner som kræftpatienter, døde kæledyr, babyer med sygdomme og forældreløshed.

TjekDets undersøgelser viser, at identiske og lignende, sentimentale opslag dukker op på flere forskellige Facebooksider i både ind- og udland.

Formålet for bagmændene er at tjene penge på sider med stor trafik. Den enkelte bruger, som forledes til at dele eller kommentere, mister ikke penge som i traditionel svindel. Men for de mange tusinde danskere koster det både tid og følelser.

Lykønskninger, hilsner og kondolencer. De følelsesladede opslag har ofte fyldte kommentarspor, hvor danskere reagerer på indholdet, der er skabt til netop det formål. Foto: Skærmbillede af Facebook.

Fabrikeret, følelsesladet indhold

Vi finder opslaget om den unge læge på Facebooksiden Topidé. Med 23 tusind følgere har de en større rækkevidde på Facebook end flere lokale medier.

Topidé er helt systematiske i deres udgivelser.

Hver dag udkommer ni AI-genererede billeder med en bevægende historie eller et unikt fakta. Det første klokken 05:00 eller 06:00, og derefter kan der tælles præcis to timer mellem hvert opslag.

Den fabriksagtige udgivelsesmetode indikerer, at der her er tale om både AI og en klar strategi for at gå viralt. Mange opslag med mange interaktioner kan på grund af Metas algoritme skubbe yderligere til Topidés rækkevidde.

Det er karakteristisk for alle Topidés historier, at de er hjerteskærende, mageløse og så opfordrer de til engagement i form af for eksempel lykønskninger.

Siden er for nylig også begyndt at dele fakta med chokeffekt, som

“I Frankrig kan du gifte dig med en afdød person,” eller “Beyonce kan løbe 1,5 km mens hun synger.”

Opslagene fra Facebooksiden Topidé følger samme skabelon hver dag. Præcis ni opslag dagligt, der alle er skabt til at få brugere til at interagere ved at spille på deres følelser. Foto: Skærmbillede af Facebook.

Bekræftet AI-indhold

TjekDet har undersøgt 10 tilfældige billeder fra Topidé med AI-detektionsprogrammet, Hive Moderation. Resultatet viser, at billederne er AI-genererede med en sandsynlighed på mellem 90.6 og 99.9 procent.

Den unge læge har en af de højeste scorer med 99.7 procent.

Værktøjet Hive Moderation bruger en række algoritmer til at vurdere, hvor sandsynligt det er, at et givet billede er enten helt- eller delvist genereret ved hjælp af kunstig intelligens. Værktøjet er ikke helt skudsikkert, men ofte en effektiv indikator. Foto: Skærmbillede.

Topidé på flere sprog

En undersøgelse af Topidés Facebookside viser, at siden blev oprettet i 2023, men kun har eksisteret under navnet Topidé siden den 14. juli i år. Kort tid efter starter de følsomme opslag, hvilket indikerer, at siden er blevet oprettet med det ene formål.

Topidé har på trods af de dansksprogede opslag ikke en dansk administrator, men derimod flere udenlandske fra Thailand, Algeriet, Tjekkiet, Indonesien og USA.

Med en omvendt billedsøgning på Google, finder vi frem til, at flere af de AI-genererede billeder går igen på andre europæiske sider. Den unge læge er for eksempel udgivet som originalopslag på syv Facebooksider på syv forskellige sprog: norsk, svensk, engelsk, slovensk, hollandsk, polsk og litauisk.

De udenlandske sider har ligesom Topidé høstet tusindvis af medfølende reaktioner og kommentarer fra brugerne.

Der er en systematisk sammenhæng mellem Topidé og flere af de udenlandske sider. De poster det præcis samme indhold på samme tidspunkt. Kigger vi på administratorerne, er det også de samme lande, der går igen.

Navnene på siderne er for fire af dem også bemærkelsesværdige ens: Topidé på dansk; Superidé på norsk; Magiska Ideja, der er litauisk for Magisk Idé; Čarobna Ideja, der er slovensk for Magisk Idé; Oma’s tips, der er hollandsk for Bedstemors tips og Życie codzienne, der er polsk for Hverdagsliv.

Vi kan se, at de fire Idé-sider, Topidé, Superidé, Magiska Ideja og Čarobna Ideja, har skiftet navn på præcis samme dato, den 14. juli, hvilket bekræfter den centrale styring af sider og opslag.

En vietnamesisk clickbate-fabrik

Formålet med annoncerne er at generere trafik - og i nogle tilfælde, via et link, at lede brugerne ind på annoncebetalte sider, som kan genere et beløb til administratorerne for at få folk ind på siderne.

Det svenske faktatjekmedie, Källkritikbyrån, udgav nyligt en artikel om et lignende fænomen i Sverige. I artiklen finder de frem til “en vietnamesisk clickbate-fabrik”.

“Fabrikken” udgiver svensk indhold med sentimentale temaer og tydelig brug af AI på tilsyneladende svenske Facebooksider, akkurat som vi ser det hos Topidé. Et eksempel er den svenske side Svenska Nyheter Idag.

Ifølge Källkritikbyrån er de svenske Facebooksider en del af en større svindelstrategi, som opererer fra Vietnam.

De vietnamesisk-styrede sider har med få undtagelser links i kommentarsporene til deres opslag.

Disse links fører brugerne væk fra Facebook og hen på hjemmesider, hvor bagmændene kan tjene penge på hjemmesidetrafik og annoncer. Jo flere brugere, der ser annoncerne, jo flere penge tjener bagmændene.

Uklart formål

Den danske side Topidé udgiver indhold, der matcher med de vietnamesiske sider, men uden et tilsvarende link til at føre brugerne videre. Her er formålet med at udnytte brugernes empati og tillid mere uklart.

Et godt bud er, at siderne skal opbygge en så stor følgerskare som muligt. Derefter kan de sælges til andre administratorer, der ønsker at købe sider med store følgerskarer, som kan signalere popularitet eller troværdighed.

Da Topidé-siderne er forholdsvis nye, kan det også være, at de på sigt vil introducere links til deres opslag.

Er du i tvivl, om en hjemmeside er sikker at bruge, kan du med fordel slå den op på tjekpånettet.dk. Her vil det ofte fremgå, om en hjemmeside er markeret som indeholdende malware, phishing eller svindel.

Er du faldet i fælden og har oplyst dine kreditkortoplysninger til svindlerne, bør du kontakte din bank.

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.