AI-kærlighedssvindel: Maria troede, Dubais kronprins var forelsket i hende
-
En filippinsk kvinde blev narret af en AI-genereret udgave af Dubais kronprins. Forskere advarer om, at teknologien gør digital kærlighedssvindel stadig sværere at gennemskue.
Maria troede, hun havde indledt et kærlighedsforhold med en prins fra Dubai. Hun blev betaget af hans flirtende smil og kærlighedserklæringer, som han sendte under live-videosamtaler. Men bejleren viste sig at være en AI-genereret deepfake - og Maria blev endnu et af mange ofre for en online kærlighedssvindel.
Sagen er endnu et eksempel på, hvordan svindlere, der i dette tilfælde udgiver sig for at være Dubais kronprins, lokker ofre i fælden ved at opbygge romantiske relationer på nettet, før de franarrer dem penge. Forskere har sporet nogle af svindelnumrene til kriminelle netværk i Nigeria.
Maria mødte svindleren på en datingside, hvor han udgav sig for at være prins Hamdan bin Mohammed, der også er kendt under kunstnernavnet Fazza, når han for eksempel udgiver sine digte. Senere fortsatte de samtalen i en beskedapp, hvor han bombarderede hende med romantiske beskeder.
"Han blev ved med at skrive til mig, selv når jeg sov," fortæller den filippinske hushjælp til det franske telegrambureau AFP. Hun ønsker ikke sit rigtige navn eller sin alder offentliggjort.
"Det føltes, som om der var en særlig kærlig kraft, der forbandt vores sind," fortsætter hun.
På en optagelse af en WhatsApp-videosamtale, som AFP har set, fremstår svindleren overbevisende som prinsen. Hans læbebevægelser passer til ordene, men stemmen er ikke prinsens.
"Hej, min elskede. Jeg sætter virkelig pris på din kærlighed og støtte," siger stemmen til Maria.
Hun var i begyndelsen for forelsket til at fatte mistanke og mistede opsparingen fra et helt år.
Svindleren fik hende til at betale 100.000 filippinske pesos (cirka 11.000 kroner, red.) for det, han påstod var en vielsesattest og et "kongeligt medlemskort", som angiveligt skulle hjælpe hende med at få arbejde i Dubai.
Hun begyndte først at tvivle, da han foreslog, at de skulle mødes på et hotel, og krævede yderligere 60.000 pesos (cirka 6.600 kroner, red.) til reservationen. Da hun undersøgte hans facebookprofil nærmere opdagede hun, at kontoen var baseret i Nigeria. Profilen er nu fjernet.
Derefter afbrød hun kontakten.
"Tag ad helvede til, svindler," skrev hun i en sidste besked til ham.
"Mange sagde til mig, at det var godt, jeg ikke blev skør efter den oplevelse," siger Maria til AFP.
Hjerter og kysse-emojis
Svindlen er en del af et større økosystem af såkaldte "falske Dubai-prins"-svindelnumre, der spiller både på folks følelser og pengepung.
Svindlerne udnytter den emiratiske kronprins' store tilstedeværelse på sociale medier. Han har blandt andet mere end 17 millioner følgere på Instagram, og undertiden bliver endda hans ægte digte kopieret for at narre ofrene.
AFP har identificeret flere facebookgrupper, der udgiver sig for at være prinsen. Nogle har tusindvis af følgere og opfordrer brugerne til at fortsætte samtalen med "prinsen" via de sociale medie-platforme WhatsApp eller Telegram.
Grupperne deler manipulerede, men overbevisende billeder. På ét billede ses prinsen på knæ med en ring i hånden, mens et andet viser ham med en rød rose ledsaget af teksten:
"Skat, må jeg få et 'jeg elsker dig' på WhatsApp?"
Selv om nogle brugere advarer i kommentarerne om, at opslagene er svindel, svarer mange andre med hjerter og kysse-emojis.
Efterhånden som svindlen breder sig, er der opstået andre grupper, der advarer facebookbrugerne. Blandt dem er instagramprofilen med navnet "Do not fall for fake prince".
En online underskriftindsamling med titlen "Stop Fazza Scam" opfordrer Sheikh Hamdans medarbejdere til at advare offentligheden mod svindlere, der udgiver sig for at være prinsen ved hjælp af Dubai-telefonnumre og kræver store pengebeløb, blandt andet under påskud af donationer eller vielsesattester, som alle er falske.
"Der anmodes om betydelige betalinger til bankkonti i andre lande end ofrenes hjemlande. Nogle gange endda i kryptovaluta, hvilket gør pengene vanskeligere at spore," hedder det i underskriftsindsamlingen.
Teknologien bliver stadig bedre
Myndighederne i Dubai har ikke besvaret AFP's anmodning om en kommentar.
Prinsen er langt fra den eneste kendte person, hvis identitet misbruges af svindlere. Sidste år indledte franske myndigheder en efterforskning af personer, der udgav sig for at være Brad Pitt og narrede en kvinde for 830.000 euro (cirka 6,2 millioner kroner, red.).
Organisationen Global Anti-Scam Alliance anslår, at forbrugere verden over sidste år mistede 442 milliarder dollar (cirka 2,9 billioner kroner, red.) til svindel, herunder kærlighedssvindel.
Det er uklart, hvilke AI-værktøjer der blev brugt til at skabe de live-videosamtaler, som lokkede Maria i en fælde.
Internettet er fyldt med AI-baserede værktøjer til ansigtsudskiftning og en ny generation af programmer, der kan styre bevægelser og skabe yderst realistiske videoer. De gør det muligt at manipulere en persons ansigtsudtryk og bevægelser i realtid med stor præcision.
"Teknologien udvikler sig hurtigt, og det er sandsynligt, at deepfake-videoer i realtid snart bliver stadig bedre," siger David Rand fra Cornell University til AFP.
"Når det sker, bliver det grundlæggende umuligt at afgøre, om en samtale, der ikke foregår ansigt til ansigt, er ægte," fortsætter han.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her eller Instagram ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
