Mor var i 20 minutters rædsel: AI-stemmer udløser panik og presser penge ud af familier
-
Et opkald om et gidseldrama fik en mor til at tro, at hendes søn var i livsfare. Kriminelle udnytter ny teknologi til at udløse panik og presse penge ud af familier.
Elizabeth Benz er stadig overbevist om, at stemmen i telefonen lød som hendes søns.
Tonefaldet, udtalen og måden at tale på var præcis som hendes 16-årige søns.
Men stemmen var en AI-genereret kopi, og den amerikanske mor blev dermed endnu et offer for en voksende bølge af bedragerier, hvor svindlere ringer og udgiver sig for at være familiemedlemmer.
Den hastige udvikling i kunstig intelligens har ifølge eksperter udvisket grænsen mellem virkelighed og fiktion og givet cyberkriminelle adgang til overbevisende værktøjer, der kan efterligne menneskers stemmer og bruges til at franarre folk penge ved at udgive sig for at være deres nærmeste.
Elizabeth Benz sad hjemme i sofaen i den amerikanske by Buffalo, da hun blev ringet op fra et ukendt nummer. I den anden ende var en person, der lød som hendes søn Fred, og som græd og bad om hjælp.
Hun fik at vide, at Freds ven var blevet skudt og dræbt, og at hendes søn, der var ude for at se en lokal amerikansk fodboldkamp, blev holdt som gidsel.
Den 46-årige forsikringsmægler og mor til seks børn fik besked på at aflevere kontanter i et nærliggende Walmart-varehus for at betale manden, der tilbageholdt sønnen.
Først da hun samtidig modtog en selfie fra Fred, som han smilende tog under fodboldkampen, gik det op for hende, at opkaldet var et omfattende bedrageri.
"Intet kunne have forberedt mig på at høre min søns stemme, og intet kunne have overbevist mig om, at det var svindel, før jeg så min søn med mine egne øjne," siger Elizabeth Benz til nyhedsbureauet AFP med en stemme, der ryster.
"Det var 20 minutter i rædsel", fortsætter hun.
Få her tips til, hvad du kan gøre for at undgå at falde i fælden, hvis du bliver kontaktet af en bekendt, der angiveligt er i knibe. Video: TjekDet.
Alle kan gøre det
Amerikanske myndigheder og forbrugerorganisationer advarer i stigende grad mod svindelnumre, der bygger på at udgive sig for at være familiemedlemmer.
USAs forbundspoliti, FBI, oplyste i april, at amerikanerne sidste år mistede mere end 893 millioner dollar (5,7 milliarder kroner, red.) til bedragerier ved hjælp af AI, herunder svindel med stemmekloning.
En simpel søgning på internettet giver adgang til en lang række programmer til stemmekloning. Mange af dem er gratis og kan skabe realistiske AI-kopier på baggrund af meget små lydprøver. I nogle tilfælde blot få sekunders optagelse af en persons rigtige stemme.
"Tidligere var det forholdsvis svært at lave den slags. Nu kan alle gøre det på få sekunder," siger Brian Long, administrerende direktør i Adaptive Security, som tilbyder undervisning i beskyttelse mod AI-svindel.
"En enkelt person med et tastatur kan skabe et uendeligt antal angribere," siger Brian Long til AFP og tilføjer, at AI-værktøjer kan opbygge hele manuskripter på baggrund af små lydklip hentet fra sociale medier eller telefonsvarerbeskeder.
Historien om Elizabeth Benz og hendes søn følger et velkendt mønster. Det begynder med et følelsesladet opkald, der angiveligt kommer fra et familiemedlem i nød, der måske er anholdt, involveret i en trafikulykke eller blandet ind i en forbrydelse, og som har akut brug for penge.
Derefter øger svindlerne typisk presset ved at lade andre stemmer deltage i samtalen og udgive sig for at være advokater, retsbetjente eller bankmedarbejdere - et helt persongalleri af fiktive figurer i et kaotisk og hastende telefonopkald.
En stemme i panik
Mange bedragerier, der udgiver sig for at handle om familiemedlemmer i nød, kræver ikke engang en perfekt stemmekopi.
"En fortvivlet stemme, der siger 'mor, hjælp mig' eller 'far, jeg har været ude for en ulykke', behøver måske kun at lyde troværdig i få sekunder," siger Amit Gupta, der er vicepræsident for produktledelse hos cybersikkerhedsvirksomheden Pindrop, til AFP.
Målet er ikke perfekt stemmereproduktion. Målet er at skabe tilstrækkelig følelsesmæssig usikkerhed og hastværk til, at offeret handler, før vedkommende når at kontrollere oplysningerne.
Efter at Elizabeth Benz har fortalt offentligt om sin oplevelse, siger hun, at hun er blevet kontaktet af mange andre ofre. Mange af dem ønsker at være anonyme på grund af den skam, der er forbundet med at blive snydt.
Ældre mennesker er særligt udsatte, og eksperter advarer om et stigende antal såkaldte "bedsteforældre-svindelnumre".
Ifølge FBI anmeldte amerikanere over 60 år sidste år tab på mere end 7,7 milliarder dollar (49,5 milliarder kroner), hvilket er en markant stigning sammenlignet med 2024.
"Det er professionelle, og når de får folk i telefonen, har de med amatører at gøre," siger advokaten Gary Schildhorn fra Philadelphia, der blev udsat for et lignende forsøg i 2020.
Ligesom Elizabeth Benz samarbejder han nu med Adaptive Security for at skabe opmærksomhed om truslen.
I 2023 vidnede Gary Schildhorn for det amerikanske senat om sin oplevelse med et svindelopkald, hvor en stemme, der udgav sig for at være hans søn Brett, hævdede, at han havde brug for at betale en kaution efter en anholdelse for spirituskørsel.
Opkaldet fik Gary Schildhorn, der i dag er 73 år, til straks at skynde sig hen i banken.
"Da jeg kommer til banken, ringer min telefon. Det er min søn. Han siger, at jeg er blevet snydt," fortæller han og fortsætter:
"Jeg sagde til Brett, at jeg vil tage den overbevisning med mig i graven, at det var din stemme. Det var din måde at tale på. Det var de ord, du ville have brugt. Der var ingen accent. Det var dig i telefonen".
Svindeltricket 'bekendt i knibe' er også dukket op i Danmark i de senere år. Her blev kontakten mellem for eksempel forældre og barn sket gennem falske sms'er. Der er nogle tips til, hvordan man kan spotte svindlen. Bare i første halvår af 2024 modtog politiet 1.151 anmeldelser fra danskere.
April ramte en bølge af svindelopkald danskere i tusindtal. Opkaldene indledtes med en besked om, at der vil blive hævet penge fra personens konto, hvis der ikke blev tastet 1 for at annullere overførslen, kunne TjekDet berette her.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
