AI-drevne 'nøgenheds'-apps skaber farlig bølge af digital afpresning
-
En tragisk sag fra USA, hvor en 16-årig dreng har taget sit eget liv, efter han blev afpresset med at få delt falske nøgenbilleder af sig selv, har sat fokus på apps, der med kunstig intelligens kan afklæde folk.
-
USA’s sikkerhedstjeneste og forbundspoliti, FBI, melder om en opsigtsvækkende stigning i sager om sextortion.
Tidligere i år tog en 16-årig dreng fra den amerikanske delstat Kentucky på tragisk vis sit eget liv.
Efterfølgende fandt hans forældre ud af, at drengen var blevet afpresset. Afpresserne krævede 3.000 dollars - knap 19.500 danske kroner - for ikke at dele et AI-genereret nøgenbillede af ham.
Det skriver det franske nyhedsbureau AFP.
Tragedien sætter fokus på, hvordan såkaldte sextortion-svindelnumre i stigende grad rammer børn og unge over hele verden.
Sextortion er onlineafpresning, hvor afpresseren truer med at dele seksuelle eller intime billeder og videoer af offeret. Offeret bliver afpresset til at betale penge eller sende flere intime billeder til afpresseren for at undgå, at afpresseren offentliggør billederne eller videoerne til eksempelvis offerets familie eller facebookvenner.
Problemet er voksende især på grund af den hastige udbredelse af såkaldte nudify-apps, som er AI-værktøjer, der digitalt fjerner tøj eller skaber seksualiserede billeder på baggrund af eksisterende billeder.
Den 16-årige dreng Elijah Heacock var blot én blandt tusindvis af amerikanske unge, der er blevet udsat for sextortion. Sagen har ført til øget pres på både teknologivirksomheder og myndigheder, som der kræves handling fra.
Elijah Heacocks forældre har til amerikanske medier fortalt, at han modtog beskeder med krav om betaling - ellers ville et tilsyneladende AI-genereret nøgenbillede af ham blive sendt til hans venner og familie.
“De mennesker, der er ude efter vores børn, er velorganiserede,” siger hans far, John Burnett, i et interview med CBS News.
“De har masser af penge, og de giver ikke op. De kræver ikke, at billederne er ægte. De kan skabe lige præcis det, de vil, og så bruger de det til at afpresse barnet.”
Amerikanske efterforskere ser nu nærmere på sagen. Samtidig viser tendenser, at de såkaldte nudify-apps, der i første omgang blev brugt til at afklæde kendte, nu i stigende grad bliver brugt mod børn.
USA’s nationale sikkerhedstjeneste og forbundspoliti, FBI, har rapporteret om en "forfærdelig stigning" i sager om sextortion rettet mod mindreårige drenge i alderen 14-17 år. Sagerne har ført til "et alarmerende antal selvmord", advarer FBI.
Værktøjer til overgreb
Den amerikanske NGO Thorn, der arbejder for at forhindre seksuelt misbrug af børn online, foretog for nylig en undersøgelse, som viste, at seks procent af amerikanske teenagere har været direkte ofre for nøgenbilleder, der er skabt med kunstig intelligens.
“Sager om falske billeder og deepfakes, hvor mange af dem er skabt med 'nudify'-apps, hænger tæt sammen med tilfælde af økonomisk sextortion eller afpresning med seksuelle billeder,” skrev den britiske organisation Internet Watch Foundation (IWF) i en rapport sidste år.
“Gerningsmændene behøver ikke længere at finde ægte intime billeder af børn, fordi AI kan skabe billeder, der er realistiske nok til at skade. I nogle tilfælde lige så meget som ægte billeder.”
IWF har identificeret en særlig guide til pædofile, hvor gerningsmænd opfordres til at bruge nudify-værktøjer til at skabe afpresningsmateriale. Forfatteren til guiden hævder selv at have haft held med at afpresse piger helt ned til 13 år.
Og folkene bag tjenesterne, der kan afklæde ofre, tjener store penge.
En analyse af 85 hjemmesider, der sælger nudify-tjenester, viser, at de tilsammen kan have en årlig indtjening på op mod 36 millioner dollars - svarende til cirka 230 millioner kroner.
Det amerikanske medie Indicator, der undersøger digitalt bedrag, vurderer, at 18 af disse sider alene i den første halvdel af året har tjent mellem 2,6 og 18,4 millioner dollars - et sted mellem 16 og 118 millioner kroner.
Ifølge Indicator benytter de fleste sider sig af teknologiske infrastrukturer fra Google, Amazon og Cloudflare for at fungere, og de fortsætter med at være rentable trods forsøg på at begrænse dem, ifølge Indicator.
Et mulvarpespil
Spredningen af AI-værktøjer har åbnet døren for nye typer misbrug af børn. I både skoler og på universiteter verden over har der været sager, hvor teenagere har lavet og delt seksualiserede AI-billeder af deres egne klassekammerater.
En undersøgelse fra Red Barnet viser, at hver femte ung i Spanien rapporterer, at de har været offer for deepfake-nøgenbilleder, uden at de har givet samtykke.
Ifølge AFP oplyste spanske myndigheder tidligere i år, at de efterforskede tre mindreårige i byen Puertollano. Børnene havde angiveligt brugt kunstig intelligens til at lave og dele pornografiske billeder af deres klassekammerater og lærere.
I Storbritannien er det nu blevet strafbart at skabe seksuelt eksplicitte deepfakes. Gør man det, risikerer man op til to års fængsel.
Herhjemme arbejder man ligeledes på at gøre det ulovligt at dele deepfakes, der er skabt ved hjælp af kunstig intelligens. Et bredt politisk flertal i Folketinget er blevet enige om en aftale, der skal sikre, at borgere ikke uden samtykke kan få manipuleret deres stemme eller krop digitalt – og at det bliver lettere at få indhold fjernet, hvis det sker.
I maj i år underskrev USA’s præsident, Donald Trump, den såkaldte "Take It Down Act", som gør det strafbart at offentliggøre intime billeder uden samtykke. Loven pålægger også platforme at fjerne sådanne billeder hurtigt.
Meta, der står bag Facebook og Instagram, har også indledt et søgsmål mod et firma i Hongkong, der står bag nudify-appen Crush AI. Firmaet har angiveligt gentagne gange forsøgt at omgå Metas regler og dele reklamer på deres platforme.
Men trods disse tiltag er problemet langt fra løst, skriver Indicator.
“Indtil nu har kampen mod nudify-appsene været som et mulvarpespil,” skriver Indicator og beskriver appsene og hjemmesiderne som “vedholdende og ondsindede fjender.”
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation - direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
