Trend med AI-genererede hjemløse kan gå fra uskyldig joke til "noget mere alvorligt"

“Øhhh, der er en eller anden hjemløs mand, der står og banker på vores dør. Han har stået der i 5 minutter nu,” lyder det i den første sms, en ung kvinde på TikTok sender til sin mor som en del af en joke.

Efterfølgende sender hun et billede af en hjemløs mand, der står uden for den åbne hoveddør. Hun opdaterer løbende sin mor med nye billeder og fortæller, at manden er kommet ind i hjemmet, sidder i sofaen og vil have noget at spise.

Joken er en del af et større fænomen på TikTok, hvor unge laver sjov med deres forældre ved at generere billeder af hjemløse mænd, der sidder i hjemmet, som de sender over sms og spørger forældrene til råds om hvad, de skal gøre.

Men hvad der kan virke som en sjov og harmløs joke, kan i sidste ende få konsekvenser, og de voksende muligheder for at skabe meget virkelighedstro billeder med kunstig intelligens, stiller nye krav til unge og deres forældre, lyder det fra eksperter.

Tænk tingene til ende

Fænomenet fik onsdag rent faktisk konsekvenser, da Midt- og Vestsjællands Politi iværksatte en større udrykning med flere patruljevogne til et lejlighedskompleks i Roskilde.

Det skete, fordi en 15-årig pige sendte et AI-genereret billede af en hjemløs mand i deres lejlighed til sin mor, som straks alarmerede politiet. Det oplyser Midt- og Vestsjællands Politi i en pressemeddelelse torsdag.

Også i Holland er politiet blevet kaldt ud til adresser, fordi børn har snydt deres forældre med AI-genererede billeder af hjemløse. Ifølge DutchNews har politiet endda i mindst to tilfælde sendt en helikopter i luften for at lede efter en mand, der ikke eksisterer.

Ifølge Kim Løvkvist, vicepolitiinspektør hos Midt- og Vestsjællands Politi, skal man tænke sig alvorligt om, før man udfører sådan en spøg.

“I onsdags blev en forælder så bekymret, at hun involverede myndighederne. Det er ikke sikkert, at det var det, der var hensigten, da man lavede pranken i første bølge, men det er et eksempel på, at man skal tænke tingene til ende: hvad kan det her føre til i yderste konsekvens?” siger Kim Løvkvist til TjekDet.

I den konkrete sag har politiet vurderet, at der ikke kan rejses en straffesag mod hverken datteren eller hendes mor. Dog er der scenarier, hvor der godt ville kunne blive rejst en straffesag i forbindelse med en prank, hvor politiet ender med at rykke ud. Det vil eksempelvis kunne munde ud i en bøde, oplyser Kim Løvkvist.

“Det er en vurdering fra gang til gang. Det er et spørgsmål om, hvad man har i sinde, og hvad ens forsæt er, når man spilder myndighedernes tid. Det kan gå fra at være en uskyldig prank til noget mere alvorligt, og det vil vi gerne advare imod,” siger han.

Viral video forarger: Har 12-årig barnebrud født dette barn?

Hanne Marie Motzfeldt, der er professor i forvaltningsret og digitalisering på Københavns Universitet, sammenligner fænomenet med en slags “moderne telefonfis”, hvilket formentlig vil få det konkrete tilfælde til at falde uden for en strafferetlig ramme.

“Den her sag vil nok blive kategoriseret som en practical joke, så jeg ville heller ikke rejse en sag, hvis jeg var politiet - især da det er moderen, som beskeden bliver sendt til,” siger hun til TjekDet.

Hun tilføjer dog, at det godt kan få retlige konsekvenser at fremstille indhold med kunstig intelligens. For eksempel hvis politiet ender med at bruge mange ressourcer på at rykke ud til den slags falske sager.

“Vi har nogle regler om falske anmeldelser og forstyrrelser af den offentlige orden, som myndighederne kan gå efter. Folk kan også misbruge det til at lave decideret chikane, krænkende indhold som nøgenbilleder eller cyberkriminalitet,” siger hun. Hertil kommer, at der snart kommer regler om, at materiale genereret af kunstig intelligens skal mærkes, at det er genereret af kunstig intelligens.

Ifølge Hanne Marie Motzfeldt er pranken og dens mulige konsekvenser et eksempel på, at danskerne har at gøre med en ny teknologi, de er i gang med at lære at kende.

“Hvad man bruger kunstig intelligens til af fis og ballade, er et spørgsmål om, at den danske befolkning skal lære - som man har skullet med alle andre teknologier - at omgås med den inden for rammerne af samfundet,” siger hun.

Videoer lavet med kunstig intelligens er på rekordtid blevet langt mere realistiske og svære at gennemskue. Utallige værktøjer er tilgængelige for alle at bruge. Denne video er lavet af TjekDets videograf på ingen tid.

Svært at gennemskue

Vicepolitiinspektør Kim Løvkvist opfordrer til, at alle forældre tager en alvorssnak med deres børn om brug af kunstig intelligens til at fremstille falske billeder.

Men ifølge Ask Hesby Holm, der er direktør hos Digitalt Ansvar, tjener den konkrete sag som et godt eksempel på, hvor svært det er blevet for folk som ham at give gode råd til, hvordan man skal forholde sig til kunstig intelligens.

“Tidligere var der nogle tommelfingerregler, men jeg vil sige, at de er mere eller mindre forduftet. Det er meget, meget svært at gennemskue, og der mangler gode værktøjer til at afkode falsk indhold. Så skal vi over i det, hvor man siger, man ikke skal stole på noget som helst. Det er bare meget uheldigt, at vi er nået dertil, hvor vi ikke kan stole på noget information,” siger han og fortsætter.

“Vi er et sted, hvor nogen kan hugge fem sekunder af din stemme og dit ansigt, og så kan de lave et opkald, der ligner og lyder som dig fuldstændig. Hvis vi ikke kan stole på billeder, stemmer eller video, synes jeg, det er svært at give de gode råd og lidt hårdt at placere ansvaret hos individet, fordi de er sådan set på herrens mark.”

Det samme påpeger Thessa Jensen, der er lektor ved Institut for Kommunikation og Psykologi på Aalborg Universitet, hvor hun blandt andet forsker i kunstig intelligens og etik.

“Problemet med generativ AI er, at det bare bliver bedre og bedre. Det bliver ikke værre, og det, vi ser nu, er formentlig ingenting i forhold til, hvad vi ser om få måneder. Det vil sige, at AI bliver kun bedre og bedre til at efterligne den virkelighed, vi har, og så bruge den virkelighed til at skabe en alternativ virkelighed,” siger hun og tilføjer.

“Vi kan godt opfordre forældre til at tage en snak med deres børn. Det skal starte der, men det stopper ikke de online infrastrukturer, der bliver bestemt af så mange andre ting. Der skal meget mere til.” 

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.