Opsigtsvækkende sag om kvindelig chef og mandlig ansat drukner i AI-skabte sexvideoer

En Wall Street-bankmand har anlagt en retssag mod en kvindelig chef for sexchikane. Sagen har udløst en strøm af usandheder, der skaber forvirring om sagen, mens AI-genererede deepfakes og memes er med til at piske stemningen op.

Stormen på sociale medier brød ud kort efter, at søgsmålet, der er fyldt med anklager om seksuelle overgreb, tvang og racistisk chikane, blev indgivet i sidste måned ved en domstol i New York af en tidligere JPMorgan Chase-bankmand, som amerikanske medier har identificeret som den 35-årige Chirayu Rana.

Advokater for den sagsøgte chef, Lorna Hajdini, der fortsat er ansat i banken, har kaldt anklagerne opdigtede. JPMorgan Chase siger, at banken har undersøgt påstandene og fundet dem grundløse.

Men allerede inden domstolen har taget stilling til sagen, er søgsmålets pikante påstande blevet en kilde til offentlig fascination og har affødt en bølge af AI-genererede videoklip og memes med seksuelt indhold. Det sker på et tidspunkt, hvor meget omtalte sager om kvinder, der anklages for at begå sexchikane mod mænd, endnu er ret sjældne.

Ny tendens: Manipulerede billeder seksualiserer kvinder med Downs syndrom

"De mange falske klip og memes er et eksempel på, hvordan AI i stigende grad kommer til at forurene vores feeds og forurene den offentlige debat om både vigtige og mindre vigtige emner," siger Timothy Caulfield, der forsker i misinformation ved University of Alberta i Canada, til det franske nyhedsbureau AFP.

"Den slags indhold kan produceres utroligt hurtigt og kan målrettes specifikt til at spille på vores frygt, interesser og frustrationer. I opmærksomhedsøkonomien handler det hele om klik. Find en historie, der trender, og udnyt den," fortsætter han.

En hyperrealistisk AI-video, som cirkulerer på detr sociale medie X, foregiver at vise de to personer grine og drikke vin på en restaurant, mens en stemme i videoen hævder, at “de er på date”.

Videoen dukkede også op på andre sociale medier. Det er blandt andet sket på det Meta-ejede Facebook, hvor nogle opslag uden belæg bruger den til at hævde, at søgsmålet er “falsk”, og at de to har haft et “frivilligt forhold”.

En falsk optagelse af de to parter i retssagen hævder, at de har et frivilligt forhold. Video: Opslag på X.

Virkelige sager - falske AI-fortællinger

Et andet AI-klip, der cirkulerer på blandt andet Instagram, og som brugere siger minder om den erotiske film Fifty Shades of Grey, præsenterer en dramatiseret visuel rekonstruktion af den påståede chikane, og de racistiske skældsord og trusler, som bankmanden anklager den kvindelige chef for at have begået mod ham. 

Og endnu en AI-video på X viser de to løbe sammen gennem en by opslugt af flammer, før den anklagede chef i en dramatisk scene skubber ham væk.

Mange brugere på sociale medier klager over, at AI-videoerne gør det stadig sværere at skelne mellem virkelighed og fiktion på techplatformene, skriver AFP. Flere sociale medier har i den senere tid skåret ned på indholdsmoderation.

De virale opslag afspejler, hvordan nogle kommercielle influencere forsøger at tjene penge på en desinformationstendens, som forskere kalder “real story fakes”. Det er videoer, som oversvømmer internettet med sensationelle AI-genereret film om en virkelig historie, der har offentlig opmærksomhed.

"Tendensen med “real story fakes” er vokset takket være udbredelsen af AI-værktøjer, som er lette at bruge til at skabe billeder og videoer," siger Walter Scheirer, der er professor i computer science med speciale i misinformation, deepfakes og digital manipulation ved University of Notre Dame til AFP.

I mange tilfælde bliver den slags indhold skabt som en måde at “tjene penge på en eksisterende kontrovers” gennem engagement og platformenes muligheder for indtjening, siger han.

Erotiske AI-billeder af Italiens regeringschef spreder sig - nu reagerer hun

Anonyme provokatører på nettet

"Denne form for desinformation er særligt udbredt i saftige sager som JP Morgan-sagen, hvor de involverede kan blive mål for yderligere ydmygelse gennem overdrevne fremstillinger af deres angiveligt beskidte handlinger," tilføjer Walter Scheirer.

Selve banken er også blevet ramt, efter at opslag på nettet har delt et manipuleret skærmbillede, der foregiver at vise en nyhedsartikel, hvor en JPMorgan-praktikant er blevet anholdt for at onanere i en gang på et hotel. Men mediet, der henvises til i opslaget, har aldrig skrevet om en sådan anholdelse.

Selv før anklagerne er blevet prøvet ved retten, har de AI-genererede billeder gjort den anklagede Lorna Hajdini til et viralt internetfænomen frem for en privat borger.

Fabrikerede billeder af hende i badedragt cirkulerer på nettet, mens flere sammenligner hende med den kvindelige chef, som skuespillerinden Demi Moore spiller i filmen Disclosure fra 1994. I filmen er Demi Moore en kvindelig chef, som udøver sexchikane mod en mandlig underordnet.

Mener 80 procent af danskerne, at der kun er to køn?

Den aktuelle sag ved en domstol i New York illustrerer, hvordan AI-teknologi har magt til at skade menneskers omdømme og forme den offentlige mening længe før, der falder dom. 

"JP Morgan-sagen har fået enorm opmærksomhed, fordi den vender op og ned på de sædvanlige roller mellem mænd og kvinder, hvilket gør, at langt flere søger information andre steder end gennem officielle kanaler," siger Walter Scheirer.

Og folk, der tjener godt med penge på opsigtsvækkende indhold, og anonyme profiler på sociale medier hjælper dem gerne på vej.

Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.