Falske AI-videoer spreder sig, mens orkanen Melissa nærmer sig Jamaica
-
En voldsom orkan har kurs mod den caribiske østat Jamaica.
-
Sideløbende på sociale medier deles videoer og billeder, der er genereret med kunstig intelligens, som viser opdigtede scenarier og snyder brugere. Det skriver det franske nyhedsbureau AFP.
-
Ifølge en ekspert undergraver det alvoren i myndighedernes budskab om at være forberedt.
AI-genererede videoer oversvømmede de sociale medier, mens orkanen Melissa bevæger sig mod Jamaica. Det afleder folks opmærksomhed fra vigtig sikkerhedsinformation om den enorme kategori 5-orkan.
Det skriver det franske nyhedsbureau AFP.
AFP fandt dusinvis af falske videoer - de fleste med vandmærker fra OpenAI's tekst-til-video-model Sora - netop som Melissa står til at ramme den caribiske ø med voldsomme vindstød og kraftig regn.
Videoerne viser en række opdigtede scenarier som dramatiske nyhedsudsendelser, optagelser af kraftige oversvømmelser, billeder af hajer i vandet og rørende scener med menneskelig lidelse.
Andre klip ser ud til at vise lokale - ofte med stærke jamaicanske accenter, som synes at forstærke stereotype forestillinger - der fester, sejler, kører på jetski, svømmer eller på anden måde nedtoner faren fra det, som meteorologer har advaret om kan blive øens voldsomste vejr nogensinde.
@yulian_studios ésto está fuera de control #melissa #huracan #melissa #repdom🇩🇴 #jamaica @Matias Alofoke @RECONOCIDOS.NET ♬ sonido original - yulian studios U.S.A
Dana Morris Dixon, der er Jamaicas informationsminister, siger, at hun og andre ministre deltog i et pressemøde mandag for at give "korrekte oplysninger" om den tiltagende orkan.
"Jeg er med i så mange WhatsApp-grupper, og jeg ser alle disse videoer dukke op. Mange af dem er falske," siger Dixon. "Så vi beder jer om venligst at lytte til de officielle kanaler."
Selv tilsyneladende harmløse falske videoer kan bidrage til at overdøve vigtige sikkerhedsadvarsler eller få folk til at undervurdere faren ved alvorlige orkaner, siger eksperter.
"Det er en enorm orkan, der sandsynligvis vil forårsage katastrofale skader, og falsk indhold undergraver alvoren i myndighedernes budskab om at være forberedt," siger Amy McGovern, professor i meteorologi ved University of Oklahoma, der forsker i brugen af AI til at forbedre varsling af ekstremt vejr.
"Til sidst vil sådant falsk indhold føre til tab af liv og ejendom," siger hun til AFP.
Videoer i omløb på TikTok og Facebook
De klip, som AFP har identificeret, har spredt sig primært på TikTok, hvor kun nogle få er markeret som AI-genererede, selvom platformens regler kræver, at brugere angiver, når indhold er realistisk AI-genereret.
Det ser ud til, at TikTok har fjernet flere end 24 videoer samt flere konti, der delte falske videoer, efter at AFP har gjort platformen opmærksom på dem.
Et par andre eksempler blev fundet i omløb på Facebook og Instagram, selvom moderselskabet Metas regler også kræver mærkning af fotorealistiske videoer skabt med AI.
Hany Farid, medstifter af cybersikkerhedsfirmaet GetReal Security og professor ved University of California, Berkeley, siger, at de AI-relaterede videoer om orkanen viser, hvordan nye tekst-til-video-modeller har "fremskyndet spredningen af overbevisende forfalskninger."
De omtalte tekst-til-video-modeller giver brugerne mulighed for at skabe klip med ultrarealistiske menneskelige figurer. AFP har kontaktet OpenAI for at få en kommentar, men de er ikke vendt tilbage på deres henvendelse.
Ifølge AFP’s gennemgang af kommentarsporet til videoerne står det klart, at mange brugere ikke er klar over, at videoerne er AI-genererede, selvom de er vandmærket med Sora, som er OpenAI’s tekst-til-video-model.
"Gud, beskyt bedstefars hus og mangotræ," skriver en bruger eksempelvis under en AI-video på TikTok, hvor en ældre mand råber, at han ikke ville "flytte sig for en lille brise."
En anden bruger beder ham om at dele flere opdateringer om tilstanden på hans ejendom.
En bølge af lignende bønner dukkede også op under en anden video, der viser en kvinde, som grædende beder om hjælp, mens hun holder spædbørn under et hus uden tag.
"Paradokset i informationsalderen er, at vi som offentlighed bliver mindre informerede, jo mere information der findes," siger Hany Farid til AFP.
Det er langt fra første gang, at der bliver spredt falsk information samt falske billeder og videoer i forbindelse med naturkatastrofer.
TjekDet beskrev tidligere i år, hvordan misinformation spredte sig, efter at et voldsomt jordskælv ramte det sydøstlige Asien. Her blev der delt misinformation i form af billeder og videoer. Nogle billeder og videoer var taget ud af kontekst ved at vise tidligere naturkatastrofers ødelæggelser, andre var genereret med kunstig intelligens.
I forbindelse med naturkatastrofer påstås det også ofte, at katastrofer ikke er tilfældige. I stedet er det en ikke nærmere defineret global elite, der med teknologien HAARP forårsager naturkatastrofer rundt i verden. Det kan du læse mere om i denne artikel.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
© Agence France-Presse
