X tager opgør med brugere, som spreder AI-genereret indhold af krigssituationer
-
Som TjekDet har dokumenteret de sidste dage udnytter brugere på sociale medier krigen i Mellemøsten til at skabe videoer med kunstig intelligens, som tegner et misvisende billede af begivenhederne.
-
Det har nu fået det sociale medie X til at opdatere deres retningslinjer.
-
Fremover skal verificerede brugere markere, hvis en video af en krigssituation er skabt med AI - ellers kan de få karantæne i 90 dage.
-
Yderligere overtrædelser vil medføre sletning af profiler, oplyser Nikita Bier, der er produktansvarlig hos X.
På det sociale medie X har TjekDet af flere omgange afdækket, at der i forbindelse med krige og katastrofer bliver spredt en stor del AI-generet indhold, som brugere på mediet deler som dokumentation for missilnedslag og andre krigshandlinger.
I de sidste dage har vi beskrevet, hvordan den nuværende krig i Mellemøsten mellem Israel, USA og Iran ikke er nogen undtagelse, ligesom der under konflikten mellem Iran og Israel sidste sommer også blev spredt meget AI-genereret indhold i kontekst af krigen.
Nu vil X tage et opgør med de profiler, som spreder AI-genereret indhold i forbindelse med krigshandlinger.
Karantæne
På X skriver Nikita Bier, som er produktansvarlig hos X, at selskabet reviderer sin politik for verificerede brugere på det sociale medie.
At være verificeret bruger på X, betyder, at man kan være en del af deres indtægtdelingsprogram, som gør, at man kan tjene penge på, hvor mange som interagerer med det indhold, man deler på ens profil.
Allerede tilbage i 2024 skrev vi på TjekDet, at programmet kunne føre til, at deling af misinformation kunne blive en god forretning på et medie som X - særligt fordi mediet har ganske minimal moderation.
Men nu har X altså taget skeen i den anden hånd.
“Fra og med nu vil brugere, der poster AI-genererede videoer af væbnet konflikt - uden at angive, at de er lavet med AI - blive suspenderet fra indtægtdelingsprogrammet i 90 dage. Efterfølgende overtrædelser vil resultere i permanent udelukkelse fra programmet,” lyder det fra Nikita Bier.
Indrapporteringen til X om at en video eller billede fra en krigssituation kan være skabt med AI vil ske via Community Notes, eller hvis en video eller billede indeholder metadata eller andre tegn på, at det er skabt med AI, forklarer han.
Enkeltpersoner maksimerer profit
I et andet opslag på X skriver Nikita Bier, at de har fundet en person i Pakistan, som havde 31 profiler, som uploadede AI-genererede krigsvideoer. Da krigen i Iran startede, ændrede personen navnene på alle profilerne, så de hed noget i nærheden af “Iran War Monitor”.
I forbindelse med tidligere verdensomspændende nyheder har vi på TjekDet set, at meget af misinformationen er drevet af ældre videoer og billeder, som bliver bragt i nye kontekster i jagten på kliks, interaktioner - og deraf - indtjening på X.
Det problem består stadig, men særligt siden sidste sommer har vi på TjekDet identificeret en stor stigning i AI-genereret misinformation, hvilket altså får X til at reagere nu.
Mange eksempler
Som nævnt har vi på TjekDet allerede skrevet om et række af de AI-generede videoer, der foregiver at være fra krigen i Iran, og som siden weekenden er blevet delt tusindvis af gange på sociale medier.
Hver eneste dag kommer der nye eksempler til.
Siden i går er en AI-genereret video af angivelige bombenedslag i Israel blevet set millioner af gange på X, Facebook og Instagram.
Videoen er tilmed blevet delt af det store indiske medie Times of India på deres YouTube-kanal med mere end fem millioner følgere.
Men downloader man videoen på sin egen computer og uploader den til AI-detekteringsværktøjet Hive Detect, afsløres det, at videoen er skabt med kunstig intelligens.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så tilmeld dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
