Techplatforme får nu 48 timer til at fjerne falske AI-sexvideoer
-
Med en ny lov i hånden indfører de amerikanske myndigheder nu en offensiv mod AI-genererede sexvideoer. Techplatformene risikerer store bøder.
USA er tirsdag begyndt at håndhæve en lov, der pålægger techplatformene at fjerne seksuelle deepfake-videoer og andre intime billeder delt uden samtykke. Men eksperter advarer om mangler ved loven og rejser bekymringer om censur på nettet, skriver det franske nyhedsbureau AFP.
Præsident Donald Trump underskrev sidste år den såkaldte Take It Down Act (Tag Det Ned-loven, red.), som er en lov, der kriminaliserer deling af seksuelle billeder på nettet uden samtykke. Materialet bliver ofte skabt ved hjælp af billige og bredt tilgængelige AI-værktøjer.
Den amerikanske konkurrence- og forbrugerbeskyttelsesmyndighed Federal Trade Commission (FTC) oplyser, at techplatformene nu skal have etableret en proces, hvor ofre kan anmode om at få sådant indhold fjernet. Platformene skal derefter fjerne materialet inden for 48 timer efter at have modtaget en gyldig anmodning. I modsat fald risikerer de sanktioner.
"Vi er klar til at holde øje med, om loven bliver overholdt, undersøge overtrædelser og håndhæve Take It Down Act," siger FTC-chefen Andrew Ferguson efter at have orienteret et dusin techvirksomheder tirsdag, som blandt andet tæller Meta, TikTok, X og Snapchat.
"Det er en topprioritet for denne myndighed og denne regering at beskytte sårbare mennesker og særligt børn mod denne skadelige form for misbrug."
I et opslag mandag oplyste X i et opslag på det sociale medie, at der "ikke er plads i vores samfund til rovdyr, som deler intime billeder og videoer af andre uden deres samtykke".
"X har nul tolerance over for intime billeder uden samtykke, uønsket seksuelt indhold eller nogen form for udnyttende adfærd,” skriver X videre i opslaget.
"Skyd først, stil aldrig spørgsmål"
Forsikringen kommer efter, at Tesla- og X-ejeren Elon Musks AI-værktøj, Grok, tidligere i år udløste international kritik for lave deepfake-billeder af afklædte kvinder og mindreårige uden deres samtykke. Forskere siger, at Grok genererede anslået tre millioner seksualiserede billeder på få dage.
Alligevel advarer flere eksperter om, at Take It Down Act langt fra er en perfekt løsning.
Riana Pfefferkorn, som arbejder med politik ved Stanford Institute for Human-Centered Artificial Intelligence, siger, at loven skaber en “skyd først, stil aldrig spørgsmål”-dynamik.
Hun er citeret i nyhedsbrevet fra mediet Indicator, som undersøger digital manipulation, for at sige, at loven i praksis får platformene til bare at fjerne indhold for en sikkerheds skyld.
Riana Pfefferkorn udtrykker også bekymring for, at loven kan blive brugt imod for eksempel transpersoner og sexarbejdere, hvis indhold deles med samtykke, samt politiske ytringer, som regeringen måtte være uenig i.
Lovens regler om at fjerne indhold har også bekymret andre fortalere for ytringsfrihed, som advarer om, at det kan få techvirksomheder til aggressivt at moderere lovligt indhold for at mindske risikoen.
Eksperter siger, at den globale stigning i deepfakes uden samtykke i øjeblikket overhaler forsøgene på at regulere teknologien. Det skyldes blandt andet en bølge af AI-værktøjer, herunder såkaldte "nøgenheds-apps", der er AI-værktøjer, der digitalt kan “afklæde” personer på billeder ved at generere falske nøgne kroppe oven på fotos af rigtige mennesker.
Selv om højt profilerede politikere og kendisser som blandt andet sangeren Taylor Swift har været ofre for deepfakeporno, siger forskere, at kvinder uden offentlig profil er lige så udsatte.
Der er blevet rapporteret om en bølge af AI-pornoskandaler på skoler rundt omkring i USA, hvor hundredvis af teenagere har oplevet, at deres egne klassekammerater har lavet den slags billeder af dem.
Eksperter advarer om, at sådanne intime billeder uden samtykke kan føre til chikane, mobning eller afpresning og i nogle tilfælde få alvorlige konsekvenser for den mentale sundhed.
Herhjemme indgik et bredt flertal i Folketinget sidste år en aftale om en lignende lov mod AI-skabte deepfakes og misbrug af personers ansigt, stemme og krop. Men lovforslaget er endnu ikke endeligt vedtaget, blandt andet fordi folketingsvalget og regeringsforhandlingerne har forsinket arbejdet.
Også det danske lovforslag har mødt kritik, fordi det i konkrete sager kan blive vanskeligt at balancere beskyttelsen mod deepfakes med hensynet til satire, parodi og magtkritik.
TjekDet kunne forleden afsløre, at den 36-årige canadier David Do var en nøglefigur bag den kontroversielle pornohjemmeside MrDeepFakes, hvor kendte kvinder - heriblandt flere danskere - bliver manipuleret ind i seksuel sammenhæng. På det tidspunkt var hjemmesiden blandt de største af sin art. Artikelserien med videoer af afsløringen kan findes her.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
