“Fjern hendes tøj”: Global kritik af Groks seksualiserede billeder
-
Elon Musks AI-værktøj Grok møder voksende international kritik for at skabe seksualiserede deepfake-billeder af kvinder og mindreårige. EU tilslutter sig kritikken, og Storbritannien advarer om en mulig undersøgelse af indholdet.
Internettet bliver i øjeblikket oversvømmet af klager om misbrug, efter at chatbotten Grok for nylig lancerede en knap til at “redigere billeder”. Funktionen gør det muligt for brugere at ændre billeder online med kommandoer som “giv hende en bikini på” eller “fjern hendes tøj.”
Bølgen af digital afklædning kommer som følge af voksende bekymring over udbredelsen af såkaldte AI-“nudify”-apps. Det har fået lande som Indien, Frankrig og Malaysia til at kræve handling og iværksætte en undersøgelse af indholdet.
EU-Kommissionen, der fungerer som EU’s digitale vagthund, bakker op om kritikken og “ser meget alvorligt” på klagerne over Grok, som er udviklet af Elon Musks startup xAI og integreret i hans sociale medie X.
“Grok tilbyder nu en ‘spicy mode’, der viser eksplicit seksuelt indhold, hvor en del af outputtet er genereret med barnelignende billeder. Det her er ikke spicy. Det er ulovligt. Det er afskyeligt,” siger Thomas Regnier, EU’s talsmand for digitale anliggender.
“Det har ingen plads i Europa.”
Storbritanniens medietilsyn Ofcom oplyser, at det har taget “akut kontakt til X og xAI for at forstå, hvilke skridt de har taget for at leve op til deres juridiske forpligtelser om at beskytte brugere i Storbritannien.”
Afhængigt af svaret vil Ofcom herefter “vurdere, om der er potentielle overtrædelser, som berettiger en større undersøgelse.”
“Rystende”
Den Malaysiske advokat Azira Aziz er rystet, efter at en bruger - angiveligt i Filippinerne - har bedt Grok om at ændre hendes “profilbillede til en bikini.”
"Uskyldig og legende brug af AI, som at give offentlige personer solbriller på, er fint,” siger Azira Aziz til AFP.
“Men kønsbaseret vold, hvor AI bruges som våben mod kvinder og børn uden samtykke, skal mødes med klar modstand,” tilføjer hun og opfordrer brugere til at anmelde overtrædelser til X og de malaysiske myndigheder.
Andre brugere på X opfordrer direkte Elon Musk til at gribe ind over for tilsyneladende pædofile, der “beder Grok om at give børn bikinier på.”
“Grok afklæder nu billeder af mig som barn,” skriver Ashley St. Clair, der er mor til et af Elon Musks egne børn, på X.
“Det her er objektivt set rystende og ulovligt.”
AFP har forsøgt at få en kommentar fra xAI. Til AFP svarer virksomheden kort:
“Traditionelle medier lyver.”
I et forsøg på at berolige brugerne midt i den massive kritik skriver Grok, at der arbejdes på højtryk for at rette fejl i værktøjet.
“Vi har identificeret mangler i vores sikkerhedsforanstaltninger og retter dem omgående,” skriver Grok på X.
“CSAM (materiale om seksuelle overgreb mod børn) er ulovligt og forbudt.”
En lignende sag fik i sidste uge Grok til at undskylde for at have genereret og delt “et AI-billede af to unge piger (på omtrent 12-16 år) i seksualiseret påklædning, baseret på en brugers prompt.”
“Groft krænkende”
Reaktionerne kommer, efter at anklagemyndigheden i Paris i sidste uge udvidede en efterforskning af X til også at omfatte nye anklager om, at Grok bliver brugt til at generere og sprede børnepornografi.
Den oprindelige efterforskning mod X blev indledt i juli efter meldinger om, at platformens algoritme blev manipuleret med henblik på udenlandsk indblanding.
I sidste uge beordrede de indiske myndigheder X til at fjerne det seksualiserede indhold, slå ned på brugere bag overtrædelserne og indsende en rapport over iværksatte tiltag inden for 72 timer - ellers ville der følge juridiske konsekvenser, skrev lokale medier.
Fristen udløb mandag, men der er endnu ingen melding om, hvorvidt X har reageret.
Den malaysiske kommunikations- og multimediekommission udtrykte i weekenden også “alvorlig bekymring” over offentlige klager om “uanstændigt og groft krænkende” indhold på X.
Kommissionen efterforsker overtrædelserne og vil indkalde repræsentanter fra X.
Kritikken er endnu et slag mod Grok, som tidligere er blevet kritiseret for at sprede misinformation om blandt andet krigen i Gaza, konflikten mellem Indien og Pakistan samt et dødeligt skyderi i Australien.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.
