TikTok lancerer nyt værktøj, der skal afsløre falske AI-videoer med kendte personer
-
Med flere store valg i Europa på vej vil den kinesisk ejede platform gøre det lettere for politikere at afsløre digitale efterligninger af dem selv. Samtidig satser selskabet stadig mere på teknologi frem for ansatte til at holde øje med, hvad brugerne deler.
Det sociale medie TikTok lancerer et nyt værktøj globalt, der skal kunne opdage deepfakes med kendte personer. Det sker som led i platformens forsøg på at begrænse spredningen af AI-skabt misinformation forud for en række europæiske valg næste år, oplyser selskabet, skriver det franske nyhedsbureau AFP.
Værktøjet, der kaldes "Likeness detection tool", skal gøre det muligt at afsløre misbrug af personers udseende og gøre det muligt for politikere og TikTok-konti med mange følgere at finde og anmelde AI-skabt indhold, hvor deres udseende er blevet brugt uden samtykke. Værktøjet bliver gradvist gjort tilgængeligt verden over.
Deepfakes er tekster, billeder, videoer og lyd, der fremstår ægte, men som er skabt eller manipuleret ved hjælp af kunstig intelligens.
For TikTok, der ejes af den kinesiskbaserede teknologikoncern ByteDance, er værktøjet en vigtig del af indsatsen mod misinformation under næste års valg rundt om i Europa. Der er i 2027 valg i blandt andet i Finland, Italien, Frankrig og Grækenland.
"At beskytte valgenes integritet er et af de allervigtigste ansvarsområder, vi har hos TikTok," sagde Francesca Scapolo, der er ansvarlig for virksomhedens relationer til myndighederne i forbindelse med europæiske valg, ved TikToks arrangement om sikkerhed og innovation i London torsdag.
Hun tilføjede, at værktøjet vil hjælpe politikere og myndigheder med at identificere indhold, der muligvis er skabt med AI, og som muligvis er blevet delt uden deres samtykke.
Nye EU-regler skal beskytte borgerne og demokratiet
EU indførte i august omfattende regler om gennemsigtighed i forbindelse med brugen af kunstig intelligens, herunder et krav om, at deepfakes og andet AI-skabt indhold skal mærkes.
TikTok har i flere år krævet, at brugere, der producerer indhold, mærker deres opslag, som indeholder realistiske AI-skabte billeder, lydoptagelser og videoer.
Virksomheden meddelte sidste år, at teknologiske forbedringer ville gøre det muligt at nedbringe antallet af stillinger inden for indholdsmoderation og reducere antallet af steder, hvor moderationen foregår, på verdensplan.
Sociale medier fyrer medarbejdere og satser mere på AI
AI har fået stadig større betydning for moderationen på sociale medier, efterhånden som virksomhederne forsøger at spare penge på den menneskelige kontrol af indhold som pornografi, misinformation og hadefulde ytringer.
YouTube har også udviklet sit eget værktøj, der gør det muligt for indholdsskabere at opdage AI-genererede videoer, hvor andre udgiver sig for at være dem.
Det franske nyhedsbureau AFP er sammen med mere end et dusin andre faktatjekorganisationer betalt af TikTok for at undersøge videoer, der muligvis indeholder falske oplysninger, i flere lande. TjekDet er ikke blandt disse medieorganisationer.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her eller Instagram ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.