Bemærk Denne artikel blev udgivet for over en måned siden

Forud for amerikansk præsidentvalg: Facebook vil deepfake-videoer til livs

Indsigt 13. jan 2020  -  4 min læsetid
Tjekdet

Facebook oplyser i et blogindlæg fra 6. januar, at de fremover vil fjerne videoer, der er manipuleret af kunstig intelligens og har til hensigt at vildlede. Deepfake-videoer, som de kaldes, er spået til at blive den næste store udfordring i kampen mod fake news, fordi teknologien er ved at være så veludviklet, at det kan være svært at se forskel på sande og falske videoer.

Facebook forsøger med forbuddet at være på forkant, inden den amerikanske præsidentvalgkamp intensiveres frem mod november, så de ikke bliver taget på sengen som ved præsidentvalget i 2016. Og for at gardere sig yderligere er det ikke kun almindelige opslag, men også videoer i reklamer, der bliver fjernet, hvis de viser sig at være manipulerede af kunstig intelligens.

Artiklen fortsætter under videoen.

TjekDets kolleger på ungemediet Spektrum forklarer her, hvad en deepfake-video er.

Facebooks indholdschef, Monika Bickert, skriver i blogindlægget, at selvom meget af indholdet på deres platform er manipuleret af "godartede grunde", som ved for eksempel at gøre billedet skarpere eller lyden klarere, så er der også folk, som gør det for at vildlede.

Ikke alle manipulerede videoer fjernes

Fordi begge dele forekommer, er det ikke alle manipulerede videoer, der bliver fjernet som følge af det nye forbud. Hvis der er tale om, at nogle ord er redigeret ud, eller hvis rækkefølgen af ord er byttet om, bliver videoen ikke automatisk fjernet, ligesom parodier og satiriske indslag også får lov til at blive. Alle videoer vil dog stadig blive tjekket af Facebooks faktatjeksamarbejdspartnere.

"Denne tilgang er afgørende for vores strategi og en, som vi har hørt helt specifikt fra samtaler med eksperter. Hvis vi bare fjernede alle manipulerede videoer, der er markeret som falske af vores faktatjekkere, ville videoerne stadig være tilgængelige andre steder på internettet eller økosystemet af sociale medier. Ved at lade dem blive og markere dem som falske forsyner vi folk med vigtig information og kontekst," skriver Monika Bickert, der er indholdschef hos Facebook.

Hun forklarer videre, at denne strategi også drager fordel af deres indsats for at finde frem til folkene bag det vildledende indhold, som de i forvejen arbejder hårdt på.

"Sidste måned identificerede og fjernede vi et netværk, der brugte billeder manipuleret ved brug af kunstig intelligens til at skjule deres falske brugere. Vores teams fortsætter med proaktivt at jagte falske brugere og andet koordineret falsk adfærd," fastslår Monika Bickert.

Lang tid undervejs

Tilbage i maj 2019 annoncerede Facebook, at de ville bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet og samtidig forsker i, hvordan man tackler deepfake-videoer. Facebook fortæller nu, at de samlet set har rådført sig med mere end 50 eksperter i forskellige lande.

Artiklen fortsætter under videoen.

Eksempel på en deepfake-video, hvor Barack Obama kalder Donald Trump for en "dipshit".

Kort efter Facebooks annoncering i maj sidste år blussede debatten for alvor op, da en manipuleret video af ingen ringere end Facebooks stifter, Mark Zuckerberg, gik viralt. Videoen blev til i forbindelse med en kunstudstilling og havde til formål at vise folk, hvor let det er at manipulere med nutidens teknologi.

Det var dog ikke første gang, at en deepfake-video blev fremstillet med den hensigt. I april 2018 florerede en manipuleret video af Barack Obama, der blandt andet kaldte Donald Trump en "dipshit" (idiot eller uintelligent person, red.), og det viste sig at være det amerikanske netmedie Buzzfeed og den oscarvindende instruktør Jordan Peele, som stod bag.

Har tidligere varslet ændringer

På en konference i København sidste år afholdt af Alliance for Democracies Foundation sagde Facebooks politiske chef, Nick Clegg, at deres holdning til manipulerede videoer var den samme som til misinformation generelt.

"Hvis opslag bryder reglerne og gør skade, så vil vi eliminere den slags ved at bede faktatjekkere om at undersøge, om der er tale om en falsk video og linke til den faktuelle information, hvis folk prøver at dele den slags tvivlsomme indhold. Vi prøver også på at eskalere indsatsen for at opdage den slags videoer, allerede inden det når til faktatjekkerne, hvis vi kan, så det ikke får viralitet på platformen og bliver delt af mange," lød det dengang fra Nick Clegg.

Artiklen fortsætter under videoen.

Manipuleret video af Nancy Pelosi, demokrat og formand for repræsentanternes hus, der fremstiller hende beruset.

Facebook blev sidste sommer kritiseret for ikke at fjerne en manipuleret video af formanden for repræsentanternes hus, demokraten Nancy Pelosi. I videoen virker hun beruset, men ud fra Facebooks nye retningslinjer ville den video heller ikke blive fjernet i dag, da manipulationen dengang skete ved blot at sænke hastigheden i et oprindeligt klip af demokraten. Der blev altså ikke brugt kunstig intelligens.

 

 

Videoer bliver fjernet af Facebook, hvis de lever op til disse to kriterier:

Det er blevet redigeret eller syntetiseret – ud over justeringer for klarhedens eller kvalitetens skyld – på måder, der ikke er åbenbare for en gennemsnitlig person og sandsynligvis ville vildlede nogen til at tænke, at en person i videoen sagde noget, som de i virkeligheden ikke sagde.

Det er produktet af kunstig intelligens eller maskinindlæring, der fletter, erstatter eller indkopierer indhold ind i en video, der får den til at fremstå ægte.

 

 

Artiklen er produceret af Mandag Morgen for TjekDet

Opdateret 20. dec 2023