Bemærk Denne artikel blev udgivet for over en måned siden

En falsk video med Mark Zuckerburg sætter Facebook i et dilemma

Indsigt 13. jun 2019  -  4 min læsetid
This describes the image

Han kigger dig i øjnene, og hans læber bevæger sig i takt med stemmen:

"Forestil dig dette i et sekund: En mand med total kontrol over milliarder af menneskers stjålne data, alle deres hemmeligheder, deres liv, deres fremtid."

Det er næsten ikke til at se det, hvis man ikke lige ved det. Men videoen med Facebooks grundlægger og direktør Mark Zuckerberg fra den 7. juni i år er en såkaldt deepfake; en video, der er manipuleret, så Mark Zuckerberg får lagt ord i sin mund, han aldrig har sagt. Det skriver det amerikanske nyhedsmedie CNN.

Og videoen dukker op på et højst ubelejligt tidspunkt for Facebook.

I sidste måned afslog Facebook nemlig at fjerne en falsk video af formanden for Repræsentanternes Hus Nancy Pelosi. Og her opstår dilemmaet, for hvad skal Facebook gøre nu, hvor det er det sociale medies egen stifter og direktør, der er offer for manipulation?

Manipuleret video måtte gerne være på Facebook

Ifølge data på Facebook blev en enkelt version af videoen med Nancy Pelosi set mere end 2,5 millioner gange.

Videoen var ikke decideret falsk, men tempoet er sat ned til 75 procent, hvilket får Nancy Pelosi til at lyde fuld.

Youtube, der også huserede videoen af Nancy Pelosi, valgte efterfølgende at fjerne den fra platformen. Men Facebook afviste at gøre det samme. I stedet nedprioriterede de videoen, så den kom op i færre brugeres feed.

Det var ikke en beslutning, der faldt i Nancy Pelosis smag: "Jeg mener, at de (Facebook, red.) har bevist – ved ikke at tage noget ned, de ved er falsk – at de var villige til at lade russerne blande sig i vores valg," sagde hun.

Formanden for Repræsentanternes Hus, Nancy Pelosi, den 11. juni 2019. (Foto: Jonathan Ernst / Reuters / Ritzau Scanpix)

Ifølge repræsentanter fra Facebook, som CNN har talt med, har det sociale medie ikke nogen retningslinjer for, om information, som brugere lægger op, nødvendigvis skal være sandt.

Ser vi deepfakes på Facebook i fremtiden?

Det 16 sekunder lange klip af den falske Mark Zuckerberg var set færre end 5.000 gange, før nyhedsmedier gik ind i sagen, skriver CNN. I dag er den set 73.984 gange på Instagram, men vi ved ikke, hvor meget den er set på Facebooks egen platform.

Spørgsmålet er nu, om videoerne af Mark Zuckerberg og Nancy Pelosi bliver behandlet ens af de sociale medier.

En talsperson for Instagram, som også er ejet af Facebook, sagde til CNN, at det sociale medie vil behandle videoen "på samme måde som vi behandler al misinformation på Instagram" - det vil sige, at hvis den bliver markeret som falsk af tredjepart faktatjek-medier, så vil Instagrams algoritmer ikke længere anbefale brugere at se videoen. Indtil da bliver den på det sociale medie.

Artiklen fortsætter under videoen

Hos Facebook slår Neil Potts, der er direktør for Facebooks offentlige politikker, fast, at manipulerede videoer bliver behandlet ens - uanset, hvem offeret er.

"Hvis det var den helt samme video, hvor Zuckerberg talte i stedet for Pelosi, så ville videoen få samme behandling," sagde han til en journalist på avisen Toronto Star i maj, altså før de kendte til deepfake videoen af Mark Zuckerberg.

Den falske video får altså - helt på linje med den manipulerede Pelosi-video – lov at forblive på Facebook.

Fremtiden vil sandsynligvis byde på flere deepfake videoer på de sociale medier. Og Facebook er da også allerede i fuld gang med at ruste sig til kampen.

I sidste måned, før palaveren med de to videoer opstod, annoncerede det sociale medie, at de vil bruge millioner af dollars til at finansiere akademiske institutioner, der har billed- og videoanalyser på programmet. Her forsker de nemlig også i, hvordan man tackler deepfakes.

Den blev først lagt på Instagram af profilen @bill_posters_uk, som har 6.246 følgere dags dato.

Den blev til i forbindelse med en engelsk kunstudstilling, som hedder Spectre og blev vist fra den 6-11 juni i år.

Formålet med videoerne var at vise, hvor let teknologi kan blive brugt til at manipulere med data.

Videoerne er lavet af den israelsk startup virksomhed Canny Al og blev lagt op med hashtagget #deepfake.

Optagelserne er fra 2017 og er blevet tilføjet kunstig intelligens, også kaldet deepfake teknologi, til at manipulere Mark Zuckerbergs mimik. Hans stemme er erstattet med en skuespillers.

Skuespilleren Morgan Freeman, tv-personligheden Kim Kardashian og kunstneren Marina Abramovic optræder i lignende videoer på instagramprofilen, hvor de også taler positivt om kunstudstillingen Spectre.

Artiklen er produceret af Mandag Morgen for TjekDet
Opdateret 12. aug 2020