Nye typer af manipulerede videoer giver misinformation en skræmmende styrke

Forestil dig en falsk nyhed, hvor den nordkoreanske statsleder Kim Jong-un toner frem på skærme i Seoul, Tokyo og Washington. Han er klar i mælet og lover krig. Videooptagelsen ser troværdig ud. Men det er rendyrket videomanipulation. Hvis verdens ledere hopper på den, kan konsekvenserne blive alvorlige.

Allerede i dag kan man lave sådanne videoer, hvor der lægges ord i munden på en anden person, så han eller hun siger noget, som vedkommende aldrig har sagt. Men udviklingen stopper ikke her. Fremover vil vi se videoer, hvor personer laver bevægelser - står, går, hopper, bøjer sig, slår andre og så videre – som personen slet ikke har gjort. Vi står overfor en ny trussel, der giver mulighederne for at sprede halve eller hele usande historier en helt ny skræmmende dimension.

Sådan indledte Aviv Ovadya, der er stifter a Thoughtful Technology Project og tidligere teknologichef ved Center for Sociale Mediers Ansvar ved Michigan Universitet, sin tale i sidste uge ved TjekDets danske konference "#Misinformation #Propaganda #FakeNews – A Danish Perspective". Her blev der diskuteret erfaringer og løsninger på problemet med misinformation og falske nyheder.

Aviv Ovadya er kendt som den første, der gjorde opmærksom på det voksende problem med falske nyheder. Få uger før det amerikanske præsidentvalg i 2016 holdt han en præsentation ved navn "Infocalypse" for techansatte i den amerikanske by San Francisco, hvor han advarede om, at der er noget fundamentalt galt med internettet.

Internettet havde ifølge Aviv Ovadya skabt et informationsøkosystem, som belønner vildledende, polariserende og falsk information, fordi det trives på sociale medier.

Kort efter gik problemet med falske nyheder op for både journalister, politikere, techvirksomheder og resten af befolkningen.

Og ved konferencen i København gav Aviv Ovadya så igen sit bud på, hvordan fremtidens konflikter mellem virkelighed og fiktion på internettet vil udvikle sig.

Videomanipulationer overbeviser mere end skrevne ord

Da TjekDet senere på dagen mødtes med ham over en kop kaffe, gentog han scenariet med de farer, som de nye muligheder for video- og billedmanipulationer giver.

"Det er allerede nu teknologi, der gør det muligt at tage en video af en person og skifte alle vedkommende ansigtsudtryk ud med en anden persons ansigtsudtryk. For eksempel kan jeg tage en video af dig og få det til at se ud som om du taler, råber eller rynker på næsen. Og det samme gælder med lyd, for eksempel en stemme. Kunstig intelligens kan lære en stemme, for eksempel en politikers, og få den til at sige hvad som helst."

Hvad betyder det for falske nyheder?

"Med den type teknologi, som bliver udviklet lige nu, og som hele tiden bliver bedre, vil det blive muligt at konstruere falske videoer, som ikke til at skelne fra virkeligheden. Vi har længe haft mulighed for at manipulere billeder. Men video er mere overbevisende, og det har en større indvirkning på hukommelse og følelser. Det er ikke sådan, at hvem som helst kan lave en video der viser hvad som helst. Den type teknologi, vi har nu, kan lave meget specifikke manipulationer, der kræver bestemte data - for eksempel mange videooptagelser med en statisk baggrund eller mange timers lydoptagelser uden baggrundsstøj. Derudover kræver det mange forsøg at få til at lykkes. Men det er en teknologi, der er i rivende udvikling."

Artiklen fortsætter under billedet.

Aviv Ovadya, der er teknologichef ved Center for Sociale Mediers Ansvar ved Michigan Universitet.

Hvor mange år snakker vi her?

"De næste 5-10 år bliver ikke lette. Hvis du giver mig 100 millioner kroner, så vil jeg kunne gøre rimelig skræmmende ting om seks måneder. Det er også svært at sige, hvem der først gør brug af de her teknologier til skadelige formål. Men det er sikkert, at både stater, enkeltpersoner og grupper vil gøre brug af det. Og stater har mulighed for at accelerere udviklingen, hvis de vil."

Troværdige medier er en del af løsningen

Hvilke konsekvenser kan den type misinformation få?

"Det er et problem, at folk kommer til at tro på noget, der er falsk. Men det er mindst ligeså slemt, hvis folk holder op med at tro på dét, der er rigtigt. Vores demokrati bygger på, at kunne skelne fiktion fra virkelighed. Hvad vi forventer er sandheden, har betydning for de beslutninger, vi træffer, de ledere, vi vælger og de krige, vi starter. Den egentlige trussel er en form for apati, hvor folk opgiver at finde ud af, hvad der er sandt og falsk."

Danskernes tillid til medierne er høj sammenlignet med andre lande. Bliver problemet ligeså stort her?

"Der er bestemt forskelle mellem lande. Lande, der har svage medieinstitutioner, for eksempel i Afrika, er mere sårbare. Og så er der lande, hvor tilliden til medier daler, som det for eksempel sker i USA. Alle de forhold har en indflydelse på, hvordan tiltag, der laves for at undgå de værste konsekvenser ved denne her udvikling, vil virke. Og her er det en fordel at have store public service-medier med generel høj tillid, som man har i for eksempel Danmark."

Artiklen fortsætter under billedet.

I din tale tegner du en rimelig dyster fremtid. Hvordan kan den undgås?

"Der er ting, der skal gøres på flere forskellige niveauer, både i forhold til produktion og distribution af denne her type misinformation. For det første er det vigtigt, at det bliver svært at få fat i denne her teknologi. Det er nemmest at lave denne her type misinformation, hvis man bare skal bruge en smartphone og en app, og derfor har app-stores et ansvar for ikke at gøre teknologien frit tilgængelig. Derudover er det helt fundamentale problem, at misinformation trives godt på de sociale medier. Det spektakulære, det sensationelle, det utrolige og dermed det falske bliver belønnet med delinger, clicks og likes, og derfor bliver det spredt hurtigt i det digitale informationsøkosystem. Her har distributionskanalerne, for eksempel de sociale medier, et ansvar."

Og hvordan kan man gøre noget ved det?

"En af de ting, jeg for nyligt blev begejstret over at se, var, at Facebook besluttede, at det går ud over rækkevidden på en artikel, hvis et faktatjek konkluderer, at blot overskriften er forkert eller misvisende, selvom resten af artiklen er rigtig. Hvis man læser det som redaktør eller journalist, så vil man blive mindre sensationalistisk. På den måde bliver incitamentsstrukturerne ændret på distributionsplatformene, herunder sociale medier. Og det vil også påvirke de dårlige aktører, altså dem, der bevidst prøver at sprede løgne."

Det blev tidligere her på konferencen sagt, at en løgn når halvvejs rundt om jorden, før sandheden får sko på. Er det overhovedet muligt at ændre på?

"Det problem kan de sociale medier hjælpe med at løse. Når fiktionen bliver spredt og derefter bliver faktatjekket, så kan platformene sørge for, at alle dem, der har set fiktionen, også får sandheden at se. Det har de faktisk mulighed for at gøre. Og det er umuligt for enkeltpersoner eller organisationer, for eksempel faktatjekmedier, at gøre alene."

Kan man sørge for, at folk ikke hopper på det falske indhold i første omgang?

Det er nok ikke muligt, men det er vigtigt at uddanne og undervise folk, så de har bevidsthed omkring de her problemer. Det er sværere at overbevise nogen, som har lært at gå kritisk til det, de ser på internettet. Og her kan informationsplatformene hjælpe med at give brugerne så meget kontekst som muligt, se de ved, hvad de ser, hvilken type indhold det er og hvor det kommer fra."

Kan vi lykkes med at undgå de værste konsekvenser?

"Det er bestemt muligt at beskytte de ting, vi gerne vil beskytte. Det bliver ikke nemt og det kommer til at koste penge, men det kan godt lade sig gøre."