I den seneste uge har en video gået sin sejrsgang på sociale medier - faktisk er den gået så viralt, at du måske er stødt på den flere steder.

I videoen, som ser ud til at være filmet fra en båd, ser man en hval komme op af vandet og sluge en mindre sejlbåd med flere personer på.

I baggrunden kan man høre flere personer skrige.

Videoen er gået viralt på Instagram, Facebook og X. På Instagram alene har et enkelt opslag med videoen fået svimlende 239 millioner visninger.

På Facebook finder vi også mange opslag, som har millioner af visninger, mens et enkelt opslag på X har over 30 millioner visninger.

“Sandt eller falsk?” spørges der i en af de øverste kommentarer til videoen på Instagram, mens andre gør opmærksom på, at videoen er skabt med AI.

Og den ekstremt populære video er skam skabt med AI, viser TjekDets research, men hvordan kan vi bevise det?

Stammer videoen fra en troværdig kilde?

TjekDet har tidligere faktatjekket videoer og billeder, som er skabt med AI og spredt på sociale medier uden deklaration.

Og nu er den altså gal igen.

TjekDet har via omvendte billedsøgninger sporet videoen af hvalen til første gang at være delt på internettet den 26. februar i år. Her blev videoen uploadet til Instagram af profilen “deepseadiscoveries9s”.

Scroller man gennem Instagram-profilen, er meget af indholdet stærkt urealistisk. 

Videoen, der første gang har delt den opsigtsvækkende video af hvalen, der sluger en båd, har også delt andre bemærkelsesværdige - og stærkt urealistiske videoer (Foto: Skærmbillede af Instagram).

Vi ser blandt andet en video af mand, som er fanget i gabet på en haj, men hajen mangler en hale, og det står ret hurtigt klart, at profilen uploader videoer, som er lavet med AI. Det er dog ikke deklareret i langt størstedelen af videoerne - og heller ikke i den video af hvalen, som nu er delt igen af flere andre profiler og går sin sejrsgang på sociale medier.

AI-detektering via screenshots

Hvis du har en mistanke og vil undersøge, om en video er generet med AI, kan du bruge forskellige værktøjer, som kan hjælpe dig på vej til at danne en mere sikker konklusion.

For nuværende kræver hoveddelen af de værktøjer, der er skabt specifikt til at detektere AI-genereret videomateriale, dog meget dyre abonnementer.

Vil du undgå abonnementerne, kan du i stedet kombinere flere forskellige værktøjer, som er gratis. Værktøjerne er hver for sig ikke vandtætte, men til sammen kan de give en god indikation på, om en video er skabt med kunstig intelligens.

For det første kan du, som vi selv gjorde, lave en omvendt billedsøgning for at se, om en video oprindeligt er spredt af en troværdig kilde - og om den oprindelige kilde til videoen måske har angivet, at den er AI-genereret.

Der er flere måder at lave en omvendt billedsøgning på. En af dem er at åbne det almindelige søgefelt i Google. Til højre for søgefeltet er et kameraikon. Trykker du på kameraikonet vil du få mulighed for at uploade det billede, som du gerne vil lave en omvendt billedsøgning på. Her kan du uploade et skærmbillede af en fremtrædende del af videoen, du vil undersøge. Værktøjet vil herefter søge efter billedet andre steder på internettet. Du kan læse mere om, hvordan du kan lave omvendte billedsøgning i TjekDets guide til faktatjek af billeder her.

Faktatjekker du billeder, du mistænker er AI-genererede, er et andet gratis og brugbart værktøj Hive Detector, som er en udvidelse, man kan hente til sin Google Chrome-browser. I værktøjet kan man uploade billeder, hvorefter detektoren på baggrund af en række parametre angiver, hvor mange procent sandsynlighed der er for, at billedet er helt eller delvist skabt med kunstig intelligens.

Det er også muligt at uploade videoer til Hive Detector. Her er værktøjet dog noget mindre pålideligt. En løsning kan være at uploade at skærmbillede af videoen, du undersøger, men også her kan der forekomme fejl. I det konkrete tilfælde med hvalen angiver detektoren eksempelvis kun godt seks procent procent sandsynlighed for, at vores skærmbillede af AI-genereret - altså en helt forkert konklusion. Af samme grund skal Hive Detector højst ses som et supplement til de øvrige værktøjer, vi bruger. Lad os kigge nærmere på dem.

Hive Detector kan hjælpe med at detektere, om billeder er skabt med kunstig intelligens. Det er også muligt at uploade videoer til værktøjet, men her er det mindre pålideligt. Eksemeplvis konkluderer det, at der kun er godt seks procent sandsynlighed for, at vore AI-genereret hval er skabt med kunstig intelligens (Foto: Skærmbillede af Hive Detector).

En kombination af værktøjer

På hjemmesiden Com-Press er der samlet flere forskellige værktøjer, som alle kan analysere et billede samtidig.

Alt, man skal gøre, er at uploade sit skærmbillede, og så vil de forskellige værktøjer analysere, hvilke dele af dit skærmbillede der eventuelt er lavet med AI.

Dette vil så blive påvist med såkaldte heatmaps, der afslører, hvad der er skabt med AI - hvis noget. Heatmappet lyser billedet op i forskellige farver, hvor der er tegn på AI-generering.

I nærværende tilfælde kan vi se, at værktøjet Trufors analyse detekterer, at kvinden nederst til venstre i billedet er skabt med AI - det ses med den skarpe røde farve. Hvalen og båden slår dog ikke ud på heatmappet.

Hold og træk i den magenta cirkel nederst på billedet herunder for at skifte mellem det oprindelige billede af hvalen og Trufors analyse.

Ser vi videre ned over analyserne, fortæller Focal os, at hvalen også er skabt med AI. 

Hold og træk i den magenta cirkel nederst på billedet herunder for at skifte mellem det oprindelige billede af hvalen og Focals analyse.

En anden stærk analyse finder vi i kombinationen af værktøjerne Comprint og Noiseprint, som viser, at båden, hvor videoen er optaget fra, samt hvalen er skabt med AI.

Hold og træk i den magenta cirkel nederst på billedet herunder for at skifte mellem det oprindelige billede af hvalen og Comprint og Noiseprints analyse.

Hvert for sig er værktøjernes konklusioner som nævnt ikke garanter for, at vi kan be- eller afkræfte, at videoen er AI-genereret. Men med flere forskellige værktøjer, der alle peger på, at kunstig intelligens har haft en finger med i spillet, kan vi kan drage en samlet konklusion om, at det er tilfældet.

AI-genereret lyd 

Ligesom videoer kan være AI-genererede, kan lyd også være det. AI-genereret lyd kan både tilføjes til AI-genererede videoer og til reelle videoer - for eksempel for at få det til at fremstå, som om personer siger ting, de i virkeligheden ikke har sagt.

Derfor kan det også være relevant at undersøge en videos lydside.

Her kan værktøjet Fake news debunker, der er lavet af InVID og WeVerify, hjælpe os. Ved hjælp af en række forskellige algoritmer undersøger det, hvorvidt lyd i videoer er skabt med kunstig intelligens.

Ligesom Hive Detector kan værktøjerne kan også hentes som en udvidelse til en Google Chrome-browser. Det kræver dog, at man opretter en pro-bruger, men det er ganske gratis.

Vi uploader vores video af hvalen til værktøjet og får en lydanalyse ud, hvor der for hver af de forskellige algoritmer er angivet en procentsats for, hvor sandsynligt det er, at kunstig intelligens har været indblandet. For alle algoritmer på nær én er sandsynligheden 100 procent eller lige derunder, hvorfor vi kan konkludere, at ligesom videoens billedside er AI-genereret, er lyden af de skrigende personer det også. 

Værktøjet her undersøger ved hjælp af forskellige algoritmer, hvorvidt lyden i en video er AI-genereret. I videoen med hvalen er der ikke nogen tvivl. Alle algoritmer på nær én konkluderer, at sandsynligheden for, at lyden er skabt med kunstig intelligens er 100 procent eller lige derunder (Foto: Skærmbillede af Fake News Debunker).

Detaljer som stikker ud 

Der er også ting, man selv kan kigge efter med det blotte øje, hvis man vil prøve at afkode, om en video er AI-genereret. AI-teknologien udvikler sig hele tiden, men der er fortsat ting, som teknologien kan have svært ved at gengive.

Det er særligt hænder og fingre, som er værd at holde øje med, og det ser vi også i videoen med den bådædende hval.

Nederst til venstre ser vi for eksempel en person, som holder en telefon og filmer episoden, men telefonen bliver pludseligt “slugt” af personens hånd.

I takt med at teknologien udvikler sig vil sådanne fejl dog blive færre og færre, og der findes allerede AI-videoer, der er så godt som umulige at detektere med det blotte øje. Derfor bliver værktøjer, der kan give en hjælpende hånd, fortsat vigtigere at kende til. Falder du over indhold, du mistænker, er skabt med kunstig intelligens, kan du også altid tippe TjekDet på tip@tjekdet.dk.

TjekDet følger løbende udviklingen i kunstig intelligens, der oftere og oftere anvendes til at udbrede falsk information. Du kan læse alle vores artikler om emnet her. Vi har også udgivet undervisningsmateriale til grundskolens udskoling og ungdomsuddannelserne om kunstig intelligens og kildekritik. Du kan finde hele materialet her.

Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her. Du kan også tilmelde dig TjekDet's gratis nyhedsbrev, hvor vi tipper dig om vores seneste faktatjek - direkte i din mailindbakke. Tilmeld dig nyhedsbrevet her.