X har ingen danske moderatorer - det kan skade den offentlige debat
-
Når det sociale medie X, der tidligere gik under navnet Twitter, fjerner indhold, som er ulovligt eller i strid med adfærdskodekset på platformen, sker det uden en eneste moderator, der forstår dansk
-
Det viser en ny rapport fra X, der gennemgår, hvordan mediet modererer skadeligt indhold på deres platform
-
Af rapporten fremgår det, at X ikke har en eneste dansk moderator ansat
-
Det er skadeligt for den offentlige debat, fordi man blandt andet ikke kan vide, om dansksprogede opslag bliver oversat korrekt, så platformens moderatorer kan forstå indholdet
-
I værste tilfælde kan det betyde, at skadeligt indhold ikke bliver fjernet, eller uproblematisk indhold slettes fra platformen
Når det sociale medie X, der tidligere hedder Twitter, modererer dansksproget indhold på platformen, sker det uden en eneste moderator, der forstår dansk. Det fremgår af en ny statusrapport fra X, der kortlægger omfanget af indhold, der er blevet fjernet, fordi det angiveligt overtræder platformens adfærdskodeks.
Derfor bliver danske opslag overladt til AI-baserede oversættelser - altså en automatiseret vurdering af, hvorvidt dansksproget indhold overholder platformens regler.
Det er skadeligt for demokratiet, fordi AI-oversættelser ikke kan opfange ulovligt eller voldeligt indhold på samme måde som en dansktalende menneskelig moderator kan.
Samtidig giver det mulighed for, at der kan florere skadeligt dansk indhold, som burde være fjernet, vurderer to forskere.
Rapporten er led i en større indsats fra EU, som forpligter techgiganterne til at være transparente i deres måde at bekæmpe skadeligt indhold på. Kravene går ind under Europas retsakt om digitale tjenester, DSA, som omhandler skærpelse af adfærdskodekset om desinformation. Men forskerne kritiserer også, at rapporten ikke giver et klart billede af aktiviteterne. Det er svært at gennemskue, hvad de mange tal i rapporten egentlig dækker over.
Flere hundrede danske opslag blev fjernet
X skriver, at de bruger en kombination af maskinlæring og menneskelig gennemgang for at håndhæve deres egne regler for indhold. Det internationale og tværfunktionelle team tæller i alt 2.294 moderatorer, men ingen af dem forstår dansk.
I perioden 28. august til 20. oktober 2023 konstaterede X, at 576 dansksprogede opslag overtrådte platformens regler og blev fjernet fra platformen.
I det danske indhold er det hadefuld tale, der er blevet slået mest ned på med i alt 206 beskeder, som er blevet fjernet ved automatiserede vurderinger og 70 blev fjernet ved en manuel gennemgang.
X skriver dog ikke, hvor meget dansksproget indhold der i alt er blevet lagt på platformen i perioden.
Og det giver anledning til usikkerhed, om dansk indhold egentlig bliver vurderet korrekt.
X har nemlig taget en markant drejning i at automatisere deres moderation af indhold på platformen. Det betyder, at indhold i mindre grad bliver vurderet af moderatorer, men i stedet af en robot, der følger retningslinjer for overtrædelse af deres eget adfærdskodeks. Det fremgår ikke direkte af rapporten, hvorvidt dansk indhold bliver oversat til engelsk, når X skal vurdere det.
Og den automatiserede overvågning er ikke uden konsekvenser.
“Det har taget en drejning, hvor du finder markant mere hadefuld tale, end du har gjort tidligere. Elon Musk har det som en meget specifik politik, at der skal være plads til mere free speech og ytringsfrihed til, at folk kan sige deres holdninger, selvom de er kontroversielle - også selvom de ligger på kanten,” siger Adam Moe Fejerskov, der er ph.d. og seniorforsker på Dansk Institut for Internationale Studier (DIIS).
“Fraværet af danske moderatorer betyder, at vi er nødt til at stole blindt på de automatiserede algoritmer, der fjerner indholdet. I en optimal situation ville man have monitorering af, hvad der fjernes, men så længe ingen mennesker er i loopet, og vi ikke har nogen indsigt i præcis, hvordan algoritmerne er skruet sammen, er det umuligt for os at vide, hvad der fjernes og hvorfor - hvorvidt det er for meget eller for lidt.”
Det kan også være årsagen til, at andelen af hadefuld tale er steget, forklarer han til TjekDet, der også kritiserer rapporten for at være mangelfuld og ikke giver et særlig godt indblik i konsekvenserne af platformens moderation.
"Den er slet ikke dybdegående nok til, at man får et retvisende billede af, hvad der foregår, hvordan, og hvorfor.
Oversatte opslag udløste etnisk udrensning
Hvis moderationen på opslag, som er skrevet på mindretalssprog, sker på engelsk, kan det skade den offentlige debat, fordi væsentlige forhold og pointer går tabt i oversættelsen.
“I værste tilfælde har det tidligere vist sig at bidrage til etnisk udrensning,” siger Adam Moe Fejerskov med henvisning til folkemordet i Myanmar, hvor mangel på lokalsproglige moderatorer bidrog til etnisk udrensning af rohingya-flygtninge.
“Hvis vi ser på et land som Myanmar, så ved vi med sikkerhed, at fordi Facebook ikke havde ansat nogle, der kunne tale burmesisk og dermed ikke kunne monitorere opslag på Facebook, bidrog hadetale på det sociale medie til massemordet på Rohingya-flygtninge,” siger han.
“Hvis du ikke har en moderator, som taler et lokalt sprog, så kan man bruge de sociale medier til at opildne konflikter, og vi ved bare, at i rigtig mange andre dele af verden , i størstedelen af verden, der er der meget kortere vej fra de sociale medier, og hvad der bliver skrevet på de sociale medier til, at der foregår nogle ting i den virkelige verden på jorden,” siger Adam Moe Fejerskov.
I Danmark har vi ikke oplevet konsekvenser som i resten af verden, men de manglende danske moderatorer har stadig betydning for, hvordan den offentlige debat påvirker hverdagen.
“De her AI-baserede oversættelser mangler tit nuancer, der kræver en høj grad af kontekstuel indsigt - altså man skal kunne gennemskue alle mulige finurligheder omkring sproget for at forstå de her nuancer, som kan være forskellen på at sige noget, der er ironi, og sige noget, som er chikanerende,” siger Adam Moe Fejerskov.
Vigtige sproglige nuancer går tabt
I rapporten fastslår X, at de fjerner mange opslag, og ifølge Katrine Thielke, der er digital rådgiver og foredragsholder, må det betyde, at det er automatiseret, fordi X samtidig oplyser, at der ikke er moderatorer, der forstår dansk og andre af de nordiske sprog, mens nogle store sprog såsom spansk er underrepræsenteret med i alt blot 20 moderatorer på verdensplan.
Og det gør det tvivlsomt, om X's behandling af de enkelte opslag vitterligt bliver forstået korrekt.
“Påvirkningskampagner, hadtale og chikane kan være forholdsvis subtile. Særligt antisemitiske profiler er dygtige til at skrive i passiver, i hypotetiske sætninger og så videre. Det kræver stort sprogligt kendskab. Måske kan AI godt aflæse det, men jeg er i tvivl,” siger hun.
Og netop den AI-baserede moderation kan opildne til konflikt.
Katrine forklarer, at sagerne enten er afgjort af ikke-dansktalende moderatorer, evt. i samarbejde med en automatiseret oversættelse, eller udelukkende af AI.
Det skaber tvivl i det omfang, om dansk indhold bliver fjernet i et større eller mindre omfang end det i virkeligheden burde, så vi kan ikke vide, hvor effektivt det er.
Ifølge X har der været i alt 1.383.787 aktive brugere på platformen i Danmark i samme periode.
