Nogle Reddit-brugere elsker bare at være uenige – ny AI afslører mønstre hos online-trolls

I nutidens opsplittede onlineverden er det sværere end nogensinde at finde ud af, hvem der spreder had, misinformation – eller bare elsker at provokere.

Ofte handler det om at analysere, hvad brugerne skriver. Men ny forskning viser, at vi måske hellere burde kigge på hvordan de opfører sig online.

Et forskerhold har udviklet en metode til at finde potentielt skadelige brugere – udelukkende ud fra deres adfærd og måden, de interagerer med andre på, ikke ud fra selve indholdet af det, de poster. Resultaterne blev præsenteret på den internationale konference ACM Web Conference, hvor forskningen også vandt prisen for bedste artikel.

Ud over, hvad folk siger

Traditionelt forsøger man at spotte problematisk adfærd online på to måder: Enten ved at analysere indholdet (hvad folk siger), eller ved at se på netværk (hvem der følger hvem).

Men begge metoder har begrænsninger: Brugere kan omgå indholdsanalyse ved at bruge koder eller undgå bestemte ord. Og på platforme som Reddit giver det ikke mening at analysere netværk, for brugerne følger ikke hinanden – de diskuterer bare i fælles emnefora.

Forskerne ville finde en metode, som ikke så nemt kan manipuleres. Og løsningen viste sig at være adfærdsanalyse: altså at se på hvordan folk opfører sig – ikke bare på, hvad de skriver.

Når AI lærer at forstå menneskelig onlineadfærd

Forskerholdet brugte en metode, der kaldes inverse reinforcement learning. Den bruges normalt til at forstå menneskelige beslutninger i fx selvkørende biler og spilteori – men her blev den tilpasset til sociale medier.

Systemet observerer ting som:

* hvem der starter tråde,

* hvem der kommenterer,

* hvem der svarer andre brugere.

Ud fra de handlinger forsøger det at udlede en slags “strategi” – altså hvad der motiverer brugeren.

I en konkret case på Reddit analyserede forskerne 5,9 millioner interaktioner over seks år. De fandt fem forskellige adfærdstyper – og én gruppe skilte sig særligt ud: “de uenige”.

Mød “de uenige”

Noget af det mest opsigtsvækkende i studiet var, at der findes en hel kategori af Reddit-brugere, hvis primære formål tilsyneladende er at være uenige med andre.

Disse brugere går målrettet efter at poste modsvar og modsætninger – især som reaktion på uenighed. Og så forsvinder de hurtigt igen, uden at vente på et svar.

“De uenige” dukkede særligt op i politiske subreddits som r/news, r/worldnews og r/politics. Til gengæld var de markant mindre synlige i det nu lukkede pro-Trump-forum r/The_Donald, selvom det også var politisk.

Det viser, hvordan adfærdsanalyse kan afsløre mønstre, som almindelig indholdsanalyse ikke fanger. I r/The_Donald var mønsteret for eksempel mere præget af intern enighed og fjendtlighed rettet mod eksterne modstandere – og det kan forklare, hvorfor klassisk moderering har haft svært ved at håndtere den type fællesskaber.

Fodboldfans og gamere – samme adfærd

Forskerne fandt også overraskende sammenfald mellem ellers meget forskellige grupper.

Brugere, der diskuterede fodbold (i r/soccer) og e-sport (i r/leagueoflegends), udviste meget ens adfærdsmønstre.

Forklaringen ligger i fællestrækkene: Begge grupper følger deres hold intenst, debatterer taktik og præstationer, jubler over sejre og diskuterer nederlag – og forsvarer “deres” hold mod rivaler.

Selvom de diskuterer vidt forskellige emner, er deres reaktioner, følelsesniveau og timing i debatterne overraskende ens.

Det udfordrer den klassiske idé om, at polarisering primært handler om indhold. Måske handler det lige så meget om hvordan folk interagerer – ikke bare hvad de taler om.

Mere end bare trolljagt

Forskningen har også praktiske perspektiver:

* Platforme kan bruge adfærdsdata til at opdage skadelige brugere tidligt – før de når at poste store mængder skadeligt indhold.

* Adfærdsanalyse kræver ikke sproglig forståelse – og det er meget sværere at snyde end almindelig tekstfiltrering.

* Det kan bruges til at udvikle mere effektive strategier mod misinformation – for eksempel ved at fremme sundere måder at deltage i debatter på.

For dig som bruger på sociale medier er pointen klar: Det handler ikke kun om, hvad du siger – men også hvordan du siger det. Din måde at være online på påvirker både dit digitale ry og dem, du interagerer med.

Efterhånden som sociale medier kæmper med had, manipulation og polarisering, viser denne forskning, at kombinationen af adfærdsanalyse og indholdsanalyse kan være nøglen til at skabe sundere onlinefællesskaber.

Artiklen er skrevet af: Marian-Andrei Rizoiu, Lektor i adfærdsbaseret datavidenskab, University of Technology Sydney. Lanqin Yuan, Ph.d.-studerende i adfærdsbaseret datavidenskab, University of Technology Sydney og Philipp Schneider Ph.d.-studerende, EPFL – Det Føderale Tekniske Universitet i Lausanne (Schweiz).