Sociale medier belønner misinformation og kunne sagtens ændre det, viser studie

Artiklen er skrevet af Ian Anderson, ph.d.-studerende ved Socialpsykologi ved USC Dornsife, Gizem Ceylan, postdoc-forskningsassistent ved School of Management ved Yale University, og Wendy Wood, Professor Emerita ved Socialpsykologi ved USC Dornsife.
Den er oprindeligt bragt på engelsk i The Conversation. TjekDet har oversat og skrevet overskriften.

Er sociale medier designet til at belønne mennesker for dårlig opførsel?

Svaret er klart ja. Belønningsstrukturen på sociale medieplatforme er nemlig baseret på popularitet, som igen er baseret på antallet af de reaktioner – likes og kommentarer – et indlæg modtager fra andre brugere. Sort-boks-algoritmer (altså algoritmer, der er meget komplicerede at forstå, red.) forstærker yderligere spredningen af indlæg, der har tiltrukket opmærksomhed.

Det er ikke et problem i sig selv at dele bredt læst indhold. Men det bliver et problem, når opmærksomhedsskabende, kontroversielt indhold prioriteres efter en social platforms design. På grund af designet af sociale medier får brugerne en vane med automatisk at dele den mest engagerende information, uagtet dens nøjagtighed og potentielle skade. Krænkende udsagn, angreb på grupper og falske nyheder bliver forstærket, og misinformation spreder sig ofte hurtigere og bredere end sandheden.

Vi er to socialpsykologer og en marketingsforsker. Vores forskning, præsenteret ved 2023 Nobel Prize Summit, viser, at sociale medier faktisk kan ændre brugernes vaner i retning af mere indhold af høj kvalitet. Ved at justere belønningsstrukturen på sociale medieplatforme begynder brugerne at dele information, der er mere præcis og faktuel.

Problemet med ‘vanedreven’ deling af misinformation er betydeligt. Facebooks egen forskning viser, at misinformation spredes, alene fordi det er nemt at dele med et enkelte klik. 38 procent af visninger med tekst-misinformation og 65 procent af visninger med fotografisk misinformation stammer fra indhold, der er blevet delt to gange. Det vil sige en deling af en deling af en deling af et originalt indlæg. De største kilder til misinformation, såsom Steve Bannons War Room, udnytter sociale mediers popularitetsoptimering til at fremme kontroverser og misinformation ud over deres umiddelbare publikum.

Gentænk belønningssystemet

For at undersøge virkningen af en ny belønningsstruktur gav vi økonomiske belønninger til nogle brugere, hvis de delte præcist indhold og undlod at dele misinformation. Disse økonomiske belønninger simulerede den positive sociale feedback, såsom likes, som brugere typisk modtager, når de deler indhold på platforme. Grundlæggende skabte vi en ny belønningsstruktur baseret på fakta i stedet for opmærksomhed.

Som på populære sociale medier lærte deltagere i vores forskning, hvad der blev belønnet ved at se resultatet, når de delte en information. De blev ikke informeret direkte om belønningerne på forhånd. Det betyder, at ‘indgrebet’ ikke ændrede brugernes hensigter, men kun deres oplevelser på platformen. Efter ændringen i belønningsstrukturen delte deltagerne betydeligt mere indhold, der var faktabaseret. Mere bemærkelsesværdigt fortsatte brugerne med at dele faktabaseret indhold, selv efter at vi fjernede belønningerne i en efterfølgende testrunde. Resultaterne viser, at brugere faktisk kan motiveres til at dele faktabaseret information som en vane.

En anden gruppe brugere modtog belønninger for at dele misinformation og ikke dele nøjagtigt indhold. Overraskende lignede deres deling mest den, som brugere normalt ville dele uden nogen økonomisk belønning. Ligheden inden for disse grupper afslører, at sociale medieplatforme ansporer brugere til at dele opmærksomhedsskabende indhold, der engagerer andre brugere, på bekostning af nøjagtighed og sikkerhed.

Engagement og bundlinjen

Det er afgørende for den økonomiske model for sociale medieplatforme at opretholde et højt niveau af brugerengagement, for opmærksomhedsskabende indhold holder brugerne aktive på platformene. Den aktivitet giver sociale medievirksomheder værdifulde brugerdata til deres primære indtægtskilde: målrettet reklame.

I praksis kan det være, at sociale medievirksomheder er bekymrede for, at en ændring af brugervaner kan reducere brugernes engagement på deres platforme. Dog viser vores eksperimenter, at en ændring af brugernes belønninger ikke reducerer den samlede deling. Således er det muligt for sociale medievirksomheder at opbygge vaner for at dele faktuelt indhold, uden at gå på kompromis med deres brugerbase.

Platforme, der giver incitamenter til at sprede korrekt indhold, kan fremme tillid og opretholde eller potentielt øge engagementet på sociale medier. I vores undersøgelser udtrykte brugere bekymringer om udbredelsen af falsk indhold, hvilket fik nogle til at begrænse deres deling på sociale platforme. En belønningsstruktur baseret på nøjagtighed kunne hjælpe med at genoprette faldende brugertillid.

At gøre det rigtige og gøre det godt

Vores tilgang, der bruger de eksisterende belønninger på sociale medier til at skabe incitamenter for faktabaseret indhold, imødegår spredning af misinformation uden at forstyrre platformenes forretningsmodel væsentligt. Det har den yderligere fordel at ændre belønninger i stedet for at introducere restriktioner på indholdet, som ofte er kontroversielt og omkostningsfuldt økonomisk og menneskeligt set.

En implementering af vores foreslåede belønningssystem for nyhedsdeling medfører minimale omkostninger og kan nemt integreres i eksisterende platforme. Den centrale idé er at give brugere belønninger i form af social anerkendelse, når de deler korrekt nyhedsindhold. Det kan opnås ved at introducere responsknapper, der angiver tillid og nøjagtighed. Ved at inkorporere social anerkendelse for korrekt indhold kan algoritmer, der forstærker populært indhold, udnytte crowdsourcing til at identificere og forstærke sandfærdig information.

Både den politiske højre- og venstrefløj er i dag enige om, at sociale medier har udfordringer, og vores data identificerer roden til problemet: designet af sociale medieplatforme.