Fakta taber: På under ti minutter kan en snak med en chatbot rykke dine politiske holdninger
Et nyt, stort studie viser, at samtaler med chatbots kan få mennesker til at ændre mening på kort tid. Når der foregår en rigtig dialog, er generativ kunstig intelligens markant mere overbevisende end en enkelt, statisk tekst – og en del af effekten kan stadig måles flere uger senere.
Studiet er gennemført af det britiske AI Safety Institute i samarbejde med større universiteter som Oxford Universitet, det amerikanske Stanford Universitet, Massachusetts Institute of Technology (MIT) i USA og London School of Economics.
Forskerne testede næsten 77.000 personer på tværs af mange politiske emner og lod dem tale med 19 forskellige sprogmodeller. Resultatet peger på tre ting. Større modeller hjælper – men det, der rykkede mest, var den efterfølgende finjustering af modellerne - det vil sige, hvordan de “opdrages” efter grundtræningen. Forskerne fandt også, at personlig tilpasning til den enkelte bruger kun gav et lille ekstra løft, og at generativ kunstig intelligens er særligt overbevisende, når den kommer med mange, konkrete og tjekbare påstande i samtalen.
Her ligger også forskernes advarsel. De greb, der øgede overtalelsen mest, sænkede samtidig den faktuelle nøjagtighed. Når en chatbot oversvømmer en dialog med masser af påstande, stiger risikoen for fejl. Med andre ord: Chatbotter kan både forklare og nuancere, men de kan også bruges til propaganda, desinformation og manipulation, hvis de målrettes til det.
Virksomheder som udvikler AI-teknologiske løsninger siger, at de arbejder på værn mod uønsket påvirkning. Det kan for eksempel ved at spotte manipulerende sprog og belønne nøgtern og transparent argumentation.
For brugere og medier er rådet det velkendte: Tjek før du deler – og efterspørg kilder, når en chatbot lyder meget overbevisende. Studiet viser nemlig - som nævnt - at meget ofte finder fakta, der slet ikke eksisterer.
Find forskningsrapporten om studiet her.
TjekDet skriver løbende om ny forskning inden for misinformation og desinformation. Vil du være sikker på ikke at gå glip af de seneste artikler, kan du tilmelde dig TjekDets nyhedsbrev om forskning ved at klikke her.
