AI-chatbot blev misbrugt til at sprede politisk propaganda - nu kræver regering svar
-
En udenlandsk aktør skal ifølge en rapport have forsøgt at manipulere vælgere i Malaysia gennem falske profiler og hjemmesider skabt ved hjælp af kunstig intelligens. Nu kræver myndighederne svar.
Malaysia har bedt den amerikanske AI-virksomhed Anthropic om oplysninger om den påståede brug af virksomhedens teknologi i en politisk påvirkningsoperation rettet mod malaysiske vælgere. Det oplyser landets regering.
Anthropic, der især er kendt for at stå bag AI-chatbotten Claude, der er en konkurrent til ChatGPT fra virksomheden OpenAI, oplyser i en rapport, der blev offentliggjort i september, at virksomheden havde fundet frem til en formodet AI-drevet kampagne, der havde til formål at forstyrre valg i det sydøstasiatiske land.
Virksomheden peger på en "udenlandsk aktør", som menes at have haft base i Tyrkiet, og som misbrugte Anthropics AI-model Claude til at oprette omkring 1.000 falske konti på det sociale medie X og etablere en kunstigt skabt nyhedshjemmeside.
"Ifølge rapporten hævdede Anthropic, at Claude-teknologien blev brugt af en udenlandsk aktør til at udvikle flere dele af operationen, herunder et system til målretning, et netværk af falske konti på sociale medier, falske nyhedshjemmesider og tilhørende komponenter," oplyser Malaysias kommunikationsministerium tirsdag i et skriftligt svar til parlamentet på spørgsmål fra et parlamentsmedlem om sagen.
Det skriver det franske nyhedsbureau AFP.
Ministeriet oplyser, at Malaysias kommunikations- og multimediemyndighed er i gang med at "indhente yderligere oplysninger og en uddybende forklaring fra Anthropic vedrørende rapporten" og derefter vil "tage stilling til passende opfølgende tiltag".
Det fremgår af rapporten fra Anthropics, at den udenlandske aktør havde "adgang til platformen som en betalt tjeneste til påvirkningsoperationer" og markedsførte infrastrukturen som et "militærstandardiseret, AI-drevet økosystem til politiske operationer i realtid".
"Operationen indebar, at aktørerne brugte den platform, der var bygget ved hjælp af Claude, til at profilere og målrette indsatsen mod vælgere i Malaysia, valgkreds for valgkreds, ved hjælp af data om befolkningens sammensætning og data om tidligere valg, som de havde indlæst i systemet," fremgår det af rapporten.
Men kampagnen blev standset, uden at der var tegn på, at den havde fået fodfæste i autentiske fællesskaber, hedder det videre.
Rapporten oplyser ikke, hvornår operationen begyndte, eller hvor længe den varede, men beskriver Anthropics indsats for at forhindre misbrug af virksomhedens AI-modeller i perioden fra december 2025 til august 2026.
Kommunikationsministeriet oplyser desuden, at Malaysia er i gang med at udarbejde et lovforslag, der skal styrke landets rammer for regulering af kunstig intelligens.
"Regeringen vil fortsat styrke overvågningen af risikoen for misbrug af AI-teknologi og samarbejdet med teknologileverandører, digitale platforme og relevante myndigheder for at bekæmpe skadelige aktiviteter på nettet og sikre, at landets digitale miljø forbliver sikkert, gennemsigtigt og troværdigt," oplyser ministeriet ifølge AFP.
Denne artikel er skrevet af det franske nyhedsbureau AFP. TjekDet har ikke medvirket i tilblivelsen. Få mere information her afp.com.
Hvis du kan lide TjekDets artikler og vil være sikker på ikke at gå glip af den nyeste, så følg os på Facebook ved at klikke her eller Instagram ved at klikke her. Du kan også tilmelde dig TjekDets gratis nyhedsbreve, hvor vi tipper dig om vores seneste faktatjek, advarer om digital svindel og deler seneste nyt om mis- og desinformation – direkte i din mailindbakke. Tilmeld dig nyhedsbrevene her.