Google lancerer skjult vandmærke på AI-genererede billeder
-
Google har netop lanceret et nyt værktøj, der kan identificere AI-genererede billeder via et vandmærke, som er skjult i pixels
-
Værktøjet hedder SynthID, men kan kun bruges på AI-genererede billeder fra Googles billedprogram Imagen
Forskellige AI-værktøjer kan efterhånden generere uhyggeligt virkelighedstro billeder på få sekunder, og værktøjerne bliver nemmere og nemmere for almindelige mennesker at bruge.
Konsekvensen er, at AI-genererede billeder bliver mere og mere udbredt på internettet. TjekDet har tidligere skrevet om, hvordan man spotter billeder lavet med kunstig intelligens.
Men nu forsøger Google Deepmind og Google Cloud at komme spredningen af mis- og desinformation skabt via deres platforme til livs med et nyt værktøj.
I tirsdags præsenterede de nemlig et usynligt, permanent vandmærke på billeder, som identificerer dem som værende computergenererede.
“Teknologien indlejrer et digitalt vandmærke direkte ind i billedets pixels, som gør det usynligt for det menneskelige øje, men påviseligt for identifikation", skriver Google Deepmind i pressemeddelelsen.
Teknologien kalder de for SynthID, og den kommer til at fungere sammen med Google-værktøjet Imagen, som kan lave tekst om til AI-genererede billeder.
I pressemeddelelsen skriver Google, at med SynthID bliver de den første virksomhed, hvor man både kan generere AI-billeder og samtidig identificere dem som værende computergenererede via deres programmer.
“Google Cloud er den første cloud-udbyder, som tilbyder, at man kan lave AI-generede billeder ansvarligt og identificere dem med tillid”, skriver Google.
Teknologien er ikke perfekt
Via SynthID kan man også scanne billeder, som man har fundet på internettet, hvorefter man kan afgøre sandsynligheden for, at de er skabt med Imagen.
Programmet arbejder med tre sandsynlighedsniveauer: påvist, ikke-påvist og muligvis påvist.
Vandmærkerne kan altså ikke påvise, om et billede er skabt med kunstig intelligens hver eneste gang.
Alligevel ser Google deres nye værktøj som afgørende for, at organisationer kan arbejde med AI-genereret indhold med større ansvarlighed i fremtiden, kan man læse i pressemeddelelsen. Samtidig kan SynthID på sigt udvikles til at blive brugt i andre formater.
“Dette værktøj kan også udvikles med andre AI-modeller ud over billeder, såsom, lyd, video og tekst”, skriver Google.
Og selvom SynthID på nuværende tidspunkt ikke kan ramme plet hver eneste gang, så forsikrer Google om dens pålidelighed blandt de mest udbredte former for billedmanipulationer.
Allerede nu kan man benytte SynthID gennem Imagen, som kan tilgås via Vertex AI på Google Cloud.
