Google fjernede sit AI-satellitærktøj 24 timer efter lanceringen

Google Earth har brugt to årtier på at blive den foretrukne visuelle reference for alle, der forsøger at verificere, hvordan den fysiske verden rent faktisk ser ud. Journalister bruger det til at dokumentere konfliktzoner. Menneskerettighedsforskere bruger det til at spore tilbageholdelsesfaciliteter. FN-inspektører refererer til det fra sikkerheden på et kontor. Google gav det kortvarigt noget nyt: en AI-billedgenerator, der var direkte forbundet til satellitkortet.

Værktøjet, bygget på Nano Banana 2, Googles egen billedgenereringsmodel, fungerede som beskrevet. Brugere skrev en tekstprompt – ‘vis Pompeii før udbruddet’ eller ‘omdann denne kystlinje til en infografik’ – og AI’en lagde genererede billeder over de tilsvarende virkelige koordinater. Legitime anvendelsesmuligheder var lette at forestille sig. De farlige viste sig at være lige så lette at udføre.

Henk van Ess, en undersøgende journalist, var blandt de første til at dokumentere problemet. Inden for timer efter lanceringen genererede han et fiktivt atomkraftværk over en placering i Iran. Resultatet var overbevisende nok til at illustrere risikoen. Mere bekymrende var det, hvad der skete, da han testede den indbyggede sikkerhedsforanstaltning: Google havde indlejret SynthID-vandmærker – virksomhedens AI-autentificeringslag – i hvert genereret billede. Van Ess omgik det ved at fotografere sin skærm i stedet for at tage et skærmbillede. Tredjeparts AI-detektionsværktøjer vurderede det resulterende billede til kun 1 % sandsynlighed for at være AI-genereret.

Googles forsvar var teknisk korrekt, men praktisk set utilstrækkeligt. Virksomheden bemærkede, at genererede billeder ‘ikke dukkede op i hovedoplevelsen af Google Earth for andre at se’ – de var sessionsspecifikke, kun synlige for skaberen. Den skelnen bryder sammen, når du fotograferer skærmen og deler resultatet. Et fabrikeret satellitbillede af en følsom facilitet, der cirkulerer med intet andet end en billedtekst, kan ikke skelnes fra et skabt for at bedrage.

Der er en strukturel spænding her, som stærkere sikkerhedsforanstaltninger måske ikke fuldt ud kan løse. Den samme kapacitet, der gør AI-billedgenerering nyttig, gør den også farlig, når den underliggende kilde er pålidelige satellitdata. Den tillid afhænger af antagelsen om, at det, Google Earth viser, afspejler fysisk virkelighed. I det øjeblik, hvor genereret indhold kan lægges oven på virkelige koordinater – og autentificeringslaget besejres af et kamera – får den antagelse en revne, der ikke lukker, når funktionen tages offline.

Funktionen blev fjernet den 31. juli, mindre end 24 timer efter lanceringen. Google erkendte at have set ‘skærmbilleder af genererede billeder, der synes at overtræde vores politikker’ og forpligtede sig til at implementere ‘stærkere sikkerhedsforanstaltninger’ før en genlancering. Ingen tidsramme blev givet. Tidspunktet tilføjer endnu et lag: fra den 2. august er EU’s AI-forordnings fulde håndhævelsesbestemmelser i kraft i hele Europa, hvilket gør det obligatorisk at mærke AI-genereret indhold, der kunne vildlede brugere – herunder netop syntetiske billeder indlejret i pålidelige informationskilder.

Tags: Google, Ai-Da, deepfakes, Google Earth, satellitbilleder, désinformation