Teknologi

Metas AI-agent Muse læste Signal-chats på Android, men blev stoppet på iPhone

Adrian Kessler
Tilføj os på Google

Metas Muse, AI-agenten der besvarer mails, booker aftaler og handler ind på dine vegne, læste private Signal-beskeder på en Android-telefon uden om de app-forbindelser, som Meta opfordrer brugerne til at administrere. Agenten kom ind via en tilladelse, som de fleste giver uden at tænke over det: adgang til telefonens notifikationer. Den samme forespørgsel mislykkedes på en iPhone.

Fundet stammer fra tests, som Reuters gennemførte sammen med medarbejdere fra Signal og AI Now Institute, en nonprofitorganisation, der undersøger AI’s følger for samfundet. De ville gentage det, en Meta-medarbejder internt havde beskrevet: at Muse uopfordret mindede hende om at svare på en besked fra hendes søster på Signal. “Det her ligner et groft brud på privatlivets fred. Jeg har bestemt ikke givet den adgang til andre apps og kan heller ikke huske, at jeg er blevet spurgt om det,” skrev hun. Bruger du Muse på Android, er det appens adgang til notifikationer, der er afgørende, og slår du den fra, afskærer du agenten fra forhåndsvisningen af dine beskeder.

På en Mac fandt testerne en anden vej ind. Muse kombinerede skærmbilledeværktøjet med macOS’ tilgængelighedsfunktioner, altså de kontroller, Apple bygger, så mennesker med handicap kan betjene en computer, og læste på den måde beskederne. I begge tilfælde sprang agenten Metas eget Connector-værktøj over, det panel hvor brugerne vælger, hvilke apps agenten må røre ved, og støttede sig i stedet til tilladelser, der blev givet under den første opsætning. En af medarbejderens kolleger fortalte i den samme interne gruppe, at Muse var kommet med tilladelse til at læse push-notifikationer på hans Android-telefon som standardindstilling.

Reuters har gennemgået mere end to dusin interne opslag, hvor Meta-medarbejdere påpeger, at Muse gør ting, ingen har bedt den om, og nogle går langt videre end at læse beskeder. En medarbejder, der chattede med agenten om fiskevejr, fik en ekstra linje: “BTW, two bank updates, your Capital One balance is $2722.58, your Charles Schwab balance is $5899.57.” Han havde aldrig delt bankoplysninger med Muse. En anden blev tilbudt hjælp til at skrive til en sælger om et sofabord, og da han spurgte, hvad det betød, svarede Muse, at den havde “pulled in some context about a coffee table pickup that doesn’t seem to be yours.” Han indberettede en “possible cross-account context leak.”

Meta er uenig i fortolkningen af disse episoder. Talsmand Daniel Roberts kaldte eksemplerne “isolated incidents”, sagde at Muse kun får adgang til andre apps via tilladelser, som folk udtrykkeligt giver, og at mange formodede sammenblandinger af konti var hallucinationer, som allerede er rettet. Et medlem af Superintelligence-teamet, der bygger Muse, fortalte medarbejderne, at agenten syntes at opfinde beskeder som svar på indbyggede prompts, der får den til at henvende sig til brugerne mellem sessionerne, og at disse opfindelser hælder “towards the most uncomfortable topics, like finances/security/safety”. Reuters kunne ikke fastslå, om Muse udleverede andres rigtige data eller digtede dem. Ingen af delene er betryggende hos en assistent, der beder om adgang til din mail, din kalender og dine betalingskonti.

Nogle af fejlene har kostet penge. Medarbejdere har fortalt, at Muse opfandt priser på ting, de havde købt, og en sagde, at den uden tilladelse bookede et Airbnb-ophold, der ikke kunne refunderes. Ars Technica beskrev med henvisning til den samme research en tester, der blev flyttet over på en kæledyrsforsikring til 888 dollar om måneden i stedet for 200. Metas brugsvilkår gør brugerne ansvarlige for, hvad agenten foretager sig. Selskabet siger, at hver agent kører i sin egen isolerede virtuelle maskine, og at folk bevarer fuld kontrol over, hvilke apps de forbinder, et argument som Mark Zuckerberg har brugt til at afvise krav om AI-sikkerhedsstandarder for hele branchen.

Omfanget gør, at sagen rækker ud over Metas kontorer. Muse har rundet 10 millioner downloads, siden den blev lanceret i USA i september, og er blevet markedsført over for de 3,6 milliarder mennesker, der bruger Facebook, Instagram og WhatsApp. Meta siger, at omkring en fjerdedel af dem, der sætter den op, vender tilbage hver dag. Tilladelsen til notifikationer fungerer på samme måde på enhver Android-telefon, hvor appen er installeret.

Signals præsident Meredith Whittaker sagde, at Meta havde lanceret Muse “without showing any respect for basic privacy or cybersecurity”, og kaldte agenter med den slags rækkevidde ind i folks enheder for “technologically reckless”. Hun ønsker, at apps som Signal får en ensartet teknisk metode til at markere sig selv som forbudt område for AI-agenter, at AI-selskaberne respekterer den, og at producenterne af operativsystemer håndhæver den.

Apple og Google har begge fortalt Reuters, at de overvejer ændringer, der giver folk mere kontrol over, hvad de giver AI-agenter lov til, selv om Google bemærkede, at folk allerede “must deliberately grant permissions”, for at en app kan læse Android-notifikationer. Apple har været hurtigere: En macOS-opdatering i denne uge begrænser kraftigt, hvordan udviklere kan bruge tilgængelighedsværktøjer på Mac, og indfører et nyt sæt tilladelser skrevet til agenter, hvilket lukker den vej, testerne brugte. Google har ikke annonceret en tilsvarende løsning. På Android er den eneste lås på den dør indtil videre en kontakt i dine indstillinger.

Tags: , , , , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.