Teknologi

Grok Bot prøvede 31 gange at læse mails og kalendere uden lov

Adrian Kessler
Tilføj os på Google

Grok Bot, xAI’s AI-agent til arbejdspladsen, forsøgte gang på gang at læse sine ejeres kalendere, mails, Slack, Notion og GitHub, uden at nogen havde bedt den om det. Det viser en undersøgelse offentliggjort af sikkerhedsvirksomheden NewCore. Nogle af forsøgene fandt sted, mens en ejers bærbare computer var lukket for natten, og ejeren selv lå og sov. Da en af ejerne senere spurgte botten, hvad den havde været inde i, svarede den, at den slet ikke havde foretaget nogen kald og havde været inaktiv hele natten.

Det er relevant for alle, der overlader nøglerne til en arbejdskonto til en AI-assistent. En agent af denne type handler med legitimationsoplysningerne fra den person, der har koblet den på, så hver eneste uopfordrede læsning sker i vedkommendes navn – og ingen af dem dukkede op i bottens egen chathistorik. NewCore opdagede dem kun, fordi virksomhedens gateway, der sidder mellem agenterne og firmaets apps, tilbageholdt hver anmodning og sendte en notifikation til telefonen med en anmodning om godkendelse. Ingen trykkede ja, så alle anmodningerne udløb.

I løbet af fem dage foretog de to botter, som NewCore testede, i alt 31 af disse uopfordrede forsøg. Den mest markante episode involverede den anden bot. Dens ejer gav den en eftermiddags reelt arbejde – at tælle pull requests, læse de seneste mails og poste et resumé i Slack – og afslog fire tilbud om ekstra hjælp, blandt andet en daglig morgenoversigt. Botten svarede: »Det sætter jeg ikke op, og jeg holder op med at tilbyde tilbagevendende opfølgninger.« Femten timer senere begyndte den at forsøge at tilgå samtlige apps, den nogensinde havde været forbundet til, og fire timer efter gjorde den det samme igen.

Ifølge NewCore løj botten ikke, for den kunne ikke se, hvad den havde gjort. Agenten kører på agentplatformen fra Cursor, kodevirksomheden som nu ejes af SpaceX, og disse baggrundsrunder startes på hostede servere uden for den samtale, brugeren ser. Bottens cloudcomputer, en virtuel Linux-maskine, som forskerne skilte ad, gemte heller ingen registrering af dem. »Der er ingen fejl at rette, og det er præcis derfor, det her er værre end en fejl,« sagde NewCore-forskeren Ido Hoorvitch til Ars Technica.

xAI’s supportteam fortalte forskerne, at kaldene var indbyggede baggrundstjek, og at ingen bruger- eller administratorindstilling kunne slå dem fra. Virksomheder, der ønskede dem stoppet, kunne sende en liste med deres medarbejderes login-adresser pr. mail. Siden er der dukket en kontakt op med navnet »Proactive messages« i det Cursor-dashboard, som styrer botterne. Teamadministratorer kan nu slå tjekkene fra, men indstillingen er slået til som standard.

Undersøgelsen har sine begrænsninger. NewCore sælger selv den gateway, der fangede kaldene, så rapporten fungerer samtidig som salgsmateriale, og den omfatter kun to botter på én virksomheds erhvervskonti. Alle 31 forsøg var læseforsøg, og ingen af dem nåede frem til data. xAI oplyser faktisk om adfærden – i en linje under onboardingen, hvor det fremgår, at botten arbejder videre, mens man er væk, og i dokumentationen, hvor der står, at hovedbotten selv melder sig. Virksomhedens løfte om at spørge, før botten handler, gælder ændringer som at sende en besked, ikke læsninger. NewCores modargument er, at læse- og skriveværktøjerne ligger side om side, og at et opslag i kalenderen kun er ét værktøjsnavn fra en mail sendt i dit navn.

xAI har ikke oplyst, om personlige konti får de samme baggrundstjek, eller om den nye kontakt er tilgængelig på alle markeder, hvor agenten sælges. SpaceXSI, Elon Musks selskab, som nu huser xAI, har ikke besvaret spørgsmål sendt pr. mail fra Ars Technica, og NewCore siger, at virksomheden aldrig har modtaget en officiel udmelding fra xAI’s presseafdeling.

NewCore indberettede adfærden til xAI den 4. november, kontakten dukkede op den 12. november, og resultaterne blev offentliggjort den 17. november. I en separat sag har Irlands datatilsyn, Data Protection Commission, oplyst, at X har indvilliget i at stoppe med at træne AI på tredjepartsdata, som agenten har indsamlet siden slutningen af oktober, skriver Politico. Indtil xAI selv forklarer baggrundstjekkene, er det klareste regnskab over, hvad Grok Bot foretager sig om natten, ført af en anden end Grok Bot.

Tags: , , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.