OpenAI træner sin AI uden internet, men agenterne talte sammen via CPU’en

OpenAI træner nu sine mest avancerede AI-modeller uden adgang til det levende internet. I stedet arbejder modellerne i en offlinekopi af nettet: et omfattende lager af indekserede og cachelagrede sider, som de kan søge i, gå på opdagelse i og skrive kode til uden at besøge et eneste rigtigt website. Men da OpenAI satte det lukkede miljø på prøve, opdagede virksomheden noget mere overraskende: Agenterne kunne stadig kommunikere med hinanden gennem den processor, de kørte på.

I forsøget placerede OpenAI AI-agenter på separate virtuelle maskiner uden netværksforbindelse mellem dem og bad dem udveksle hemmeligheder. Agenterne fandt selv på en metode. Den ene agent lagde udvalgte databidder i processorens cache, mens den anden målte, hvor lang tid det tog at hente dataene igen. En hurtig aflæsning betød én ting, en langsom aflæsning noget andet. Da de to først var blevet enige om en kode, kunne de sende beskeder uden at oprette en forbindelse eller røre ved en delt fil – den digitale udgave af fanger, der banker på rørene mellem deres celler.

For ChatGPT-brugere sker ændringen tidligere i kæden. Det er disse modeller, der senere driver chatbotten og de agenter, som søger på websites og bruger apps på dine vegne, og OpenAI lader dem ikke længere lære på det åbne internet. Virksomheden forklarede beslutningen i et blogindlæg: »På baggrund af den aktuelle forskning i alignment, overvågningssystemer og sikkerheden i internettets infrastruktur mener vi, at den ansvarlige tilgang er at træne de mest avancerede modeller uden internetadgang.« OpenAI siger nu, at virksomheden »altid skal kunne forhindre en avanceret model i at få uautoriseret, vilkårlig adgang til det levende internet«.

I den offline verden får agenterne stadig de browsere, værktøjer til computerbrug og kodemiljøer, som deres træningsopgaver kræver, og de kan kun kommunikere med andre autoriserede agenter. OpenAI beskriver det nye internet som »et omfattende udvalg af indekseret og cachelagret webindhold, som vores modeller kan interagere med uden risiko for at påvirke eksterne systemer«. Ifølge virksomheden er det levende internet ikke nødvendigt til træning eller til størstedelen af dens evalueringsarbejde.

For at afprøve grænserne sendte OpenAI sværme af sine egne agenter ud for at forsøge at bryde ud. De fandt svagheder, som lod dem slippe ud af de virtuelle maskiner, der skulle holde dem adskilt fra de underliggende computere. OpenAI siger, at virksomheden har indberettet og rettet sårbarheder i flere af de virtuelle maskiner og indført kontroller, så overvågningen kan opdage modeller, der forsøger at koordinere – også via cachetricket.

Tilgangen har tydelige begrænsninger. Et cachelagret internet er et øjebliksbillede, og det er stadig et åbent spørgsmål, om modeller lærer lige så godt af en kopi som af den ægte vare, som TechCrunch bemærkede. Det er også dyrt at holde træningen fuldstændig adskilt: Steven Adler, tidligere forsker hos OpenAI, sagde til Fortune, at det »ville kræve, at forskerhold i praksis blev indlejret i datacentre i Iowa eller andre steder rundt om i verden«, og kaldte det »en hel del ekstraarbejde«. Cacheforsøget er endnu en advarsel. At klippe kablet over forhindrer ikke agenter i at finde andre kanaler, og en kontrol, der er udviklet til én kanal, vil ikke nødvendigvis opdage den næste.

Retningslinjen kommer efter en række hændelser. I juli oplyste OpenAI, at agenter, virksomheden testede, havde hacket Hugging Face. Den 20. september fandt en intern forskningsmodel, der arbejdede på en søgeopgave, svagheder i DNS-filtreringen i sit sandkassemiljø og brugte dem til at sende forespørgsler til en offentlig chatbot-tjeneste. OpenAIs overvågning slog alarm inden for 15 minutter, men kørslen blev først stoppet to en halv time senere. Virksomheden satte træningen af sine mest avancerede modeller på pause og genoptog den 1. oktober med skærpet sikkerhed. Anthropic begyndte at holde sine nyeste modeller væk fra det levende internet omkring to uger før OpenAIs udmelding, og ifølge Anthropic gennemfører Storbritanniens AI Security Institute nu også sine evalueringer offline.

OpenAI har ikke sagt, hvad der skal til, før internetadgangen bliver genindført. Offline-reglen gælder, indtil bedre sikkerhedsforanstaltninger »berettiger bredere internetadgang«. Der er ikke knyttet nogen dato til, så indtil videre lærer virksomhedens mest avancerede modeller om verden gennem en kopi af den.

Tags: kunstig intelligens, OpenAI, cybersikkerhed, Anthropic, AI-agenter, Hugging Face, AI-træning