Teknologi

OpenAI-topchef Sam Altman siger, at hans RAM-udtalelse blev taget ud af kontekst. Udskriften giver ham halvt ret

Han svarede på et spørgsmål om lokal AI-inferens, ikke gaming-PC'er. Hans argument placerer stadig den knappe hukommelse i datacentre.
Adrian Kessler
Tilføj os på Google

Sam Altman vil have ført til protokols, at han står på side med folk, der køber hukommelse til deres egne computere. OpenAI’s administrerende direktør siger, at en bemærkning om, at hjemme-pc’er optager verdens knappe DRAM, blev taget ud af sammenhæng, og at han længe har arbejdet for, at branchen producerer mere. Hele samtalen viser, at han har halvt ret. Sammenhængen ændrer, hvad han mente. Men den ændrer ikke på, hvor hans argument sender chippen hen, så længe manglen varer ved.

Han forsvarede sig på X efter flere dages vittigheder på hans bekostning, og han spillede med undervejs. En bruger bad ham om at ændre kontonavn til “Ram Altman”. Han svarede “ok ja” og ændrede sit viste navn. Derefter forklarede han sig: “Jeg vil faktisk gerne have, at verden har masser af hukommelse, og at folk kan putte så meget, de vil, i deres computere, og det er pisseirriterende, at det her blev taget ud af sammenhæng.” Han tilføjede: “Jeg har længe argumenteret for, at verden skal øge produktionen af hukommelse.”

Hvad Altman faktisk sagde i Cheeky Pint

Udtalelsen stammer fra Cheeky Pint, podcasten med Stripe-medstifteren John Collison som vært, der offentliggør fulde transskriptioner. Passagen lyder: “Men set ud fra et globalt fordelingsperspektiv er det faktisk ret forfærdeligt, at alle har en stor del af verdens begrænsede DRAM-forsyning siddende i deres egen computer. Og som bliver brugt […] 5 % af tiden. Hvis man prøver at håndtere denne situation med meget begrænset udbud, ønsker man maksimal udnyttelse i skyen.”

De fleste artikler begyndte citatet dér. Men det, der kom før, er vigtigt. Collison havde spurgt, hvorfor de høje hukommelsespriser ikke lokkede nye producenter ind på markedet. Altman svarede, at “den usynlige hånd svigter lige nu”. I årtier, sagde han, ville en DRAM-producent “investere 20 milliarder dollar i CapEx for at tjene 19 milliarder” og komme igennem både højkonjunkturer og nedture. Nu, hvor hver af dem efter hans vurdering kan tjene “sådan cirka 100 milliarder dollar i frit cashflow på et år”, “husker de alle deres historie. Hvor mange gange de næsten gik konkurs, fordi de byggede for mange fabrikker.” Først derefter vendte han sig mod folk, der ønsker at køre inferens lokalt: at køre open source-AI-modeller på deres egne maskiner i den tro, at det mindsker presset på datacentre. Bemærkningen om, at det er “ret forfærdeligt”, var hans modsvar til den antagelse.

Senere i samme samtale siger han, at udgifterne til energi og chips “bør falde”, at “hvis de ikke falder, bliver jeg meget ked af det”, og at “udbuddet skal øges markant”. På det snævre punkt holder forsvaret. Han talte om AI-inferens derhjemme, ikke gaming-pc’er eller videoredigering, og i samme afsnit efterlyste han øget produktion.

Her holder sammenhængen op med at hjælpe

På et marked med mangel på varer handler et argument om fordeling om, hvem der får chippen. “Maksimal udnyttelse i skyen” sender dem til datacentre, og OpenAI er en af markedets største købere. Samsung og SK Hynix underskrev hensigtserklæringer om at levere hukommelse til OpenAIs infrastrukturprojekt Stargate, en forpligtelse, som The Register anslog til omkring 900.000 DRAM-waferstarter om måneden. Hensigtserklæringerne er ikke bindende, men de viser, hvor stor en del af markedet OpenAI har tænkt sig at købe. Notebookcheck påpegede, at argumentet også passer til OpenAIs forretningsmodel: lukkede modeller, der kører i virksomhedens datacentre og sælges via abonnement.

Selv det tydeligste udsagn om overflod i afsnittet kommer ikke fra Altman. “Et overudbud af computerkraft”, hvor “alle, der ønsker sig en computer, uanset årsagen, kan få en”, er Collisons opsummering af Altmans synspunkt. Altman svarede ikke direkte på det. I stedet talte han om datacentre og om prisen på fem års kapacitet på én gigawatt, som han anslog til omkring 70 milliarder dollar, og som han gerne så falde til 20.

5-procenttallet har ingen kilde

Tallet, der satte gang i striden, er ikke ledsaget af nogen måling. PC Games Hardware bemærkede, at det beskriver, hvor stor en del af tiden hukommelsen er i brug, ikke hvor meget en maskine har brug for: Et styresystem holder data i cachen, og programmer lægger beslag på mere hukommelse i korte perioder. En gigabyte, der står ubrugt natten over, skal stadig være til rådighed, når et spil eller en lokal model indlæses. Folk kører også AI på deres egen hardware af grunde, som et tal for udnyttelsesgrad ikke kan indfange, såsom privatliv, kontrol over en model, som en leverandør ikke i stilhed kan ændre, og en engangsudgift i stedet for et abonnement.

Elon Musk blandede sig også på X med ordene: “Folk fortjener også at have deres RAM!” Hans eget AI-projekt driver datacentret Colossus i Memphis, som PC Games Hardware påpegede.

Manglen kan allerede mærkes på priserne i butikkerne. Den 2. november hævede Raspberry Pi prisen på Raspberry Pi 5 med 16 GB med 80 dollar til 385 dollar med henvisning til “mangel på alternative leverandører af 16 GB DRAM”. PC Gamer, hvis artikel bragte udvekslingen på X ud til et stort publikum, skrev, at teknologientusiaster og gamere er blevet “prissat ud af markedet for ny hardware” af OpenAI og resten af AI-branchen. Afsnittet af Cheeky Pint blev offentliggjort den 29. oktober, og Altmans svar på X fulgte i de første dage af november.

Altmans løsning på det hele er flere fabrikker. Ifølge hans egen beskrivelse husker de virksomheder, der skulle bygge dem, at de næsten gik konkurs, sidst nogen fortalte dem, at højkonjunkturen var anderledes. Indtil de skifter mening, bliver hukommelsen allerede fordelt, som han beskrev: til den køber, der betaler mest og udnytter den mest, og den køber er et datacenter, ikke en stationær computer.

Tags: , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.