Teknologi

Mac mini var ikke bygget til AI-træning. OpenAI købte titusinder alligevel

Adrian Kessler

Standardbilledet af AI-træningsinfrastruktur involverer GPU-klynger, serverrum og Nvidia-hardware til titusindvis af dollars per kort. OpenAI har lige købt titusindvis af forbruger-Mac’er og har punkteret det billede. Virksomheden har købt Mac mini- og Mac Studio-systemer for at træne en bestemt klasse af AI: agenter, der kan betjene computere, som en menneskelig operatør gør: klikke, scrolle og navigere i software på vegne af brugeren.

Forklaringen handler om hukommelse. Apples M-serie-chips bruger en forenet hukommelsesarkitektur, der placerer CPU og GPU på samme siliciumdie og deler en enkelt pulje af højbåndbredde-hukommelse. For reinforcement learning – den træningsmetode, der lærer en agent ved at køre den gennem tusindvis af trial-and-error-forsøg – fjerner dette design en vedvarende flaskehals for dataoverførsel. Når GPU-hukommelse og systemhukommelse er adskilt, som de er i konventionelle GPU-opsætninger, skal hardwaren konstant kopiere data hen over kløften mellem dem. Apples forenede hukommelse eliminerer den overførsel. Chippen kører køligere, trækker mindre strøm per enhed, og de tal slår en Nvidia H100 til 25.000 dollars til netop denne opgave.

Anthropic, OpenAIs nærmeste konkurrent, har truffet samme hardwarevalg, men et andet finansielt valg. Anthropic lejer Mac mini’er gennem Amazon Web Services i stedet for at købe dem. Arbejdsbyrden er identisk; forpligtelsen er det ikke. OpenAIs beslutning om at købe titusindvis af enheder direkte signalerer, at træning af agenter, der betjener computere, er en permanent infrastrukturinvestering i stor skala, ikke et midlertidigt eksperiment.

Effekten på udbuddet kom med det samme. Apple opdaterede Mac mini og Mac Studio i slutningen af august og introducerede M6, sin første 2-nanometer-processor. Mac mini M6 starter på 899 dollars; Mac Studio M5 Ultra – den konfiguration, der tilbyder op til 96 GB eller mere forenet hukommelse – starter på 5.499 dollars. De konfigurationer med mest hukommelse var i forvejen begrænset af en global mangel på hukommelseschips. AI-laboratoriernes masseindkøb har presset topmodellerne ud af lager, og leveringstiderne strækker sig nu over måneder, før de nye enheder overhovedet begynder at blive sendt.

Intet af dette rører Nvidias kerneforretning. Træning af grundmodeller – at bygge GPT-5, Claude 5 og Gemini 3 fra bunden – kører stadig på klynger af tusindvis af Nvidia H100- og B200-kort. En Mac mini kan ikke kopiere det. Det, Nvidia følger nøje, er agentlaget: de arbejdsbelastninger, der bygges oven på grundmodeller og interagerer med den virkelige verden. Nvidias DGX Spark, virksomhedens desktop-AI-system, er et direkte svar på det samme område, som Apple ved et uheld har indtaget. AI-laboratorier vælger det ikke i stor skala lige nu.

Prisen forklarer kløften. En Mac Studio M5 Ultra med 96 GB forenet hukommelse starter på 5.499 dollars. Et Nvidia H100-GPU-kort koster over 25.000 dollars, før det serverchassis, det skal bruge for at fungere, kommer til. For den klasse af reinforcement learning, der træner en agent til at klikke sig gennem en browser, navigere i en formular og arkivere en rapport, skaber Mac’ens omkostningseffektivitet og hukommelsesarkitektur en anden ligning – og AI-laboratorierne har identificeret den forskel og købt derefter.

Apples evne til at opretholde dette som et forsyningsforhold afhænger af, at chipproduktionen skalerer hurtigere end efterspørgslen, en betingelse, der ikke er opfyldt i øjeblikket. Virksomhedens næste produktevent i begyndelsen af september vil fokusere på iPhone 18-serien og dens første foldbare enhed. Yderligere opdateringer af Mac-serien forventes senere på året.

Tags: , , , , , ,

Debat

Der er 0 kommentarer.