Det mest interessante ved Elon Musks seneste opdatering om Grok er ikke programmeringssproget. Det er den indrømmelse, der ligger gemt i den: Den næste model er forsinket, fordi holdet bag den smed de open source-værktøjer væk, som det havde brugt til at træne og levere modeller, og skrev sine egne.

Læst som en teaser for lanceringen er opslaget optimistisk: Træningen er færdig, evalueringerne går frem, og en gradvis udrulning begynder inden ugens udgang. Læst som en fortælling om systemerne bag siger det noget større. xAI, der nu er en del af SpaceX, har besluttet, at fælles rammeværker holdt virksomheden tilbage, og satser med denne model og den næste på selv at eje hvert eneste softwarelag mellem forskerne og GPU’erne.

»Vi har droppet JAX/SGLang og skrevet hele RL- og inferensstakken om fra bunden i C/C++, hvilket tog lidt ekstra tid,« skrev Musk på X som svar til en bruger, der spurgte, hvornår Grok 4.8 kunne ventes. JAX er det Python-baserede numeriske bibliotek, som xAI havde trænet med; SGLang er et open source-rammeværk til at levere store sprogmodeller. Fortræningen er færdig, sagde han, efter at »der var brug for en hel del oprydning i SFT-dataene«, altså datasættet til superviseret finjustering. »Nu er 4.8 i RL-fasen, og evalueringerne begynder at gå frem.«

Den bemærkning forklarer en forsinkelse, som Musk selv var med til at sætte forventningerne til. I midten af september præsenterede han modellen som »en model på 2,5 billioner parametre, trænet med vores nye C++-softwarestak«, der ville »blive færdigtrænet i denne uge og begynde RL«. Omtrent samtidig kaldte han ifølge Analytics India Magazine arbejdet med forstærkningslæring »stadig lidt af en ophobning af mange forskellige tredjepartssystemer«, som skulle løses »med tiden«. Sidst i oktober skrev han: »Jeg ved, at det har taget længere tid end forventet, men Grok 4.8 bliver ikke en skuffelse.« Løsningen viste sig at være selve forsinkelsen. Koden til fortræningen var allerede ny; den del, der lærer modellen at opføre sig, og den del, der besvarer brugerne, skulle bygges om, før modellen kunne komme videre.

»C++-omskrivningen«, som overskrifterne taler om, består for det meste af C. Da Musk blev spurgt om sproget, svarede han: »C med lidt C++, men ikke ret meget.« Han siger, at stakken bygger videre på den software, SpaceX’ ingeniører skrev til Starlink (»Hos SpaceX skriver vi vores egne headere og beregner vores egen tid,« tilføjede han), og i september sagde han, at koden til fortræningen var skrevet af Starlink-holdet og »ikke var skrevet af AI«, fordi »AI endnu ikke er god nok til software med ekstremt høj ydeevne (men det bliver den).«

Begrundelsen har været fremme offentligt siden foråret. Sidst i maj sagde Musk, at SpaceX næsten var færdig med en intern C-baseret træningsstak, der »kortlægger præcist« til en klynge med 220.000 Nvidia GB300-chips, og anslog, at den kunne være »mere end en størrelsesorden« hurtigere end JAX ved store træningskørsler. Sidst i juni lovede han »virkelig massive gevinster« om cirka tre måneder, når hele trænings- og inferensstakken var skrevet om, og »de fleste softwarelag ville blive slettet helt«. Målt op mod den tidsplan landede omskrivningen omkring seks uger for sent. Ingen af hastighedspåstandene er blevet målt uden for virksomheden.

At eje hele stakken kan både være en fordel og en ulempe. Når xAI dropper JAX og SGLang, slipper virksomheden for andres abstraktioner og udgivelsesplaner, og dens ingeniører kan tilpasse softwaren direkte til en bestemt type hardware. Til gengæld ligger ansvaret for hver eneste fejl i træningsforløbet og i systemet, der leverer svarene, nu alene hos xAI – i kode, som intet eksternt fællesskab har afprøvet, før den når ud til brugerne.

Musk skruer også kraftigt ned for forventningerne. »Grok 4.8 kommer ikke til at ligne 4.7 på nogen måde (heldigvis),« skrev han og talte dermed offentligt den model ned, som xAI lancerede den 21. september. »Den er endnu ikke fantastisk, men denne gang er fundamentet bygget rigtigt, så jeg forventer, at den udvikler sig til noget særligt.« Mindre end en time senere blev han spurgt, hvordan 4.8 ville klare sig mod Anthropics Opus 5.5. Hans svar lød: »Ikke lige så godt. Opus 5.5 er et mesterværk.« Det egentlige løfte ligger længere ude i fremtiden: »Grok 5 bør overgå Opus 5.5, og måske sker det om to-tre måneder.«

Alt det øvrige mangler stadig. Ifølge tjenester, der overvåger xAI’s nyhedsside og udviklerdokumentation, er der ingen omtale af modellen dér; der findes intet modelkort, intet benchmark, ingen pris og ingen API-oversigt. Tallet på 2,5 billioner parametre stammer alene fra Musk, og det samme gælder evalueringsresultaterne, som han siger er på vej op. Den gradvise udrulning til brugere af Grok Bot skal begynde »senere på ugen«, uden at der er angivet en bestemt dag, og i oktober sagde Musk, at de fleste af forespørgslerne ville blive håndteret af »en lynhurtig version af Grok 4.8«.

Derfor bliver denne uges udrulning snarere en prøve på rørene end på selve modellen. Hvis modellen klarer sig gennem den virkelige trafik på Grok Bot, bliver omskrivningen den platform, Grok 5 trænes på. Hvis den snubler, er der ikke længere noget eksternt rammeværk at give skylden.

Tags: Elon Musk, SpaceX, AI-modeller, xAI, Grok