Teknologi

Zuckerberg lancerer Muse Ember: Metas mindste AI-model koster det samme pr. token som Haiku

Mark Zuckerberg siger, at Metas nye lille model leverer mere intelligens per dollar end dens konkurrenter. Påstanden holder ved regningen, ikke på prislisten, og besparelsen kommer fra, hvor mange tokens den skriver.
Adrian Kessler
Tilføj os på Google

Mark Zuckerberg præsenterede Metas nyeste AI-model med én enkelt sætning på X: “Muse Ember udkommer i dag — vores mindste model, som leverer større intelligens for pengene end andre i sin klasse.” Meget af omtalen af lanceringen udlagde det som en prisnedsættelse: Meta skulle underbyde de små, billige modeller, som Anthropic og OpenAI sælger til udviklere, der bygger AI-agenter.

Der er ikke tale om en prisnedsættelse — i hvert fald ikke på prislisterne. Muse Ember tager præcis det samme for hver token, der går ind og ud, som de to navngivne konkurrenter. Den besparelse, Meta reklamerer med, er reel, men den ligger et andet sted: i hvor meget modellen skriver, før den når frem til et svar. Det er en mere interessant påstand end en rabat, og også sværere for en køber at efterprøve, før regningen kommer.

Det har Meta lanceret

Muse Ember er den fjerde model i Metas Muse-familie efter Spark, Glimmer og Wonder — og den mindste. Meta Superintelligence Labs har bygget den til de gentagne trin i en agent; med Zuckerbergs ord: “kodningsopgaver, routing, dataudtræk og parsing af lange dokumenter.” Metas egen beskrivelse af arbejdsfordelingen er kontant: “Muse Wonder planlægger, Muse Ember håndterer mængden.” Alexandr Wang, der leder Meta Superintelligence Labs, sagde, at Ember er den første lancerede model, som er trænet med Muse Wonder Full, Metas største model.

Meta oplyser, at Ember kan læse tekst, billeder, lyd og video, har et kontekstvindue på én million tokens og kan skrive op til 512.000 tokens i et enkelt svar. Modellen er lukket. Der er ingen vægte, man kan downloade, og den kører via Metas hostede Model API og i Muse Code, Metas kodningsagent. Google Cloud og Oracle Cloud er også nævnt som adgangsveje.

Hvor kommer “mere for pengene” fra?

Meta angiver prisen på Ember til 0,10 dollar pr. million inputtokens og 0,50 dollar pr. million outputtokens. Anthropic opgiver samme grundpriser for Claude Haiku 5.5, og det gør OpenAI for GPT-6 Luna, som både MarkTechPost og Fello AI påpeger. Den eneste fordel på listeprisen gælder cachede input — tekst, modellen allerede har set og kan genbruge. Her fakturerer Ember 0,004 dollar pr. million mod 0,01 dollar for begge konkurrenter.

Forskellen viser sig pr. opgave. På Artificial Analysis Intelligence Index, en uafhængig samling benchmarks, scorer Ember 36, på niveau med Haiku 5.5 ved modellens højeste indstilling, til en pris på cirka 0,14 dollar pr. opgave mod 0,41 dollar for Haiku. Fello AIs gennemgang af dataene fra Artificial Analysis forklarer hvorfor: På tværs af hele indekset producerede Ember omkring 115 millioner outputtokens og Haiku omkring 298 millioner til samme pris pr. outputtoken. Samme tokenpris, langt færre tokens. GPT-6 Luna koster omtrent det samme pr. opgave som Ember — 0,15 dollar — men scorer 28.

Mekanismen er vigtig, fordi antallet af tokens ikke står på noget prisskilt. En udvikler, der sammenligner listepriser, ser tre identiske modeller. Forskellen viser sig først, når agenten kører, og den varierer alt efter opgaven, den tekniske opsætning og indstillingen for ræsonnement. Metas sammenligning bruger den højeste indsats for ræsonnement, som også er angivet som standardindstilling for Ember i udviklerdokumentationen.

Prisen, der tredobles

Metas udviklerside har et andet prisniveau, som ikke nævnes i lanceringens budskaber. Over 200.000 inputtokens koster Ember 0,30 dollar pr. million ind og 1,50 dollar pr. million ud — tre gange den fremhævede pris. Meta advarer i dokumentationen om, at en forespørgsel med en lang samtalehistorik kan overskride grænsen. I sin artikel om lanceringen skrev MarkTechPost, at Meta ikke angiver nogen pris for lange kontekster til Ember; Metas egen pristabel viser noget andet.

Det prisniveau rammer netop den brug, Zuckerberg fremhævede. “Parsing af lange dokumenter” og et kontekstvindue på en million tokens lægger op til, at udviklere indlæser hele kodebaser og dokumentsamlinger — de forespørgsler, der har størst sandsynlighed for at passere grænsen. Ember er stadig billigere end Haiku 5.5 her, eftersom Haiku ifølge MarkTechPost tager 0,50 dollar for input og 2,50 dollar for output over 100.000 prompttokens. Men “billig” bliver til “billigere end alternativet”, og det er et andet løfte.

Hvad benchmarkene viser — og hvem der har kørt dem

Meta offentliggjorde ti sammenligninger med Haiku 5.5 og GPT-6 Luna. Embers stærkeste resultat er AutomationBench, Artificial Analysis’ afprøvning af 657 arbejdsprocesser i Zapier til virksomheder. Her løser modellen 37,8 procent af opgaverne mod 13,9 procent for Haiku og 20,2 procent for Luna. Modellens eneste tydelige nederlag er FrontierCode 2.0, der vurderer reelle kodeændringer ud fra, om en vedligeholder ville acceptere dem: Haiku scorer 34,9, Ember 27,2.

Fello AI har gjort op, hvem der står bag de enkelte tal. Fem resultater kommer fra Artificial Analysis, fire stammer fra Metas egne test, og rækken for Terminal-Bench blander forskellige opsætninger: en test fra Artificial Analysis for Ember over for selvrapporterede tal for konkurrenterne. Fello bemærker også, at Artificial Analysis’ modelside kun angiver tekst og billeder som input til Ember. Understøttelsen af lyd og video bygger derfor indtil videre på Metas egne oplysninger.

Hvem Muse Ember er til

I Metas lanceringsopslag står der, at Ember er så billig, at den er “billig nok til at køre i alle produkter, for alle.” Indtil videre kører den dog ikke i nogen af Metas forbrugerprodukter: Fello AI oplyser, at den ikke findes i Meta AI-appen, WhatsApp eller Muse-agenten. Den er en komponent til andre virksomheders agenter, og citaterne fra samarbejdspartnere, som Meta har valgt, understreger netop det. Cline-grundlægger Saoud Rizwan fremhævede den over for “teams, der skærer omkostningerne ved at køre den som underagent i deres opsætning.” Cloudflares teknologidirektør Dane Knecht sagde, at den “kørte op til 30 % hurtigere i den sidste del end den sammenlignelige model, vi testede.”

Det er satsningen bag Ember. Meta forsøger ikke at vinde chatvinduet med den. Målet er at blive det kald, der foretages tusind gange i timen inde i en andens agent, mens en større model står for tænkearbejdet. I den rolle afgøres regningen af et tal, ingen leverandør offentliggør: hvor mange tokens modellen skal bruge for at blive færdig.

Tags: , , , ,

Tilføj os på Google

Debat

Der er 0 kommentarer.