Yann LeCun til universiteterne: »I bør absolut ikke arbejde med LLM’er«

Yann LeCun har i årevis forsøgt at overbevise AI-branchen om, at store sprogmodeller er en omvej. I et klip fra et foredrag, der nu cirkulerer på X, retter Turingprisvinderen advarslen mod en mindre og mere udsat målgruppe: forskerne på universiteterne. Denne gang tager han alle forbehold af bordet.

»I bør ikke arbejde med LLM’er. I hvert fald bør I absolut ikke arbejde med LLM’er, hvis I er i den akademiske verden. I har ikke noget at bidrage med. Hvis I er interesserede i at skabe reelle fremskridt inden for AI, altså en form for AI med solid forankring i den virkelige verden, hvis I vil arbejde med fysisk AI, så lad være med at arbejde med LLM’er – og lad også være med at arbejde med generative modeller.«

Han sagde det på ETH Zürich under foredraget »World Models: Enabling the Next AI Revolution« ved foredragsrækken Frontiers of Embodied AI den 29. maj. AI-kommentatoren Rohan Paul lagde klippet op i denne uge som LeCuns »seneste foredrag«, selv om det er fire måneder gammelt. Den næste bemærkning udløste latter: »Så som I nok kan regne ud, gør det mig ikke særlig populær i Silicon Valley.« På sliden bag ham står overskriften »Anbefalinger til mine kolleger inden for AI-forskning«, og nederst står der med røde versaler: »Hvis I er interesserede i AI på menneskeligt niveau, så lad være med at arbejde med LLM’er.«

Første halvdel handler om computerkraft

Ser man bort fra provokationen, handler rådet til de akademiske forskere om økonomi. Fremskridt med store sprogmodeller kræver træningskørsler på klynger af computere, som kun en håndfuld virksomheder har råd til. En ph.d.-studerende kan ikke bidrage meget til et kapløb, der afgøres af budgetterne. Det er dét, LeCun mener med, at man »ikke har noget at bidrage med«. Han har fremført pointen i et stykke tid: På VivaTech i Paris i 2024 sagde han ifølge VentureBeat til studerende, der ville udvikle næste generation af AI, at LLM’er var på de store virksomheders hænder.

På sliden står også, hvad han mener, forskerne i stedet bør bruge tiden på: arkitekturer med fælles indlejringer frem for generative modeller, energibaserede modeller frem for probabilistiske, regulariserede metoder frem for kontrastive og modelprædiktiv styring frem for reinforcement learning. Sidstnævnte ville han kun bruge til at korrigere en plan, når verden ikke opfører sig som forudsagt. Det er idéer, man kan afprøve med beskedent udstyr, og netop dér har universitetslaboratorier stadig en fordel.

Anden halvdel er den egentlige provokation

»Lad også være med at arbejde med generative modeller« går videre end den sædvanlige kritik af chatbots. Det er en afvisning af selve genereringen – idéen om at skabe intelligens ved at forudsige det næste ord eller den næste pixel – og dermed lægger LeCun sig på kant med store dele af feltet for fysisk AI, som ellers ofte sættes i samme kategori som hans arbejde. I sidste uge indgik AMD en aftale om at købe Fei-Fei Lis World Labs i en handel, der udelukkende betales med aktier og vurderes til omkring 8,2 milliarder dollars. The Register beskrev handlen som en sikring mod, at LLM’er viser sig at være en blindgyde, og bemærkede, at LeCun har sagt det samme. World Labs udvikler imidlertid modeller, der genererer og simulerer 3D-miljøer. NVIDIA’s Cosmos 3 er også en generativ verdensmodel, og Physical Intelligence bygger sine robotmodeller oven på vision-language-modeller. De penge, der går til »verdener, ikke ord«, går for det meste ikke til LeCuns udgave af idéen.

Råd fra en mand med økonomiske interesser

Man må også tage talerens egen position med i betragtning. LeCun forlod Meta og er nu arbejdende bestyrelsesformand for AMI Labs i Paris. I marts rejste virksomheden 1,03 milliarder dollars ved en værdiansættelse på 3,5 milliarder dollars – Europas største seedrunde – for at udvikle verdensmodeller som alternativ til LLM’er. Virksomheden er i gang med at opbygge medarbejderstaben i Paris, New York, Montreal og Singapore. Enhver forsker, der følger hans råd, kan blive en potentiel medarbejder.

Det gør ikke rådet kynisk. Han havde den holdning, før AMI blev grundlagt, og den kostede ham anseelse længe før investorerne betalte for den med penge. Men i 2026 peger forskningsanbefalingen og forretningsplanen i præcis samme retning, og de studerende bør tage højde for det.

LeCun jokede med, at udtalelsen koster ham venner i Silicon Valley. For en studerende, der skal vælge emne til sin afhandling, er indsatsen større: En ph.d. satser på den arkitektur, som LeCun netop har rejst over en milliard dollars for at bevise værdien af.

Tags: Large Language Models, World models, AMI Labs, ETH Zurich, Yann LeCun