OpenAI-chef Sam Altman tegner tre slutspil for AI, og to af dem er fra 2023

OpenAI’s administrerende direktør Sam Altman har givet sine medarbejdere et overblik over, hvordan kapløbet om superintelligens kan ende, og det mest sigende er, hvor lidt der er nyt. Af de tre mulige slutspil, han gennemgik med medarbejderne, ligger to tæt op ad idéer, som hans eget selskab beskrev på skrift for flere år siden. Ingen af dem blev nogensinde ført ud i livet. Den tredje, som skabte overskrifter, nævnte han kun for at afvise den.

Ser man bort fra betegnelserne, besvarer alle muligheder det samme spørgsmål: Hvem får kontrol over den regnekraft, som de mest avancerede modeller kører på? Altman’s egne angivelige udtalelser forklarer også, hvorfor spørgsmålet hele tiden bliver skubbet til senere.

Det fortalte Sam Altman OpenAI-medarbejderne om AI’s slutspil

The Information var først med den interne præsentation med henvisning til personer med kendskab til den, og siden har The Decoder, Forbes og Latin Times fulgt op. Beretningen bygger på anonyme kilder. Den første mulighed er en international instans efter forbillede af Det Internationale Atomenergiagentur, som skulle håndhæve sikkerhedsstandarder for de førende AI-laboratorier: inspicere systemer, kræve revisioner og overvåge forbruget af regnekraft og energi. To personer fortalte The Information, at Altman så ud til at støtte forslaget.

Anbefalet læsningSam Altman om AI: „…at man skal bruge den er ikke til forhandling“

Den anden mulighed kaldte han »Demis-planen« efter Google DeepMinds medstifter Demis Hassabis, der for omkring et årti siden foreslog en CERN-lignende institution for AI. I Altman’s udgave samles de førende laboratorier i én enhed eller arbejder under dens paraply, og enheden leverer modeller til samarbejdende lande.

Den tredje mulighed er »Eliezer-planen«, opkaldt efter AI-sikkerhedsteoretikeren Eliezer Yudkowsky. En udvikler når først frem til selvforbedrende AI og bruger den økonomiske magt, der følger med, til at afskære alle rivaler fra regnekraft; med den formulering, der siden blev gentaget, ville den »smelte alle andres GPU’er«. »Jeg synes selvfølgelig, at den er forfærdelig,« sagde Altman angiveligt og tilføjede, at han havde taget den med for fuldstændighedens skyld.

OpenAI beskrev allerede det meste af menuen i 2023

Kontrolinstansen er det ældste punkt på listen. I et indlæg underskrevet af Altman, OpenAI-præsident Greg Brockman og den daværende chefvidenskabsmand Ilya Sutskever argumenterede selskabet for, at verden sandsynligvis »på et tidspunkt får brug for noget i retning af et IAEA for arbejdet med superintelligens« – en myndighed, der kan »inspicere systemer, kræve revisioner« og begrænse udbredelsen, hvis en bestemt grænse for kapacitet eller regnekraft overskrides.

Samme indlæg skitserede yderligere to veje. Store regeringer, lød det, »kunne oprette et projekt, som mange af de nuværende initiativer bliver en del af« – en nært beslægtet udgave af den fusion, Altman nu tilskriver Hassabis. Eller også kunne branchen »i fællesskab blive enige« om, at »væksten i AI-kapaciteten i frontlinjen begrænses til en bestemt hastighed om året«.

Den sidste formulering er en fartgrænse. Ifølge The Decoder klagede Altman internt over, at der er for få realistiske forslag til en »fartgrænse« for AI-udviklingen. Hans selskab offentliggjorde selv et sådant forslag. Men det skabte aldrig nogen, der havde magt til at håndhæve det.

Derfor forbliver kontrolinstansen på papiret: OpenAI siger, at selskabet ikke kan sætte farten ned

Forklaringen kom på samme møde. Altman fortalte angiveligt medarbejderne, at de to første planer kræver omfattende koordinering, og at OpenAI ikke har råd til at sakke bagud nu, hvor både selskabet og Anthropic nærmer sig børsnoteringer. Crypto Briefing gjorde investorlogikken tydelig: Selskaber, der forbereder en børsnotering, skærper deres forspring – de overlader det ikke til et konsortium.

Et IAEA for AI kræver også, at Washington og Beijing accepterer inspektører i deres mest følsomme laboratorier. Indtil videre er selv et amerikansk forslag om, at de to lande skal orientere hinanden om farlige AI-hændelser, stadig kun en skitse og ikke en aftale, bemærker Forbes.

Det, laboratorierne bygger i stedet, er en FINRA – ikke et IAEA

Det styringsprojekt, der rent faktisk er undervejs, passer ikke på nogen af Altman’s tre muligheder. OpenAI, Google og Anthropic arbejder på en selvregulerende gruppe, Standards Authority for Frontier AI, der er modelleret efter FINRA, det private organ, som fører tilsyn med amerikanske børsmæglere. Latin Times beskriver en ramme for test før lancering, indberetning af hændelser og godkendelse af revisorer, men uden bindende håndhævelsesbeføjelser. De tre laboratorier er stadig uenige om, hvem der skal teste nye modeller. Meta’s Mark Zuckerberg og Nvidia’s Jensen Huang hævder, at regler af den type først og fremmest beskytter de etablerede aktører, og et amerikansk antitrustsøgsmål hævder allerede, at laboratoriernes sikkerhedssamarbejde svarer til et kartel.

Betegnelserne fortjener også et ekstra blik. Yudkowskys oprindelige billede, »brænd alle GPU’er«, var et tankeeksperiment om, hvor stort et indgreb et alignment-sikret system skulle foretage for at standse et hensynsløst kapløb. Han skrev selv, at det ikke er noget, han faktisk ville ønske gennemført. Altman’s »Eliezer-plan« forvandler den nødbremse til en monopolsejr. Ifølge The Decoders gengivelse af beretningen sagde en kilde, at bemærkningen blev opfattet som et stikpille til en konkurrent på grund af Yudkowskys forbindelser til Anthropic.

Ifølge The Information planlægger OpenAI at beslutte inden for et år, hvilken vej selskabet vil vælge. Brancheorganisationen for standarder sigter mod at gå i luften i slutningen af 2026 eller begyndelsen af 2027.

Indtil OpenAI træffer sit valg, fortsætter selskabet ad den eneste vej, der ikke stod på hans liste: selve kapløbet.

Tags: OpenAI, Sam Altman, Demis Hassabis, AI regulation, Eliezer Yudkowsky

Mere som dette

Google DeepMinds formand Demis Hassabis venter AGI inden for tre år og vil udskyde reglerne

Demis Hassabis om hvem der skal betale for AI-sikkerhed: »Finansieringen skal være betydelig og for det meste komme fra industrien«

OpenAI-chef Sam Altman i FN: »AI skal bygges for mennesker, ikke bare for at få maskinerne til at køre hurtigere…«

Sam Altman kalder en OpenAI-børsnotering ‘uklog’ – sikkerhed er ikke den eneste grund

OpenAI og Anthropic vil bremse AI — og det bygger dem en voldgrav

OpenAIs modelflugt fra laboratoriet udløste en AI-nødstoplov ni dage efter