OpenAI-chef Sam Altman i FN: »AI skal bygges for mennesker, ikke bare for at få maskinerne til at køre hurtigere…«

Sam Altman har i årevis spillet to roller på én gang: manden, der bygger markedets mest magtfulde kunstige intelligens, og manden, der advarer verden om den. Da han stod foran FN’s Sikkerhedsråd, greb OpenAI-chefen til en enkelt sætning for at holde de to roller adskilt – og isoleret set er det en god sætning.

»AI skal bygges til mennesker, ikke blot for at få maskinernes hjul til at dreje hurtigere for deres egen skyld.«

Han sagde det til Sikkerhedsrådet i bemærkninger, som Analytics Insight har refereret, som led i en bredere argumentation for, at magtfulde systemer skal forblive under menneskelig kontrol, og at reglerne for dem bør udformes af regeringer frem for laboratorierne alene. Formuleringen trækker en grænse: På den ene side AI, der bygges til mennesker; på den anden AI, der bygges for sin egen skyld for at sætte tempoet op. Fra næsten hvem som helst ville det lyde som et enkelt princip. Fra direktøren for det selskab, der gør mest for at få hjulene til at dreje, er det også en påstand om, hvem der får lov til at bestemme, hvor grænsen går.

Altman er en sjælden skikkelse, der både er arkitekt og alarmklokke. På de samme talerstole, hvor han efterlyser værn, annoncerer han systemer, der er mere kapable end dem, som udløste den seneste runde høringer. Da han talte den 23. september, hævede han indsatsen med valget af talerstol – fra paneldebatterne i Davos og høringslokalerne i Senatet til Sikkerhedsrådet – men holdt fast i det samme mønster: forsigtighed i ordene, acceleration i udviklingsplanen. Over for rådet argumenterede han for, at udviklere »ikke bør træne modeller, medmindre vi kan fremføre et særdeles stærkt argument for, at vi vil kunne holde dem under menneskelig kontrol«, og at de vigtigste beslutninger »ikke kan træffes af laboratorier i San Francisco alene«.

Det er her, sætningen bliver interessant, og hvor den kræver en nærmere læsning. Den styring, Altman beskriver, skal udformes af netop de stater, han talte til, og den, der definerer »bygget til mennesker«, afgør også, hvilke aktører der allerede lever op til kriteriet. Et frontlaboratorium, der er med til at skrive regelbogen, er ikke en neutral part i den proces. Intet af dette gør advarslen tom. Den risiko, han peger på – at systemer udvikler sig hurtigere end de institutioner, der skal holde øje med dem, og at beslutningsmagten samles på for få hænder – er reel, og når han siger det højt i Sikkerhedsrådet, bliver det sværere for alle, der helst så emnet forblive uklart. Det betyder blot, at budbringeren nu selv er en del af budskabet.

Læs sætningen velvilligt, og den udtrykker en etik: Mennesket skal blive i kredsløbet, og AI skal ses som et redskab til at styrke menneskers handlekraft, ikke som en maskine, der gør mennesker til sine input. Læst som det, den også er – et strategisk træk fra branchens mest eksponerede aktør – er den et forsøg på at sætte rammerne for de kommende regler, samtidig med at Altman fremstår som den voksne i rummet. Begge læsninger kan være sande på én gang. Det er netop derfor, Altman er svær at affeje og svær at stole på.

Hjulet drejer videre, mens verden beslutter, hvem det skal tjene. Formuleringens ærlighed vil kun blive målt på én ting: om OpenAI træder på bremsen, når »til mennesker« og »hurtigere« omsider peger i hver sin retning.

Tags: OpenAI, Sam Altman, AI safety, AI governance