Googles administrerende direktør er holdt op med at tælle. Da Sundar Pichai blev spurgt om, hvor stor en del af virksomhedens kode der nu bliver skrevet af AI, sagde han, at spørgsmålet ikke længere giver mening, fordi AI er med i det hele. I samme samtale nedtonede han det scenarie, som store dele af branchen forbereder sig på: AI, der selv udvikler bedre versioner af sig selv, mens mennesker bliver sat uden for processen.

Begge påstande kan godt holde stik. Problemet er, hvem der efterprøver dem. Det tal, Pichai lagde til side, var det ene tal, som udenforstående kunne sammenligne med andre virksomheders. Det, der træder i stedet, og dokumentationen bag hans mere afdæmpede syn på selvforbedrende AI, bygger på Googles egne målinger af Google.

Hvad Sundar Pichai sagde om AI og Googles kode

Pichai talte med Alex Kantrowitz i podcasten Big Technology, som blev optaget på Googles hovedkontor i Mountain View og også udgivet af Kantrowitz som et skriftligt spørgsmål-og-svar-interview. Da Kantrowitz nævnte den tidligere påstand om, at en fjerdedel af Googles kode kom fra AI, og spurgte, hvad tallet er i dag, kaldte Pichai det »meningsløst«, fordi alle dele af den kode, Google nu arbejder på, »i høj grad er påvirket af AI«.

I stedet fremlagde han tal for Gemini 4 Argon, Googles nyeste model, som virksomheden har stillet til rådighed for sine egne ingeniører. I de fire uger siden lanceringen har Google ifølge Pichai set en stigning på 30 % i CL’er, virksomhedens interne betegnelse for kodeindsendelser, og et fald på en tredjedel i tilbagerulninger – altså ændringer, der må rulles tilbage, efter at de er blevet sendt ud. »Vi følger det med nyere målemetoder nu,« sagde han.

Det gamle måltal forsvandt ikke af sig selv. I et blogindlæg i april satte Google AI-andelen af sin nye kode til 75 %, mod 25 % i 2024 og 50 % det foregående efterår, ifølge Semafor og ETV Bharat. Semafor bemærkede dengang, at nogle af påstandene var tæt på umulige at faktatjekke, og sammenholdt dem med Snap, hvor andelen var 65 %, og Meta, der sigtede mod lignende niveauer.

Derfor siger Pichai, at selvforbedrende AI stadig er langt væk

Om rekursiv selvforbedring, forkortet RSI, fremstillede Pichai sit svar som en præcisering af sin medstifter. Sergey Brin havde kaldt RSI et afgørende bidrag til Argon, sagde han, men »vi er stadig ret langt fra det endelige mål med RSI«. Derefter beskrev han, hvor Google faktisk står: »Den rigtige måde at beskrive det på er, at man har RSI-forløb sammen med AI-forskere inden for forskellige aspekter af modeludviklingen. Jeg vil sige, at man næsten har agenter, der på en eller anden automatiseret måde hjælper AI-forskere med at arbejde sammen om at bygge modellerne.«

Brin var gået længere få dage tidligere. Ved et rundbordsmøde om Argon, som Google delte, sagde han, at virksomheden »begynder at komme ind på det RSI-løbebånd«, og at »vores forskere og modellen nu arbejder hånd i hånd på at lave den næste version af modellen«, som Business Insider rapporterede. En rapport fra Gladstone AI, der blev offentliggjort denne måned, fastslog, at de fleste forskere, som mediet havde interviewet hos Anthropic, OpenAI og Google DeepMind, forventer, at RSI begynder inden for tre til 12 måneder.

Googles sikkerhedsrapport giver Pichai ret – på Googles egne tests

På papiret taler resultaterne til Pichais fordel. Google DeepMinds sikkerhedsrapport for Argon finder »ingen betydelig acceleration fra start til slut af AI-forskning og -udvikling, hverken AI-drevet eller på anden måde«, og vurderer den risiko som »aktuelt lav«, rapporterede TNW. AI-agenter »forfatter størstedelen af produktionskoden og fejlrettelserne«, står der, »selv om kodeændringer fortsat bliver gennemgået af mennesker, før de indsendes«. Andelen af pull requests, der blev overladt fuldt ud til AI, steg fra 7,5 % i april til 11,9 % i september; omkring 88 % kræver stadig gentagen styring fra mennesker eller kode skrevet af et menneske.

Resultaterne bygger på Googles egne måleinstrumenter. Grænsen for, hvornår AI automatiserer AI-forskning, vurderes ud fra en intern test med 74 opgaver, som ingen uden for virksomheden kan afvikle. En analyse offentliggjort på LessWrong peger på en passage i selve rapporten: Af de oprindelige opgaver, Google gennemgik, »indeholdt omkring en fjerdedel fejl, der forhindrede enhver indsendelse i at bestå«. Fordi mange kørsler fik timeout, angiver rapporten ikke et præcist resultat for Argon, som løste omtrent halvdelen af de kørsler, der blev gennemført. Google siger, at konklusionen stadig holder, selv hvis alle de uafsluttede kørsler var lykkedes.

Menneskelig gennemgang er den kontrolmekanisme, sikkerhedsargumentet hviler på. 30 % flere kodeindsendelser betyder 30 % flere ændringer for de mennesker, der skal stå for kontrollen, og de måltal, Pichai valgte, tæller output og tilbagerulninger – ikke hvor grundigt hver enkelt ændring blev læst.

Pichais eget forslag: uafhængige revisorer

Pichai affejede ikke bekymringen. Der er stadig »tydelige huller« i forskningen i AI-alignment, sagde han, og »det er rimeligt at være bekymret«. Efter hans opfattelse er næste skridt fælles standarder på tværs af branchen, »herunder muligheden for at blive evalueret af uafhængige bedømmere«, efter forbillede af regnskabsstandarder og eksterne revisorer, samt regulering, som »vil komme til at spille en rolle«.

Målt efter den standard er begge ugens påstande stadig ikke blevet uafhængigt kontrolleret. Google tæller sine egne ændringslister, vurderer sine egne tilbagerulninger og bedømmer sin egen test af forskningsopgaver.

Procenttallet, som han kaldte meningsløst, var groft, men alle kunne sammenligne det med Snaps. De tal, der træder i stedet, kan kun aflæses inde fra Google.

Tags: Google, Gemini, Sundar Pichai, AI-programmering, Sergey Brin