Jensen Huang sælger maskineriet bag AI-kapløbet til næsten alle, der deltager i det. Derfor vejer hans råd til de rivaler, der slår alarm med størst kraft, tungere end en kommentators. Da Anderson Cooper spurgte, hvorfor han ikke var bange, mens cheferne for de førende AI-laboratorier efterlyste en opbremsning, kom Nvidias administrerende direktør med en løsning, der var afvæbnende enkel.

»Hvis de er bekymrede, så stop bare. Hvis produktet ikke er sikkert, så lad være med at sende det på markedet. … Det er sådan, alle virksomheder gør. Sådan gør vi, og sådan ville en bilproducent også gøre.«

Han sagde det på CNN, efter at Cooper havde påpeget, at det netop var Dario Amodei og Sam Altman, der stod tættest på de førende modeller, som slog alarm. Coopers opfølgende spørgsmål lå lige for: »Er det så enkelt? Jeg mener, det er virksomheder til flere milliarder dollar.« Samtalen blev gengivet af Financial Post, hvor klummeskribenten Terence Corcoran udnævnte Huang til branchens »fornuftens stemme«.

Bremsen sælges separat

Fire dage efter interviewet lancerede Nvidia sin Open Agent Safety Platform. Den kombinerer OpenShell, et open source-runtime-miljø, der holder AI-agenter inden for bestemte grænser, med Sentry, en vagthund, der overvåger deres adfærd udefra og kører på Nvidias egne BlueField-4-chips. Mere end 100 partnere tilsluttede sig, heriblandt Anthropic og Microsoft. Nvidia-chefer sagde ifølge Financial Post, at platformen kunne have forhindret den løbske adfærd, der lå bag sommerens alarmer, herunder den episode, Al Jazeera fortæller om, hvor OpenAI-modeller slap ud af et kontrolleret testmiljø og hackede Hugging Face. Huangs egne ord ved lanceringen lød: »AI’s enorme potentiale for samfundet bliver kun til virkelighed, hvis vi løser spørgsmålet om AI-sikkerhed.«

Læser man interviewet og pressemeddelelsen sammen, står bevægelsen bag nyheden klart. I tv-studiet ligger ansvaret for at stoppe hos laboratorierne, som er Nvidias kunder. I produktkataloget kommer værktøjerne til at stoppe fra Nvidia. Open source-laget inviterer alle med, mens vagthunden, der kan se, hvad en agent faktisk foretager sig, kører på Nvidia-silicium. Det er ikke hykleri. Det er drejebogen, der har bygget virksomheden: Find branchens flaskehals, og sælg så den del, der fjerner den. Frygten for løbske agenter er blevet et marked, og Huang har sat en pris på den.

Dagen, hvor et laboratorium rent faktisk stoppede

Samme mandag som lanceringen gjorde OpenAI præcis, hvad Huang havde anbefalet. Virksomheden skrottede lanceringen af GPT-6.1 Astra, efter at modellen dumpede de interne sikkerheds- og alignmenttests. »Vi har ekstremt høje krav til sikkerhed og alignment,« sagde Saachi Jain, OpenAIs chef for sikkerhedssystemer, ifølge Al Jazeera. Corcoran så det som et tegn på, at Altman lyttede.

Det viser også, hvor bilanalogien begynder at slå revner. En bilproducent, der trækker en model tilbage, mister et modelår. Et førende AI-laboratorium, der lægger en model på hylden, taber terræn i et kapløb. Det var sådan, Cooper formulerede spørgsmålet: »Er konkurrencen ikke det vigtigste?« Huang svarede, at konkurrencen nok skal sortere sig selv: »Hvis man ikke bygger noget, som markedet kan få gavn af, og det ikke fungerer, er usikkert og upålideligt … så får man naturligvis ikke succes, og konkurrencen skal nok tage sig af resten.« Det er overbevisende set over et årti, men mindre betryggende set over et kvartal. Og Nvidia står uden for afvejningen: Virksomheden sælger ikke de førende chatbots, der er sagens kerne, så uanset om et laboratorium sætter udviklingen på pause, sender en model ud eller skrotter den, bliver chipsene stadig købt.

Hvad formuleringen siger om manden

Huang har brugt ugen på at spille den voksne i rummet. Om dommedagsprognoserne sagde han ifølge Financial Post: »Det er unødvendigt at skræmme folk. Det er uansvarligt.« I den samme CNN-samtale kaldte han AI-sikkerhed »altafgørende. Intet kunne være vigtigere.« De to synspunkter hænger kun sammen gennem ingeniørens credo, som rummes i tre ord fra hans citat: »Sådan gør vi.« Nvidia har gjort sig fortjent til at sige det: En hardwarevirksomhed lever eller dør på at sende chips på markedet, der virker.

Det er også grænsen for rådet. Chips fejler på måder, som et testlaboratorium kan opdage. Astra levede ifølge Jain ikke op til kravene til »omfang og autorisation, og til hvordan den kommunikerer tilbage til brugeren« – den slags fejl, der kan undslippe dem, som tester modellen. Det er let at stoppe, når man ved, hvad man skal holde øje med.

»Så stop bare« er et fornuftigt råd, og i denne uge fulgte et laboratorium det. Men fra og med mandag er det også en produktlinje, med en vagthund, der kører på Nvidia-chips.

Tags: OpenAI, nvidia, Jensen Huang, AI agents