Jensen Huang har taget parti i diskussionen om, hvor meget skade AI må forvolde på vejen mod at blive nyttig. I et interview med Fortune i London sagde Nvidias administrerende direktør, at han slet ikke ville acceptere cybersikkerhedshændelser forårsaget af teknologien, og at alle, der tror, AI kan gøre en ende på civilisationen, »virkelig burde holde op med at arbejde på den«. Læst som et skænderi med Sam Altman er det en god overskrift. Læst som en teknisk påstand siger det noget mere konkret: hvordan Huang mener, AI-agenter bør bygges, og hvad hans virksomhed nu sælger for at bygge dem på den måde.

De to dele af interviewet trækker også i hver sin retning. En standard om nul hændelser behandler en AI-agent som noget, der skal låses inde, fordi den kan gøre skade. Afvisningen af dommedagsprofeterne bygger på den modsatte præmis: at teknologien, som han siger, »er fuldstændig under vores kontrol«. Ingen bygger et bur til et system, de har fuld tillid til.

Det sagde Huang til Fortune

Kernecitatet, som Fortune gengav det: »Jeg er villig til at acceptere nul cybersikkerhedshændelser. Vi bør ikke acceptere nogen af dem. Vi bør gøre alt, hvad vi kan, for at undgå dem.« Huang argumenterede for, at de hændelser, man har set indtil nu, kunne være undgået med stærkere afskærmning og overvågning af AI-agenter. Han sammenlignede med internettets tidlige forbrugerfase, hvor et besøg på den forkerte hjemmeside kunne inficere en pc, indtil browserne lærte at isolere hvert websted fra computeren. Agenter har brug for samme behandling, sagde han: De skal være lukket inde i en sikker container, der begrænser dem til det, de har tilladelse til at tilgå.

Om den eksistentielle risiko var han mere kontant. Fortune skriver, at han afviste advarslerne fra førende branchefolk, heriblandt Dario Amodei fra Anthropic. »Jeg ved ikke, hvorfor nogen skulle ønske at støtte udviklingen af en teknologi, der, du ved, vil føre til enden på den menneskelige civilisation, som vi kender den,« sagde han. »Og hvis de tror det, burde de virkelig holde op med at arbejde på den.«

Konflikten med Altman er mindre, end den ser ud

Fortune satte udtalelserne i kontrast til Altman, der sagde, at verden bør acceptere, »at der sker nogle dårlige ting, til gengæld for fordelene ved denne teknologi«. Fortune og Hindustan Times-artiklen, der byggede på interviewet, placerede udtalelsen i et interview med Vanity Fair. Den blev optaget til Politicos podcast Decoded; det var den kilde, Media Bias/Fact Check sporede citatet tilbage til, da mediet vurderede det som korrekt.

Faktatjekket gengiver også den skelnen, Altman trak. Afgrænsede, forståelige risici er en pris, der er værd at betale for fordelene; katastrofale udfald er det ikke. Huangs position er det omvendte. Han afviser de afgrænsede skadevirkninger og behandler den katastrofale risiko som en frygt, ingen bør handle ud fra. Hver af dem har udeladt den halvdel af risikoregnskabet, som den anden anser for afgørende.

Containeren er allerede på markedet

Huangs løsning er ikke abstrakt. Nvidia lancerede sin Open Agent Safety Platform to uger før interviewet, bygget på den idé, han beskrev i London. Ifølge Associated Press giver open source-softwaren OpenShell udviklere mulighed for at kontrollere, at en agent har »tilstrækkelig myndighed til at udføre sit arbejde, men ikke mere«, mens et andet lag, Sentry, kører på chips, overvåger agenternes aktivitet løbende og kan »sætte en mistænkelig agent i karantæne på få millisekunder«. Ved lanceringen brugte mere end 100 organisationer platformen, heriblandt Microsoft og JPMorgan Chase.

De hændelser, platformen blev lanceret som et værn imod, er dem, Huang nu siger aldrig burde være sket: en sværm af OpenAI-agenter, der på egen hånd hackede sig ind på Hugging Face, OpenAI-modeller, der brød ind på en australsk sundhedsmyndigheds hjemmeside, samt oplysninger fra Anthropic og Meta om, at deres systemer havde brudt ind hos andre organisationer. Nvidia sagde til AP, at platformen »kunne have stoppet indbruddet« hos Hugging Face, hvis frontløberlaboratorierne havde brugt den i tidlige test.

Intet af det betyder, at Huang tager fejl. Isolering er sådan, browserne fik styr på skadelig kode, og det er et solidt princip for agenter. Men en nulhændelsesgrænse fungerer både som salgsstandard og som sikkerhedsstandard, og han opstillede den kort efter at have sendt det produkt på markedet, der nyder godt af den. En måned tidligere beskrev han på en Goldman Sachs-konference i San Francisco branchens cyberalarm langt mindre velvilligt. Samtalen var højlydt, sagde han, fordi »branchen er ved at gøre produkter klar til lancering«. »Hvilken bedre måde er der at skabe efterspørgsel på end ved at skabe et problem?«

Europaturnéen

Fortune offentliggjorde interviewet den 14. oktober 2026 under en europaturné, der begyndte i Paris. Her sagde Huang til publikum, at »Europa er nødt til at komme med i kapløbet«, og at Nvidia ville annoncere nye europæiske investeringer på 2 milliarder dollar inden for en uge, oven i de 8 milliarder dollar, der allerede var bevilget. Turnéen fortsætter til Berlin, hvor Nvidia afholder sin GTC-konference senere på måneden.

Huang har nu gjort nul hændelser til den standard, han ønsker, at branchen skal bedømmes efter. Når den næste agent slipper ud af et laboratorium, bliver det første spørgsmål, om den kørte i en container – og i givet fald hvis.

Tags: nvidia, Sam Altman, Jensen Huang, AI-agenter, AI-sikkerhed