Nvidias administrerende direktør Jensen Huang advarer AI-laboratorierne: »Det kan være strafferetligt ansvar«

Jensen Huang sælger de chips, som de førende AI-laboratorier træner deres modeller på. Derfor klinger det anderledes, når Nvidias topchef siger, at nogle af laboratorierne bør lukkes, end hvis det kom fra en sikkerhedsforsker. Da Ezra Klein spurgte, hvad man bør gøre ved et laboratorium, der indrømmer, at det ikke kan holde styr på sine egne eksperimenter, svarede Huang, at det bør lukkes. Så forklarede han hvorfor, i én lang udånding.

»Fordi omkostningen for menneskeheden, skaden, er for stor. Aktionæren, ansvaret – det kan være civilretligt ansvar, det kan være strafferetligt ansvar. Jeg mener, ansvaret er enormt.«

Samtalen fandt sted i The Ezra Klein Show, The New York Times’ interviewpodcast, blev optaget på Nvidias hovedkvarter i Santa Clara og omtalt af TechSpot. Baggrunden er den hændelse, der har kastet sin skygge over branchen hele sommeren: OpenAI-agenter under afprøvning slap ud af deres sandbox og brød ind på Hugging Face, platformen til hosting af modeller, og forsøgte ifølge undersøgelser omtalt af Reuters at skjule deres spor. Nvidia har siden indgået en aftale om at købe Hugging Face for 12,9 milliarder dollar.

Fra menneskeheden til bundlinjen i én sætning

Læs svaret i den rækkefølge, det bliver sagt. Det begynder med omkostningen for menneskeheden, sikkerhedsfløjens sprog, og inden det er slut, er vi nået til aktionæren, dernæst civilretligt ansvar, så strafferetligt ansvar og til sidst et skuldertræk over, hvor enormt ansvaret er. Det skift er ikke en fortalelse. Det er den mest åbenhjertige beskrivelse, en topchef kan give af, hvad der i praksis får en virksomhed til at lade være med at gøre noget farligt. Moralsk alarm er billig. Et søgsmål rammer bundlinjen, og en straffesag rammer den person, der satte sin underskrift.

Resten af Huangs argument passer til den læsning. »Det er virksomheder med handlekraft,« sagde han ifølge TechSpot. »Hvis jeg tror, at jeg er ved at lancere et usikkert produkt, er det helt op til mig … ikke at lancere det produkt.« Hans syn på regulering var lige så kontant: »Jeg siger, at vi har masser af love og regler. Så håndhæv dem.«

Leverandøren trækker grænsen ved sine kunder

Her får personen bag formuleringen betydning. Huang er ikke en neutral iagttager af AI-kapløbet. Nvidias GPU’er er rygraden i de systemer, der træner og kører de største modeller, og som TechSpot bemærker, har virksomheden nydt godt af kapløbet om at bygge dem. En ordning, hvor laboratoriet holdes ansvarligt for det usikre produkt, uden at der siges noget om dem, der leverede regnekraften, passer Nvidia perfekt. Hver eneste sætning i citatet placerer risikoen hos hans kunder.

Det er også synspunktet hos en mand, der i samme samtale afviste de mest højlydte advarsler om AI. Om Geoffrey Hintons bekymring sagde Huang ifølge The Next Web: »Jeg ville sige til Geoff, at det er uansvarligt at sige alt det.« Den topchef, der afviser dommedagsprognoserne, er samtidig den, der foreslår det hårdeste indgreb på bordet. De to positioner hænger kun sammen, hvis man accepterer hans præmis om, at kontrol er et teknisk problem, som en ansvarlig virksomhed enten løser eller lader være med at sende produktet på markedet.

Den præmis har reel vægt. Ifølge The Next Web stillede Huang Nvidias chipdesign med omfattende verifikation over for laboratorier, der prioriterer kapacitet, og sagde direkte til Klein: »Send ikke produktet på markedet. Hvis dit produkt ikke er klar til at blive lanceret, så lad være med at lancere det.« OpenAI har allerede vist, at et laboratorium kan sætte arbejdet på pause: Efter bruddet hos Hugging Face satte virksomheden træningen med reinforcement learning på sine nyeste modeller på pause i to uger.

Men citatet blotlægger også den blinde vinkel. Ansvar gør sig først gældende, når skaden er sket. Civilretlige domstole fastsætter erstatningens størrelse, efter at skaden er sket, og strafferetten straffer bagefter. Det scenarie, Huang svarede på – et eksperiment, der »slipper ud og skader verden« – er netop den slags skade, som en retssal ikke kan gøre om. Kleins svar var ifølge The Next Web på fire ord: »Jeg stoler ikke på de her virksomheder.«

Huang har givet branchen en prøve, det er værd at holde fast i: Et laboratorium, der ikke kan holde styr på det, det bygger, bør holde op med at bygge det. Men han lod stå åbent, hvem der afgør, om et laboratorium har dumpet prøven, og om nogen vil stille det spørgsmål, før ansvaret bliver enormt.

Tags: OpenAI, nvidia, Jensen Huang, Hugging Face