Demis Hassabis om hvem der skal betale for AI-sikkerhed: »Finansieringen skal være betydelig og for det meste komme fra industrien«

Demis Hassabis har brugt året på at argumentere for, at de mest kraftfulde AI-systemer bør screenes, før de når offentligheden, af et uafhængigt organ modelleret efter det tilsyn, der patruljerer Wall Street-mæglerne. Det sværere spørgsmål er ikke, om en sådan dommer bør eksistere. Det er, hvem der betaler for det – og i en enkelt sætning besvarede chefen for Google DeepMind også det.

“Finansieringen skal være betydelig og sandsynligvis primært komme fra industrien, for at tiltrække verdensklasse tekniske talenter og tilvejebringe de nødvendige computerressourcer til storstilet testning,”

Hassabis skrev den linje i det rammeessay, der fremlægger hans forslag, citeret af Malay Mail. Læst hurtigt lyder det som ansvarlighed: sikkerhedsforanstaltninger koster penge, og de virksomheder, der bygger teknologien, bør betale regningen i stedet for at overlade til offentligheden at finansiere oprydningen. Læst som en mekanisme er det den bærende linje i hele planen – den, der afgør, hvis interesser dommeren ender med at beskytte.

Spændingen ligger i sætningen. Hassabis ønsker, at organet skal være uafhængigt. Han vil også have det finansieret, “for det meste,” af netop den industri, det skal dømme. De to mål trækker i modsatte retninger, og historien om den model, han valgte, viser, hvilken der har tendens til at vinde. Financial Industry Regulatory Authority, hans skabelon, betales af de mæglervirksomheder, den fører tilsyn med. Senator Elizabeth Warren har i årevis argumenteret for, at FINRA handler “mere i interesse for de mæglerfirmaer, der betaler dens regninger, end de enkelte investorer, den er ment til at beskytte.”

Indvendingen er ikke perifer. Nader Henein, vicepræsident og analytiker hos Gartner, kalder selvregulering simpelthen “ikke levedygtig,” fordi de fleste leverandører mangler kapacitet til det, og ordningen “nødvendigvis” avler interessekonflikter. Den uafhængige analytiker Carmi Levy gik videre og beskrev planen som “en selvisk køreplan for en industri, der er opsat på at køre” uanset skaden. Selv sympatiske stemmer ønsker en brandmur: Yoshua Bengio siger, at han forstår pragmatismen, men insisterer på “en klar og præcis køreplan for overgang fra en frivillig til en obligatorisk model.”

Intet af dette gør Hassabis til en aktør med dårlige hensigter. Han leder laboratoriet bag AlphaFold, systemet der forudsagde proteiners former og nulstillede, hvordan biologi bliver udført – en bedrift, der giver hans advarsler om frontlinjekapaciteter reel vægt. Det er netop derfor, sætningen er værd at dvæle ved. Den mest troværdige tekniske stemme i rummet er også den, der foreslår dommeren, udarbejder dens regler og arrangerer dens budget fra de samme virksomheder, der skulle sidde til eksamen. Frivillig underkastelse, et kort gennemgangsvindue før udgivelse, industripenge: hver indrømmelse er rimelig i sig selv, og tilsammen beskriver de et organ, som laboratorierne komfortabelt kunne leve med.

En sikkerhedsordning er kun så uafhængig som dens budget. Den sætning, der vil afgøre, om denne beskytter offentligheden eller laboratorierne, er ikke den om test af frontlinjemodeller. Det er den stille om, hvem der underskriver checkene.

Tags: AI safety, AI regulation, Google DeepMind, Demis Hassabis, FINRA, frontier AI