Kong Charles advarer AI-skaberne om teknologiens ‘eksistentielle fare’

“De, der har skabt disse teknologier, advarer nu i stigende grad om, at AI risikerer at udvikle mørkere evner — måske endda at tage liv.” Den sætning, Kong Charles valgte, var ikke en advarsel om hackere eller fjendtlige stater. Det var et spejl, holdt op for dem, der bygger systemerne, og advarslen indeni var en, han tilskrev dem.

Det er den halvdel af talen, som det meste af dækningen gled forbi. Den linje, der cirkulerede, var den mildere fra de samme bemærkninger — “de eksistentielle farer ved, at sådanne teknologier falder i de forkerte hænder.” Forkerte hænder er en bekvem ramme, hvis du er den, der sender værktøjet af sted. Det placerer faren derude, hos en skurk, der misbruger et neutralt instrument, snarere end i selve instrumentet eller de firmaer, der kappes om at gøre det mere kapabelt. Charles valgte ikke at lade det blive ved det.

I stedet pegede han risikoen tilbage til dens kilde. Skaberne er dem, der nu slår alarm, sagde han — og stillede så et spørgsmål til lokalet med en skarp kant: “Vi har da brug for tilstrækkelige kontrolmidler, før det er for sent?”

Vægten af den sætning hviler på ét ord. Kontrol er den eneste ting, som et møde som dette ikke faktisk kan overdrage. Det har ingen lovgivningsmæssig magt, sætter ingen grænse, en virksomhed skal overholde, og medfører ingen straf for at ignorere det. Det, der kom ud, var en aftale om at forfølge “fælles principper” — en sætning, der beskriver en aspiration, ikke en mekanisme. Ledelserne var ifølge alle beretninger taknemmelige for samtalen. Taknemmelighed er ikke en sikkerhedsforanstaltning.

Her er en institutionel inversion, som let overses under ceremonien. En monark har ingen indflydelse på Nvidia, OpenAI, Anthropic eller Google DeepMind. Han kan ikke licensere en model, revidere en træningskørsel eller bremse en udrulning. De mennesker, der kan gøre disse ting — lovgivere, konkurrencemyndigheder, ministeren der faktisk sad i lokalet — var ikke dem, der indkaldte. En figur med symbolsk autoritet og ingen håndhævelsesmagt bad menneskerne med al den håndhævelsesfrie magt i verden om at politiere sig selv. Det er groft sagt den ordning, industrien hele tiden har foretrukket.

Læst på den måde gjorde topmødet bygherrerne en stille tjeneste. Det lod historien blive “forkerte hænder,” den ramme, hvor teknologien er fin og kun misbruget er problemet. Det omdannede en advarsel om iboende evne — maskinen, der udvikler “mørkere evner” i sin egen bane — til en velkendt debat om dårlige aktører. Og det indhyllede det hele i legitimitet fra en krone, der uanset oprigtighed ikke kan tvinge en eneste af de sikkerhedsforanstaltninger, den opfordrede til.

Mødet fandt sted på Dumfries House, Kongens restaurerede georgianske gods i Ayrshire, Skotland. I lokalet var Nvidias administrerende direktør Jensen Huang, Google DeepMinds grundlægger Demis Hassabis, OpenAIs finansdirektør Sarah Friar, Anthropics chef for globale anliggender Tino Cuéllar, Storbritanniens kunstig intelligens-minister Kanishka Narayan, og fader Paolo Benanti, Vatikanets rådgiver om teknologi-etik. Charles var omhyggelig med også at anerkende AI’s løfte — især inden for medicin — og at påpege dets miljøomkostninger. Han bad gæsterne om at holde teknologien “fast i menneskehedens, fællesskabets og naturens tjeneste.” Ingen bindende forpligtelse forlod lokalet med dem.

Så de mest magtfulde mennesker i feltet hørte et statsoverhoved beskrive deres produkt som i stand til, af sig selv, at tage liv — og gik ud med deres foretrukne ramme intakt og et kongeligt publikum at vise frem. De kontrolmidler, Kongen bad om, forbliver præcis der, de var, før han talte: i de hænder, han henvendte sig til, og ingen andres.

Tags: OpenAI, AI safety, AI risks, King Charles