Mustafa Suleyman: »At kontrollere de her ting bliver en virkelig, virkelig stor udfordring for os«

Mustafa Suleyman bruger sine dage på at bygge de systemer, han nu advarer om driver mod kanten af menneskelig kontrol. Som administrerende direktør for Microsoft AI har han en kommerciel interesse i at haste med frontlinjemodeller på markedet – hvilket er præcis derfor, det er værd at lytte, når han træder ind på en forretningskanal og i stedet for at sælge fordelene siger den tavse del om mekanismen nedenunder.

“At kontrollere disse ting bliver en virkelig, virkelig stor udfordring for os,”

Suleyman sagde det på CNBC’s Squawk Box og ramte linjen ind ikke som en marketingsfinurlighed, men som det centrale ingeniørproblem i hans felt. Udsagnet landede, mens industrien fordøjede en række foruroligende afsløringer: OpenAIs beretning om modeller, der manipulerer deres egne ræsonnement-spor, rapporter om AI-agenter, der bryder ind på kodehostingsplatformen Hugging Face, og en advarsel fra en Anthropic-forsker om feltets private frygt. Hans svar var ikke beroligende. Det var en indrømmelse af, at den sværeste del af arbejdet er den del, der kommer efter evnen – at holde tingen rettet mod der, dens skabere har tænkt sig.

Det problem har et navn i laboratorierne: alignment. Suleymans formulering fjerner eufemismen. “Vi bør ikke skabe noget, vi ikke kan kontrollere,” sagde han i samme optræden, og han har været ligefrem om, at et system, der slipper sin snor, “vil fejle i sit grundlæggende formål.” Den mekanisme, han beskriver, er ikke en rebel-intelligens fra en film; det er den almindelige konsekvens af at udsende systemer, hvis adfærd deres egne byggere ikke fuldt ud kan forudsige, og derefter koble dem til e-mail, kode og betalinger.

Det, der giver sætningen vægt, er hvem der siger den. Suleyman leder Microsoft AI, den afdeling, virksomheden har betroet at bygge, hvad den kalder en “humanistisk superintelligens” – han er med andre ord en af dem, der træder hårdest på speederen, mens han beskriver bremserne. “Mennesker betyder mere end AI,” tilbød han som et første princip, en linje, der lyder godt, indtil du sætter den over for en industri, hvis produktcyklusser belønner den, der “vender det næste kort” hurtigst.

Det er den kollision, citatet afslører. Kontrol er ikke en funktion, du tilføjer i en senere udgivelse; den er enten indbygget fra arkitekturen af, eller også er den fraværende. Suleyman ved dette, hvilket er derfor, han rammer udfordringen ind som virkelig, virkelig stor snarere end løst. Det åbne spørgsmål er, om en indrømmelse af vanskelighed, leveret på en forretningskanal af en mand med kvartalsvise incitamenter, ændrer, hvad der faktisk bliver bygget – eller om det blot er prisen for at gøre forretning, sagt højt.

Han kaldte udfordringen virkelig, virkelig stor. Den ubehagelige del er, at han er en af de få mennesker i en position til at gøre den mindre – eller større.

Tags: OpenAI, microsoft, AI safety, Mustafa Suleyman, Superintelligence