OpenAI og Anthropic vil bremse AI — og det bygger dem en voldgrav

Det slående ved den pludselige begejstring for at sætte farten ned på kunstig intelligens er ikke, at de, der bygger den, nu vil have bremser. Det er, at de bremser, de beskriver, kun er noget, de selv har råd til. Når lederne af de mest værdifulde AI-laboratorier næsten samstemmende siger, at feltet bevæger sig for hurtigt, er sikkerhedsargumentet reelt – og det samme er forretningsargumentet, der ligger stille under overfladen.

Udløseren var et opråb fra Anthropics Dario Amodei om at “pacere fronten”: sænke hastigheden, hvormed modelkapaciteterne forbedres, installere uafhængige evaluatorer i laboratorierne og få de førende aktører i demokratiske lande til at blive enige om fælles sikkerhedsstandarder. Han rammede den offentlige modreaktion mod AI som, med hans egne ord, en tillidskrise. Inden for et kort tidsrum sagde Sam Altman, at han var enig, og at OpenAI havde diskuteret netop dette; Elon Musk tilbød en to-ordet anerkendelse, “Dario har ret.” Dækningen behandlede det som en forsinket samvittighed, der ankom på én gang.

Læs den samme plan som analytiker i stedet for sikkerhedsansvarlig, og et andet billede dukker op. Indlejrede tredjepartsrevisorer, certificeret alignment-testning, offentliggjorte risikorammer og indberetning af hændelser er ikke kun sikkerhedsforanstaltninger; de er faste omkostninger. Og faste omkostninger er det mest pålidelige konkurrencevåben, en stor virksomhed ejer, fordi de falder på alle lige meget i kroner og øre og på ingen lige meget i smerte.

Overvej regnestykket. De største amerikanske cloud- og AI-infrastrukturudbydere har forpligtet sig til omkring 660 til 690 milliarder dollars i kapitaludgifter for det kommende år, med Amazon alene tæt på 200 milliarder og Alphabet, Meta og Microsoft hver i hundreder af milliarder eller tæt på det. Mod balanceark som disse er et compliance-regime – et team af indlejrede evaluatorer, en årlig sikkerhedsramme, en bøde, som Californien begrænser til en million dollars pr. overtrædelse – en afrundingsfejl. For en startup, der forsøger at nå fronten, er det hele landingsbanen.

Dette er ikke længere hypotetisk. Californiens SB 53 definerer allerede en “stor frontudvikler” ved to porte: modeller trænet over en meget høj compute-tærskel og mere end en halv milliard dollars i omsætning. Disse virksomheder skal offentliggøre sikkerhedsrammer og rapportere kritiske hændelser på stramme tidsfrister. I Europa kræver AI-lovens artikel 55, at udbydere af de mest kapable generelle modeller kører adversariel testning, afbøder systemiske risici og rapporterer alvorlige hændelser. Gulvet bliver støbt; spørgsmålet er, hvem der er høj nok til at stå på det uden at lægge mærke til det.

Det klareste tegn er, hvem der ikke beder om bremser. Planen nævner aldrig sine naturlige tabere, men de er nemme at identificere: laboratorierne, hvis hele model er at give vægtene væk – Meta, Frankrigs Mistral, Kinas DeepSeek og Alibaba. Som en dissiderende analyse udtrykte det, er disse “de fire navne, essayet aldrig trykker,” producenterne af de gratis modeller, som en betalende kunde ellers kunne downloade i stedet for at leje en API. Du kan ikke certificere alignment af en model, som enhver kan ændre på en eftermiddag, så et standardregime rettet mod fronten rammer hårdest på åbne vægte. Og den åbne lejr vinder netop de brugere, som de etablerede helst vil beholde: en kinesisk åben model, Qwen, tæller downloads i milliarderne, hvor Metas Llama tæller i hundreder af millioner.

Intet af dette er nyt. Det er det ældste trick i enhver reguleret industri – den etablerede spiller byder velkommen til regelbogen, den har råd til, fordi en omkostning, der er triviel på dens bøger, er en mur for en rival. Økonomer har et klart navn for det, reguleringsfangst, og det kræver ikke ond tro. Et sikkerhedsargument kan være helt oprigtigt og stadig fungere som en barriere for adgang. Her er begge ting sande på én gang.

For Europa er indsatsen skarpere, end det ser ud. Kontinentets ene troværdige frontudfordrer, Mistral, er netop et åbent-vægt-laboratorium, og dets spanske og bredere europæiske kunder – startups, der bygger produkter på billige, modificerbare modeller – er dem, der taber mest, hvis det globale compliance-gulv skrives omkring fire amerikanske etablerede. En regelbog designet i San Francisco og ratificeret i Bruxelles kan beskytte offentligheden og trække stigen op bag lederne på samme tid.

Så velkommen til sikkerhedsvendingen: risiciene er reelle, og evaluatorerne er forsinkede. Men hold øje med, hvad der kommer næste. Hvis de endelige regler lander præcis, hvor de fire giganter kan betale, og ingen mindre kan, så har opbremsningen ikke pacet fronten så meget som indhegnet den.

Tags: OpenAI, Anthropic, AI regulation, Mistral, open-weight models