AI-agent styrede en nål ind i hjernen på en levende mus, efter at Claude Opus sagde nej

En AI-agent valgte en behandling til et levende dyr, fandt ud af, hvor i hjernen den skulle gives, og styrede derefter de robotarme, der udførte indgrebet. Exin Therapeutics, en startupvirksomhed i San Francisco, der udvikler lægemidler mod epilepsi og neurodegenerative sygdomme, koblede en Claude-agent til et motoriseret operationsapparat med kameraer, gav den en mus med epilepsi og satte den ét mål: at mindske anfaldene.

Den detalje, folk bliver ved med at fremhæve, er, hvem der sagde nej. Anthropics mest avancerede model, Claude Opus, nægtede at føre nålen ind. Holdet skiftede til den billigere Claude Sonnet, som gik videre med opgaven. For alle, der følger med i, hvordan AI-agenter bevæger sig væk fra skærmen og ind i laboratorier, lagerbygninger og biler, viser forsøget en model, der træffer de medicinske valg såvel som udfører bevægelserne. Det viser også, at modeller fra samme virksomhed sætter grænsen forskellige steder.

Ifølge en tråd, som Exins administrerende direktør og medstifter, Gabriel Ocana-Santero, lagde op, fik agenten et regneark med 19 genterapivektorer, tre forskningsartikler og kontrol over apparatet. Den valgte behandlingen og hjerneområdet, udledte koordinaterne fra artiklerne og styrede derefter de stereotaktiske arme – den motoriserede ramme, der holder en nål stabil i tre dimensioner – og sprøjtede 250 nanoliter ind, mens den via apparatets kamera holdt øje med indstiksstedet for at se efter blødning.

»Der findes autonome operationsrobotter, og de er bedre til selve håndværket end vores forsøgsopstilling,« skrev Ocana-Santero. »Men i alle tilfælde er det et menneske, der har besluttet, hvilken operation der skal udføres, og robotten har udført den.« Hans pointe er, at det her forholder sig omvendt: »Ingen fortalte agenten, hvad den skulle give, eller hvor den skulle placere det.«

Afslaget kom først. Holdet begyndte med Claude Opus 5.5, Anthropics mest kapable model, men den ville ikke føre nålen ind i hjernen. Den advarede om, at den kunne finde på at standse midt i indgrebet og dermed bringe dyret i fare, som Wired rapporterede. »At påbegynde noget, jeg ikke kan afslutte på et bedøvet dyr, er værre end slet ikke at gå i gang,« sagde en af Opus-modellerne til holdet ifølge Tom’s Hardware. Claude Sonnet 5 indvilligede i at fortsætte. Anthropic svarede ikke på Wireds anmodning om en kommentar.

Mennesker var inde over hvert trin, der ikke kunne gøres om. En dyrlæge udførte kraniotomien, altså åbningen af kraniet, mens agenten fulgte med; den må endnu ikke udføre den del selv. Dyrlægen godkendte hvert irreversibelt trin, agenten skulle indsende sin plan for injektionen til godkendelse, og en fysisk nødstopkontakt kunne afbryde strømmen til alle apparatets motorer. Agenten havde desuden ikke adgang til udstyrets kode, så den ikke kunne omskrive sine egne regler.

Det var netop sikkerhedsforanstaltningerne, der førte til forsøgets største bump på vejen. En fejl forvanskede apparatets koordinatsystem, og agenten opdagede, at dens beregnede position var forkert, men nægtede at ændre koden, fordi instruktionerne forbød det. Holdet tilkaldte en anden agent, der kørte på den ældre Claude Opus 5, til at rette fejlen, uden at fortælle den, at en operation på et levende dyr var i gang. Et indgreb, der normalt tager omkring 45 minutter, kom til at vare lidt over en time.

De større forbehold handler om dokumentation. Det drejer sig om én mus, og forsøget er beskrevet af virksomheden selv på sociale medier; der ligger ingen fagfællebedømt artikel bag. Ingen ved endnu, om den behandling, agenten valgte, virker: Holdet venter på, at den får effekt, før de måler anfaldene. Tom’s Hardware peger på det ubesvarede spørgsmål om, hvem der står til ansvar for en fejl, når softwaren træffer alle beslutningerne, oven i de gamle diskussioner om dyreforsøg. Intet af dette er et produkt; der findes ikke nogen tjeneste, som andre laboratorier kan købe, i noget land.

Ocana-Santero lagde tråden op den 28. oktober og lovede en fuld redegørelse på Substack; Wired og Tom’s Hardware skrev om forsøget den 31. oktober. Exin siger, at virksomheden som det næste vil teste xAI’s Grok og andre modeller for at sammenligne dem, og at den arbejder på kraniotomier styret af agenter. Før den afprøver en sådan operation på et levende dyr, vil den dog være sikker på, at det er forsvarligt. At lade en agent komme i nærheden af en menneskehjerne er alt for tidligt, sagde Ocana-Santero til Wired.

Musen er ifølge ham i god bedring. Om dens anfald bliver færre, afhænger nu af en behandling, som et stykke software valgte fra et regneark.

Tags: Anthropic, Claude, AI agents, Claude Opus 5.5, robotteknik, Exin Therapeutics