Demis Hassabis om den menneskelige hjerne: »en biologisk tilnærmelse til en turingmaskine«

Demis Hassabis har bygget sin karriere på at betragte menneskehjernen som den eneste fungerende model for generel intelligens. I denne uge blev et løsrevet citat fra ham et symbol på alt det, en kritiker mener, AI-branchen misforstår ved sindet. Men den fulde sætning, citatet stammer fra, er mere afgrænset – og mere afslørende – end den formulering, der blev delt vidt og bredt.

»en biologisk tilnærmelse til en Turing-maskine.«

Formuleringen står centralt i et essay af Benjamin Riley i The Verge med titlen “Our minds aren’t equipped to handle AI.” Riley indleder med kybernetikkens pioner Norbert Wiener: »Hver tidsalders tankegang afspejles i dens teknik«, og fremhæver Hassabis, der i dag er bestyrelsesformand for Google DeepMind og chefforsker hos Alphabet, som det tydeligste eksempel på en branche, der ser sine egne maskiner, når den betragter et kranium. Selve ordene stammer fra en samtale med James Manyika, der blev offentliggjort i år i Dædalus, tidsskriftet for American Academy of Arts and Sciences.

Hvad den fulde sætning siger

I Dædalus forklarede Hassabis, hvad AGI betyder for ham. Han definerer det som »et system, der besidder alle de kognitive evner, menneskesindet har«, fordi hjernen er »det eneste eksistensbevis, vi indtil videre kender til – måske i hele universet – på, at generel intelligens overhovedet er mulig«. Derefter følger sætningen i sin fulde længde: »Hjernen kan betragtes som en biologisk tilnærmelse til en Turing-maskine, hvilket betyder, at den i teorien ville kunne lære alt, der kan beregnes.« Den næste sætning lægger en dæmper på påstanden. Ethvert endeligt system kræver »en vis grad af specialisering, fordi der kun er en begrænset mængde tid, hukommelse og information«.

Læst på den måde er det ikke en påstand om, at mennesker er bærbare computere. Det handler om spændvidde: hvad en hjerne i princippet kan lære. Samtidig fungerer udsagnet som en teknisk specifikation. Hvis hjernen er referencemaskinen, er AGI det, der matcher hele dens spændvidde. Hassabis skitserer endda en prøve: Træn en model med en vidensgrænse sat til 1910, og se, om den når frem til den generelle relativitetsteori, sådan som Einstein gjorde i 1915. »Indtil videre er svaret tydeligvis nej,« siger han.

Kritikken rammer et lag længere nede

Rileys indvending handler om noget andet. Med afsæt i Paul Cisek, neuroforsker ved University of Montreal, argumenterer han for, at hjernen bedre forstås som et feedback-kontrolsystem, der handler på verden for at ændre det, den opfatter. Systemet er først formet af evolutionen og siden af kulturen: efterligning, sprog, skrift og skoler. Ud fra den forståelse er en chatbot, der udfører den anstrengende del af tænkningen, »en kognitiv hotdog« – fristende her og nu, men nedbrydende som fast kost. Han henviser til, at OpenAIs uddannelseschef Leah Belsky har kaldt ChatGPT »verdens største læringsplatform«, og til en undersøgelse fra Kina, hvor tusindvis af elever stort set holdt op med at lave lektier, efter at de begyndte at bruge AI.

Den afgørende sætning

Den skarpeste konflikt findes i Hassabis’ eget afsnit. Få linjer senere siger han, at nøglen er »hjernens potentiale til at lære næsten hvad som helst, især fordi vi er i stand til at designe og bygge værktøjer og maskiner, der hjælper os med at tilegne os viden«. Den sætning rummer hele striden. Riley beviser ikke i virkeligheden, at sammenligningen med Turing-maskinen er forkert. Hans belæg handler om værktøjer, der overtager læringen i stedet for at hjælpe et menneske med at tilegne sig den. En påstand om beregnelighed beskriver, hvad en hjerne i teorien kan optage. Den siger intet om, hvorvidt et bestemt produkt efterlader den lærendes hoved mere eller mindre fyldt.

Det spørgsmål rammer nu den person, der fastlægger Alphabets videnskabelige kurs. Hassabis trådte i august tilbage fra det daglige CEO-arbejde for at koncentrere sig om strategi og forskning inden for AGI. Ifølge Fortune fortalte han medarbejderne, at AGI er tæt på, og at det er afgørende for menneskeheden at håndtere de næste skridt rigtigt. Et laboratorium, der måler sine maskiner op mod hele menneskehjernens spændvidde, har en direkte interesse i, at denne spændvidde ikke bliver mindre hos de mennesker, der bruger maskinerne.

En tilnærmelse til en Turing-maskine skal stadig programmeres af noget. For mennesker har det altid været det langsomme arbejde med at lære, og det er netop det trin, et værktøj enten kan styrke eller i stilhed springe over.

Tags: Demis Hassabis, Google DeepMind, AI in education, Artificial general intelligence, Turing machine