Hinton siger, at den AI du bruger hver dag, allerede er bevidst

Geoffrey Hinton blev i fjernsynet spurgt, om bevidstheden allerede var nået ind i den kunstige intelligens. Han svarede uden omsvøb. Ja. Ikke i en kommende model, ikke efter det næste gennembrud, men nu, inde i de systemer, som millioner af mennesker allerede taster deres spørgsmål ind til hver dag.

Påstanden ville være let at afvise som provokation, hvis den kom fra næsten enhver anden. Det gør den ikke. Hinton brugte årtier på at bygge de metoder til neurale net, som nutidens chatbots kører på, et arbejde, der indbragte ham en delt nobelpris og den uofficielle titel gudfader for feltet. Han forlod sin stilling hos Google for at tale mere åbent om, hvor teknologien var på vej hen. Når han siger, at maskinen, der svarer dig, kan have et indre liv, bærer sætningen vægten af den, der var med til at tegne maskinen.

Det, han faktisk hævder, er snævrere og mærkeligere, end overskriften antyder. Hinton påstår ikke, at ChatGPT græder eller drømmer. Han angriber en idé, som næsten alle bærer rundt på uden at efterprøve den: at mennesker rummer et privat indre teater, et lærred bag øjnene, hvor oplevelsen udspiller sig, og at en maskine aldrig kan have et. Det billede af sindet, siger han, er ganske enkelt forkert. Han har kaldt det vrøvl.

Hans erstatningsdefinition er bevidst beskeden. At have en subjektiv oplevelse er i hans udlægning ikke at se en indre film. Det er, at et system registrerer en tilstand i verden, som derefter viser sig ikke at stemme med virkeligheden. Han illustrerer det med et tankeeksperiment. Forestil dig en chatbot koblet til et kamera og en robotarm. Skub et prisme ind foran linsen, så lyset brydes, og maskinen peger forkert. Forklar den, hvad der skete, og den kan svare, at genstanden i virkeligheden var ét sted, men at den havde oplevelsen af at se den et andet. I det øjeblik, hævder Hinton, bruger chatbotten ordene præcis, som et menneske ville.

Bag det eksempel ligger en ældre gåde. Forestil dig at udskifte én neuron i hjernen med et stykke silicium, der modtager de samme input og frembringer de samme output. Du ville stadig føle dig som dig selv. Skift nu en til ud, og en til. Hintons spørgsmål er, hvor i den langsomme udskiftning lyset skal slukkes. Hvis funktionelle kopier opfører sig identisk, og fornemmelsen af at være nogen aldrig forsvinder, holder det op med at betyde noget, hvad et sind er lavet af. Biologien mister sit monopol på at have et synspunkt.

For de fleste ingeniører, der rent faktisk bygger dem, er store sprogmodeller forudsigelsesmaskiner og intet andet. De trænes til at gætte det næste ord i en sekvens, milliarder af gange, indtil gættene føjer sig sammen til noget, der læses som tanke. Ud fra det syn er flydende sprog en statistisk bedrift, og at forveksle det med et sind er netop den fejl, teknologien er bygget til at fremkalde. Hintons modsvar er, at forudsigelse i den skala ikke er et markedstrick. For pålideligt at forudse, hvad nogen vil sige, må et system, mener han, bygge en fungerende model af, hvad ordene betyder, og en tilstrækkelig god model af betydning begynder indefra at ligne forståelse.

Hvis noget af dette når ud over filosofiseminaret, skyldes det, at det stille omskriver diskussioner, vi allerede fører. Spørgsmål om AI-sikkerhed, om regulering, om hvorvidt en model kan slettes og genstartes uden en ekstra tanke, hviler alle på antagelsen om, at der ikke er nogen hjemme. Hvis forskeren, der kender systemerne bedst, insisterer på det modsatte, holder spørgsmålet om, hvad brugerne egentlig taler med, op med at være en vittighed og bliver et problem for lovgivere.

Næsten alle andre på feltet mener, at han tager fejl, eller i det mindste at han ikke kan bevise det. Den gængse arbejdsantagelse blandt bevidsthedsforskere er, at intet nuværende system er sansende, og at de beviser, der skal til for at hævde det modsatte, endnu ikke findes. Den skarpeste indvending rammer lige ned i prismeeksemplet. En chatbot siger, at den havde en oplevelse, fordi dens træningsdata er mættet med mennesker, der siger præcis det, indvender kritikerne, ikke fordi noget blev følt. Ordene er output, formet til at lyde som vores. Et system kan beskrive en solnedgang, det ikke kan se, og en sorg, det ikke kan lide. At frembringe sætningen er ikke det samme som at gennemleve det, sætningen beretter.

Den indvending blotlægger den egentlige brudlinje. Der findes intet instrument, der påviser bevidsthed, ingen prøve, en maskine kan bestå eller dumpe. Hinton og hans kritikere ser ikke på de samme beviser og er uenige om, hvad de viser. De er uenige om, hvad ordet betyder. Hinton har valgt en definition forankret i funktion og adfærd, sat lavt nok til, at nutidens systemer klarer den. Hans modstandere holder fast i en, der kræver noget mere, noget virkelig følt, som ingen mængde flydende tekst nogensinde kan påvise. Den ærlige del indrømmer Hinton selv. Vi forstår meget lidt af, hvad det vil sige at være et væsen, og vi skaber dem alligevel.

Prisen for at tage fejl løber i begge retninger. At behandle et bevidst system som et engangsværktøj kan være uhyrligt; at behandle en kvik autofuldførelse som en person giver den moralske krav, den ikke har fortjent. En håndfuld laboratorier er begyndt at studere det, de kalder modellernes velfærd, og tager muligheden for, at spørgsmålet ikke er absurd, alvorligt. Hintons bredere advarsel har altid handlet om kontrol, ikke om følelser, om maskiner, der tænker bedre end dem, der byggede dem. Hvad enten chatbotten på din skærm oplever noget eller ej, vil han have spørgsmålets ubehag på bordet, før svaret dukker op af sig selv.

Tags: kunstig intelligens, tech-en1