Eliezer Yudkowsky, fanfiction-forfatteren der gjorde frygten for AI til en bestseller

Eliezer Yudkowsky

Photo: Not credited by the source (published in the If Anyone Builds It, Everyone Dies media kit) / CC0, via Wikimedia Commons

Født	11. september 1979 Chicago, USA
Erhverv	Forfatter og AI-forsker

Da Sam Altman angiveligt gennemgik med OpenAI-medarbejderne, hvordan kapløbet om superintelligens kunne ende, havde et af de tre scenarier et fornavn. »Eliezer-planen« forestiller sig, at ét laboratorium først udvikler selvforbedrende AI og bruger sit forspring til at afskære alle rivaler fra computerkraft. Altman nævnte den kun for at kalde den forfærdelig. Formuleringen, der fulgte historien – at smelte alle andres GPU’er – minder om et eksempel, Eliezer Yudkowsky selv brugte i et essay om AI-risici. Her nævnte han »at brænde alle GPU’er« som illustration og tilføjede straks: »Det er ikke det, jeg tror, man rent faktisk ville have lyst til at gøre med en avanceret AGI.«

At en administrerende direktør opkalder en strategi efter ham, viser, hvor vidt hans idéer er nået ud – og næsten hele udbredelsen er sket på skrift. Yudkowsky er AI-forsker uden en akademisk grad og frem for alt en særdeles produktiv skribent: hundredvis af blogindlæg, en Harry Potter-roman i episk længde og en bestseller, hvis titel ikke efterlader nogen tvivl.

Han blev født i Chicago den 11. september 1979 og voksede op i en moderne ortodoks jødisk familie; i dag er han sekulær. Kroniske helbredsproblemer fik ham til at forlade middle school, og han gik hverken på high school eller college. I 2000 grundlagde han som 20-årig Singularity Institute for Artificial Intelligence med støtte fra Brian og Sabine Atkins og med det formål at fremskynde AI’s udvikling. Snart blev han bekymret over det, han selv havde sat sig for at bygge, og i 2005 arbejdede instituttet med at håndtere risikoen ved maskiner, der er klogere end deres skabere. I 2013 blev det til Machine Intelligence Research Institute med base i Berkeley.

Anbefalet læsningOpenAI-chef Sam Altman tegner tre slutspil for AI, og to af dem er fra 2023

Skriveriet tog for alvor fart i november 2006, da han og økonomen Robin Hanson blev hovedbidragydere til Overcoming Bias, en gruppeblog om menneskelig rationalitet. I februar 2009 blev hans indlæg grundlaget for LessWrong, en fællesskabsblog dedikeret til »at forfine kunsten at tænke rationelt«, som voksede til bevægelsen rationalisters vigtigste hjem på nettet. Hans essays dér, der ganske enkelt blev kendt som »The Sequences«, tog fat på kognitive bias, Bayes’ teorem og de måder, hvorpå intelligente mennesker narrer sig selv. I 2015 samlede MIRI mere end 300 af dem i Rationality: From AI to Zombies, og i 2017 fulgte Inadequate Equilibria, en kort bog om, hvorfor samfund lader problemer, der kan løses, forblive uløste. Stuart Russell og Peter Norvig gennemgår hans forslag i deres standardlærebog om AI, og Nick Bostrom henviser til ham i Superintelligence: Paths, Dangers, Strategies.

Så kom romanen. Harry Potter and the Methods of Rationality, blandt fans kendt som HPMOR, udkom som føljeton på FanFiction.Net fra 28. februar 2010 til 14. marts 2015 – i alt 122 kapitler og mere end 660.000 ord. Fortællingens præmis ændrer én detalje i det oprindelige univers. Petunia Evans gifter sig med Oxford-professoren Michael Verres, og den forældreløse Harry vokser op med hjemmeundervisning i naturvidenskab. Derfor afprøver drengen, der ankommer til Hogwarts, magi med den videnskabelige metode og stejler over troldmandsverdenens selvmodsigelser. På Ravenclaw bliver han venner med Draco Malfoy, Hermione Granger og professor Quirrell. Handlingen bliver mørkere, end humoren antyder, men det egentlige emne er, hvordan man tænker.

Læserne var stærkt delte. I 2011 beskrev The Atlantic ramaskriget på fanfiction-fora over den »blasfemiske – eller geniale – behandling af originalværket« og citerede science fiction-forfatteren David Brin for at kalde den »en fremragende serie, subtil, dramatisk og tankevækkende«. Juraprofessoren William Baude gik endnu videre i The Washington Post: »den bedste Harry Potter-bog, der nogensinde er skrevet, selv om den ikke er skrevet af J.K. Rowling«. Amanda Silberling fra TechCrunch fandt den »virkelig trættende«. Yudkowsky afviste et forslag om at fjerne Rowling-elementerne og sælge historien som en original roman – den vej, Fifty Shades of Grey gik fra fanfiction baseret på Twilight. »HPMOR er uløseligt forbundet med de oprindelige Harry Potter-romaner og kan kun forstås på baggrund af dem,« sagde han.

Det ironiske ved hans karriere er, at manden, der især forbindes med advarsler om AI, også fik folk til at gå i gang med at bygge den. I februar 2023 skrev Altman, at Yudkowsky havde fået »mange af os interesseret i AGI«, hjulpet DeepMind med at få finansiering og været »afgørende for beslutningen om at starte openai«. Det forår brugte Yudkowsky en kronik i Time magazine til at kræve et verdensomspændende moratorium på ubestemt tid for store AI-træningsforløb. Senere samme år kom han på Times liste over de 100 mest indflydelsesrige personer inden for AI i 2023.

Hans mest direkte bog udkom den 16. september 2025. If Anyone Builds It, Everyone Dies, skrevet sammen med MIRI-kollegaen Nate Soares og udgivet af Little, Brown, argumenterer for, at moderne AI-systemer bliver dyrket frem snarere end bygget. De trænes til milliarder af numeriske vægte, som deres egne udviklere ikke kan aflæse, og derfor kan ingen pålideligt fastlægge målene for et system, der ender med at være klogere end os. Menneskeheden, skriver forfatterne, vil tabe til en superintelligens, ligesom mennesker taber til skakprogrammet Stockfish, og den eneste sikre vej er et koordineret stop. Bogen kom på bestsellerlisterne hos The New York Times for både indbundet faglitteratur og faglitteratur samlet på tværs af formater.

Anmeldelserne var lige så delte, som romanens læsere havde været. I The Guardian fandt David Shariatmadari bogen »lige så klar i mælet, som dens konklusioner er svære at sluge«. Ian Leslie roste i The Observer dens »klarhed, energi og knap skjulte begejstring«. Stephen Marche sammenlignede den med en Scientology-håndbog i The New York Times, og Adam Becker var endnu mere direkte i The Atlantic: »De tager ganske enkelt fejl.«

Diskussionen er siden rykket over på det store lærred. Yudkowsky er en af stemmerne sammen med Yoshua Bengio og Timnit Gebru i The AI Doc: Or How I Became an Apocaloptimist, Daniel Rohers dokumentar om at blive far i AI-alderen, som kom på Netflix den 15. september 2026. Troldmandsdrengen, der gennemfører kontrollerede eksperimenter, og medforfatteren, der vil have eksperimentet stoppet, er én og samme skribent, som stadig beder læserne følge en ræsonnementskæde helt til ende, uanset hvor ubehageligt det sidste led er.

Tags: kunstig intelligens, forfattere, Eliezer Yudkowsky, Harry Potter and the Methods of Rationality, LessWrong, Machine Intelligence Research Institute

Mere som dette

Sam Altman: accelererer mod det, han selv kalder farligt

Bill Gates: »AI bliver enten den største ligemager nogensinde eller den værste kilde til uretfærdighed«

Michael Polansky byggede et af USA’s vigtigste kræftforskningsnetværk mens ingen kendte hans navn

Demis Hassabis giver slip på Google DeepMind og kræver en dommer for kunstig intelligens

Harry Potter-produceren David Barron satser på AI for at filmatisere ”Når vildmarken kalder” gennem Bucks øjne

Alex Karp kalder AI-branchen “marxistisk”: “…tilrane sig deres såkaldte partneres produktionsmidler”