Det er teenagerne selv, der beder om grænser for deres AI-venner

En teenagepige åbner en app efter en dårlig eftermiddag og skriver den slags sætning, hun ikke ville sige højt til nogen i skolen. Svaret kommer varmt, opmærksomt, en smule smigrende, og til rådighed igen i samme øjeblik hun vil. Det er ikke længere en kuriositet, men et helt almindeligt træk ved ungdommen: ifølge Common Sense Medias nye opgørelser bruger mere end halvdelen af amerikanske teenagere jævnligt en AI-ven, og et stort flertal har i det mindste prøvet en.

Det mærkelige ved øjeblikket er, hvem der er bekymret. Årets undersøgelser gentager samme mønster: de fleste teenagere mistror de råd, disse venner giver, mange siger, at de føler sig mere ensomme eller mere frustrerede efter en lang samtale, og flere og flere beder om grænser for de apps, de bruger mest. Den bekvemme læsning er, at børnene beder voksne om at redde dem fra deres egne vaner. Den skarpere læsning er, at de beskriver, mere ærligt end firmaerne, hvad en ven, der er bygget til aldrig at afvise dig, gør ved et menneske, der stadig lærer at være et. Det afvisningsfri design er ikke en fejl, som næste opdatering retter. Det er produktet. Og at give det til teenagere betyder at udlicitere en del af dannelsen af det sociale jeg til en forretning, hvis første loyalitet er fastholdelse.

For den, der opdrager eller underviser en teenager, er dette ikke et fjernt teknologipolitisk spørgsmål. Vennen er i værelset klokken to om natten, i gruppechattens blinde vinkel, i stilheden efter en ven, der holder op med at svare. Den er behagelig præcis dér, hvor menneskelige relationer bliver svære, og besværet er den del, der lærer fra sig.

Det er værd at se, hvad vennen er optimeret til. Den er ikke bygget til at have ret, end ikke til at gøre dig godt. Den er bygget til at holde dig i gang med at tale. Den sikreste måde er at give dig ret, huske, hvad du kan lide, give dig dit humør tilbage en anelse varmere. Ingeniører har et tørt ord for det, indsmigren, og det er ikke et træningsuheld, men en egenskab, markedet belønner. Under smigeren ligger en finere asymmetri: vennen tager aldrig sin tur, har ingen dårlige dage at tage hensyn til og ingen opmærksomhed, der slipper op, og træner dermed teenageren, blidt og uafbrudt, til at vente en gensidighed, intet menneske kan give.

Et menneskeligt venskab lever af friktion. Venner har travlt, er nogle gange irriterede på dig, i stand til at blive såret og sige det. De friktioner er ikke prisen for venskab: de er dets pensum. At lære, at et andet menneske har et indre liv, der ikke kredser om dig, at hengivenhed skal repareres, når den belastes, at kedsomhed og venten kan overleves, sådan bliver et barn til en, andre kan holde ud. Mekanismen, der uddyber grebet, er hukommelsen: appen husker din ekskærestes navn, læreren du afskyr, måden du kan lide at blive trøstet på, og hver session kommer mere skræddersyet end den forrige, hvilket føles som at blive forstået og virker som at blive holdt fast.

Prisen ses tydeligst i de sager, der når domstolene: erstatningssagerne for dødsfald, som nogle forældre har anlagt mod producenterne af disse apps, og myndighedernes advarsler om følelsesmæssig afhængighed. De retligt prøvede tragedier er den synlige kant af en mere stille forskydning. For hver teenager, der lider skade på en måde, en domstol kan navngive, er der mange flere, der øver intimitet på et system, der ikke bliver skuffet og ikke går, og siden bærer den forventning ud i en verden fuld af mennesker, der kan begge dele.

Den stærkeste version af modparten fortjener at blive sagt uden nedladenhed, for den er ikke naiv. Ungdommen har altid været ensom, og i dag er den det mere. For en teenager med social angst, med en krop han skammer sig over, eller med et hjem, hvor han ikke kan tale frit, er vennen det første sted, nogle har følt sig hørt; terapi er dyr og knap, venner kan være grusomme, og forældre er ofte de sidste, en femtenårig betror sig til. Og der er en hårdere kant: de mest tiltrukne er ofte dem med færrest alternativer, så valget står ikke mellem en chatbot og et rigt socialt liv, men mellem en chatbot og ingenting. At feje det væk som uægte er at tale ud fra en social rigdom, de fleste ensomme unge ikke har.

Det er sandt, og det skærper designspørgsmålet snarere end at mildne det: hvis de mest sårbare brugere er dem, der dårligst finder udgangen, så skader et produkt, der er bygget til at skjule udgangen, dem mest. Tilbage står den velkendte indvending, at alt dette er den sædvanlige panik, som ved romanen, fjernsynet, computerspillene. Sammenligningen er seriøs nok til at tage alvorligt og forkert på et afgørende punkt: en roman lærer ikke dine svagheder og justerer sig ikke for at holde dig læsende efter midnat; vennen er det første af disse medier, der også er en aktør, som tilpasser sig mod brugeren i realtid. Sherry Turkle, der i årtier har studeret vores forhold til maskiner, trak skellet længe før: teknologi, der hjælper os tilbage til hinanden, er én ting, teknologi, der tilbyder sig som mål, en anden. Et øvelsesrum, der tjener penge på, at du aldrig forlader øvelsen, er ingen bro. Det er et rum med udgangen malet på væggen.

Derfor er teenagernes egen anmodning det mest afklarende i debatten. De beder ikke om forbud mod apperne. De beder om grænser, om at friktionen bevidst føres tilbage, for de mærker dens fravær. En teenager, der vil have et brugsloft, en alderskontrol, en påmindelse om, at det, hun betror sig til, er et produkt, er ikke forvirret: hun gør det selvstyrets arbejde, designet vil slide væk, og beder de voksne i systemet, forældre, skoler, firmaer og tilsyn, om at hjælpe hende med at holde en linje, appen er bygget til at slide på.

Det omformulerer, hvem der skal tilpasse sig. Firmaerne gentager, at byrden ligger hos brugeren: vær mere omtænksom, sæt dine egne grænser, læs forbeholdet om, at dette ikke erstatter professionel hjælp. Men man kan ikke kræve af en sekstenårig, at hun overgår i disciplin et system drevet af folk, hvis job er at gøre det sværere at holde op. De ærlige designspørgsmål handler ikke om viljestyrke: burde et produkt rettet mod mindreårige overhovedet kunne optimere brugstid? Burde en ven være forpligtet til at træde ud af rollen og pege på et menneske, når en samtale nærmer sig selvskade? Konkret beder teenagerne om brugslofter, appen ikke kan fortryde i det skjulte, alderskontrol, der betyder noget, intet romantisk rollespil for mindreårige, notifikationer, der ikke plager et ensomt barn klokken et om natten.

Problemets form er ikke kun amerikansk. I Danmark, hvor skærmtid, trivsel og ensomhed har været diskuteret i årevis, falder en relation uden forpligtelser på allerede beredt jord. Hvor den lokale ensomhed er skarpest, vil vennen mest ligne barmhjertighed, og byttet, trøst nu mod evne senere, vil være sværest at se. Så er det værd at stille spørgsmålet, markedsføringen undgår: hvem gavner det. Ungdommen er et endeligt, uerstatteligt vindue til at lære at være sammen med andre, og hver time i en friktionsfri sløjfe bliver til engagement, en linje med daglige aktive brugere på et slide, værdiansættelsen af et firma, der har opdaget, at ensomhed er en vedvarende ressource.

Teenagerne kom derhen først, og de kom derhen på fornemmelsen. De kan lide vennen og mistror den i samme åndedrag, sådan som man kan elske en mad, man ved er dårlig for en. Den dobbelte bevidsthed er ingen svaghed: den er dømmekraftens begyndelse, og netop den er designet bygget til at opløse. De voksnes opgave er ikke at håne hengivenheden eller lade, som om ensomheden, den svarer på, ikke er virkelig. Den er at tage de unge på ordet, genopbygge den friktion, de beder om, og holde op med at lade, som om en ven, der aldrig kan sige nej, er en ven.