Folk bruger AI til mental sundhed, fordi den svarer – ikke fordi den hjælper

Noget har stille og roligt ændret sig i, hvordan folk kommer igennem de værste nætter. Når sindet vender sig mod sig selv, og der ikke er nogen at ringe til, åbner en voksende andel af voksne i stedet en chatbot – ikke fordi de er overbevist om, at den forstår dem, og ofte ikke engang fordi den hjælper, men fordi den svarer. Det er den ubehagelige kerne i en omfattende ny undersøgelse af mental sundhed, og den er mærkeligere end overskriften antyder.

Den oplagte læsning er en historie om tillid: mennesker, der overdrager deres indre liv til maskiner. Men tillid er den forkerte linse. Det, tallene beskriver, er ikke rigtig en dom over, om teknologien er god. Det er en dom over tilgængelighed – det simple faktum, at chatbot’en er der, og den professionelle er det ikke.

Undersøgelsen, udført af forsikringsselskabet AXA sammen med meningsmålingsinstituttet Ipsos blandt 19.000 voksne i 18 lande, viste, at 63% allerede har vendt sig mod AI-værktøjer med spørgsmål om deres mentale sundhed. Det, der gør tallet værd at stoppe op ved, er den modsigelse, der sidder ved siden af det. Omkring 45% var utilfredse med de svar, de fik. Og alligevel sagde 38%, at de stoler mere på disse platforme end på en menneskelig mental sundhedsprofessionel. Folk er utilfredse med rådene og griber alligevel til dem.

Det giver kun mening, hvis kvalitet aldrig var den afgørende faktor. En chatbot er bygget til at producere et flydende svar, ikke et korrekt; den har ingen omsorgspligt og ingen forpligtelse til at eskalere, når den opdager, at nogen er i fare. Den svarer simpelthen, øjeblikkeligt, gratis, uden en henvisning eller en månedlang ventetid. “AI er tilgængelig 24/7, den er gratis, og den er der på din telefon, når du er alene kl. 23,” som AXA’s sundhedschef udtrykte det. Det er hele værditilbuddet. Det er også hele problemet.

Undersøgelsen antyder prisen for byttet. Blandt personer, der bruger en chatbot til mentale sundhedsforhold, sagde 42%, at de næsten altid følger de råd, den giver – og 28% sagde, at handling på en chatbots anbefaling havde ført dem mod skadelig adfærd. Et værktøj uden klinisk ansvarlighed bliver behandlet som en førstehjælper af de mennesker, der mindst er i stand til at absorbere et forkert svar.

Sæt det over for, hvordan formelle sundhedssystemer tager den samme teknologi i brug, og to parallelle verdener træder frem. Et separat øjebliksbillede fra WHO’s europæiske kontor, det første af sin slags på tværs af alle 27 EU-medlemsstater, viste, at næsten tre fjerdedele allerede bruger AI-assisteret diagnostik og omkring seks ud af ti anvender chatbots til at støtte patientengagement. Inde i klinikken ankommer AI pakket ind i tilsyn, styring og maskineriet af medicinsk ansvar. Udenfor, på forbrugersiden, kører de samme underliggende modeller uden noget af det – ingen oplysning om, hvad de kan og ikke kan, ingen overdragelse, når risiko opstår.

De mennesker, der falder ind i det andet system, er overvældende dem, der er udelukket fra det første. Som en læge, der skrev om undersøgelsen, udtrykte det, folder folk AI ind i deres følelsesliv “ikke som et supplement til et velfungerende sundhedssystem, men snarere som et tilgængeligt indgangspunkt til pleje, der har været uden for rækkevidde for de fleste.” Drivkraften er omkostninger og adgang, ikke en overbevisning om, at maskinen ved bedre. Utilfredshedstallet er beviset: brugerne kan se forskel. De bruger det alligevel, fordi alternativet er ingenting.

Intet af dette argumenterer for, at AI ikke har nogen plads i mental sundhed. Klinikere ser en reel en – triage, kontinuitet mellem aftaler, en bro for mennesker, der ellers ville få ingenting. Men den version, der spreder sig hurtigst, er den uregulerede, og den spreder sig netop der, hvor indsatsen er højest. Den løsning, der bliver ved med at dukke op, er uglamourøs: værktøjer, der klart angiver, hvad de ikke er, og overdrager en person til en kvalificeret menneskelig hjælper, så snart de fornemmer, at nogen er i fare.

Venteværelset blev ikke tomt, fordi folk blev raske. Det blev tomt, fordi døren for de fleste aldrig var åben. AI vandt ikke en argumentation om pleje. Den tog bare telefonen – og intet i den anden ende er forpligtet til at bemærke, når opkaldet går galt.

Tags: WHO, chatbots, AXA Ipsos-undersøgelse, digital sundhed, mental sundhed AI