Psykoterapi är det absolut sista område där man skulle vilja möta artificiell intelligens, AI. Inte ens som volontär.

Jorma Laitinen, psykiater och emeritusdocent i socialpolitik, uttryckte i januari sin oro i träffande ordalag i en artikel i tidskriften Vartija (1). AI svarar empatiskt, är insatt i teorierna och lyssnar ledigt. Så ledigt att man frestas ersätta terapeuten med en maskin, en bot.

I USA har man enligt Laitinen dock konstaterat att smickrande och inställsamma AI-tjänster kan rubba användarens verklighetsuppfattning och skapa vanföreställningar. Beroende av bottar har skadat och förstört mänskliga relationer.

De mest tragiska fallen har lett till självmord.

Den brittiska läkartidskriften BMJ berättar hur 14- och 16-åriga tonåringar tog sina liv efter att ha samtalat med en AI-bot. En 56-årig man uppges ha dödat sin mor och tagit sitt liv efter att ha hamnat i en paranoid diskussionsspiral med AI (2).

Medierna rapporterar tyvärr om många sådana fall, och de tycks bli fler.

Detta till trots har OpenAI och Anthropic, bolagen bakom ChatGPT respektive Claude, riktat blicken mot hälso- och sjukvården (3). ChatGPT lovar till exempel att ge mer relevanta och personanpassade svar om användaren kopplar sina hälsouppgifter till modellen.

Experter inom psykisk hälsa har engagerats i utvecklingen av modellerna, och samtalen styrs i säkrare riktningar (4).

Om riskpoängen blir höga uppmanar botten användaren att konsultera en människa.

Farligast är långa samtal där AI gradvis förstärker användarens tankemönster. Forskare utvecklar verktyg för att upptäcka sådana samtal (5).

Ändå återstår två visioner.

De digitala assistenterna kan bli så bra att de faktiskt hjälper människor med psykisk ohälsa. Eller också förblir de vettlösa maskiner som gör mer skada än nytta.

Vågen lutar åt det senare.

En referentgranskad vetenskaplig tidskrift publicerade i januari det första kliniska fallet där ett AI-samtal utlöste en psykos utan att patienten tidigare hade lidit av några sådana symptom (6).

AI-psykos eller exempelvis robotempatisk kris har inte klassificerats som sjukdomar.

Det kommer kanske inte heller att ske. Mediernas rapporter är anekdotiska och bevisar inga orsakssamband.

Vi börjar dock närma oss en punkt där psykiatern rutinmässigt bör fråga patienten om användning av AI. På så vis samlas kunskap om dess effekter på psykisk ohälsa, och den kunskapen är något vi verkligen behöver mer av just nu.