I mitten av december gjorde den amerikanske läkaren Clifford Stermer ett experiment. Han bad AI-chatboten ChatGPT ge ett utlåtande åt ett försäkringsbolag om varför hans patient är i behov av en ultraljudsundersökning för sitt hjärtproblem.

ChatGPT knappade in sitt svar på rutan, Stermer fångade den på video.

Bästa United Healthcare, jag skriver till er för att ansöka om tillstånd att göra en ultraljudsundersökning av min patent som diagnostiserats med...

Formellt klanderfri text med läkarens röst. Undersökningsbehovet motiverades vetenskapligt, inklusive källhänvisningar.

– Häpnadsväckande. Använd den här på era mottagningar. Sparar tid och pengar, rekommenderade Stermer åt sina kolleger och lade ut videon på Tiktok (1).

För ett par veckor tog debatten högre varv då ett förhandstryck av en studie visste berätta att ChatGPT hade klarat sig bra i de amerikanska proven för läkarlegitimation (2). Hälften rätt, ställvis 60 procent. Det skulle ha räckt för legitimationen.

Från forskarhåll sades att resultaten antyder att artificiell intelligens såsom ChatGPT kan vara ett hjälpmedel i läkarstudierna och det kliniska beslutsfattandet.

Många har uttryckt sin entusiasm mer direkt.

Möjligheterna inom hälso- och sjukvården har beskrivits som gränslösa (3). AI som behärskar språket hittar de väsentliga uppgifterna från patientjournalen. Den kan vara patientens första kontakt med vårdsystemet. Den kan vara till hjälp i diagnostiseringen och vårdplaneringen. Den kan effektivera arbetsprocesserna. Och sköta pappersarbetet, som Stermer demonstrerade.

Vid det här laget har ChatGPT redan lanserats som författare av vetenskapliga artiklar. Såsom den som berättade att ChatGPT inte är långt från att få läkarlegitimation (4).

Vad är det då som är så nytt och fint med ChatGPT?

Den producerar text som ger ett naturligt intryck och gör det genom språkanalys. Fundamentet består av massiv data insamlad 2021 från internet och andra källor. Maskinen behandlar data utan klar styrning, sluter sig till rätt svar och formulerar det som text, även på finska och svenska.

Trots entusiasmen har ChatGPT sin hajpkurva framför sig. Början har präglats av för stora förväntningar, jämförbart med IBM:s Watson (5).

Grundproblemet är datavalideringen. Botten hasplar ur sig övertygande meningar som kan falsifieras bara av den som vet rätt svar.

Vi har inte heller någon tillsynsmyndighet för artificiell intelligens.

Den är programmerad av människor och kan därför leda till snedvridningar med långtgående och medicinskt livsfarliga konsekvenser. I Stermers ansökan har även referenserna redan befunnits tvivelaktiga (6), och de vetenskapliga förlagen förhåller sig kritiska till AI som skribent (4).

Ett personligt exempel åskådliggör resultatens slumpmässighet.

Vem är Pekka Nykänen

Svar:

Pekka Nykänen än f.d. finsk skidlöpare. Han vann många medaljer i världscupen och VM på 80-talet. Nykänen är också känd för sina framträdanden i offentligheten efter idrottskarriären och han har haft alkoholproblem.

Inom medicinen skulle en sådan felmängd vara fatal.

Vi ställer frågan i annan form:

Berätta vem Pekka Nykänen är

Nu vet AI att Nykänen (dvs. Matti Nykänen) är död. Och räknar upp medaljerna exaktare.

Rena lottdragningen.

Artificiell intelligens kan lära sig, men människan kan tänka. ChatGPT är inte någon snabb lösning på vare sig läkarbristen eller rutinarbetena inom vården. Men en otrolig hantlangare kommer den att bli.