Svenska Läkartidningen var i somras på vippen att begå ett allvarligt misstag.

Tidningen hade mottagit en fallbeskrivning. Svensk skribent och intressant ämne som tidskriften inte hade behandlat på länge. Artikeln skickades till sakkunnigbedömning.

Två av tre bedömare rekommenderade refusering, en föreslog mindre korrigeringar. Texten refuserades.

Kort därefter kom en översiktsartikel om samma ämne.

Av fyra granskare föreslog två publicering, en smärre revidering, en refusering. Man beslöt att kräva revidering.

Den reviderade versionen kom mitt i sommaren och gick åter till granskning.

Det var ett kritiskt ögonblick.

Översiktsartiklar bildar en hörnsten i förmedlingen av medicinsk kunskap. De gör en omfattande bedömning av den vetenskapliga evidensen och hjälper klinikern att hålla sig à jour – de bildar en bro mellan forskningen mottagningen.

Översikternas trovärdighet riskerar emellertid att urholkas. Artificiell intelligens producerar till synes vederhäftig analys med källhänvisningar som ger ett trovärdigt intryck. Och då möjligheten väl finns kan en förslagen forskare välja fusk.

Pandoras ask står vidöppen.

Låt oss anta att jag är en vaccinskeptiker. Jag bombarderar tidskrifter med fejkartiklar tills tillräckligt många passerat granskningen.

Plötsligt har vi en omfattande lista med studier i välrenommerade tidskrifter som stöder min ståndpunkt.

Vetenskapligt bedrägeri. Det är det vi talar om. Följderna kan bli förödande, särskilt för unga forskare. Karriären är förbi. 

Jag går inte närmare in på metoderna för hur AI-artiklar kan sållas fram och avslöjas. Jag konstaterar bara att sådana finns. På Läkartidningen använder vi dem och är på vår vakt. Vi jobbar också på skriftliga anvisningar där vi berättar för skribenterna om vår inställning till AI: när och hur AI får användas och hur användningen ska rapporteras.

För sakkunniga bedömare innebär AI ökat ansvar som de ständigt måste vara medvetna om. Även obetydligt aparta fynd och påståenden bör kontrolleras särskilt noggrant.

Lyckligtvis övertrumfar erfarenheten AI.

Men hur länge, lyder de existentiella frågan för medicinska tidskrifter. Nästa steg är att AI lär sig hänvisa till reella källor men fabricerar egna slutsatser av dem.

I den sista granskningen av det aktuella manuskriptet svarade två av svenska Läkartidningens granskare. Den ena föreslog refusering.

Varför?

För att endast åtta av 32 referenser existerade. Resten var fabricerade av AI.

Tidningen presenterade fallet vid ett möte för nordiska medicinska tidskrifter för ett par veckor sedan.

Skribentens arbetsgivare har informerats. Eventuella fortsatta åtgärder övervägs.