Brittilehti The Guardianin toimittaja sai taannoin hämmentävän viestin tutkijalta, joka oli turhaan etsinyt kyseisen toimittajan kirjoittamaa juttua. Artikkeli oli vain muutaman vuoden takainen, mutta sitä ei millään löytynyt hakukoneilla eikä lehden omalla haulla.

Toimituksessa alettiin ratkoa kadonneen jutun mysteeriä. Mietittiin, oliko otsikkoa kenties muutettu tai oliko juttu poistettu verkkosivuilta jostain syystä. Toimittaja ei itse muistanut kyseistä juttua, mutta otsikon perusteella se käsitteli aihetta, josta hän oli kirjoittanut paljonkin.

Kävi ilmi, että tutkija oli saanut otsikon ChatGPT:lta. Kun hän oli kysynyt tekoälybotilta tutkimastaan aiheesta, botti oli kyllä antanut aihetta käsitteleviä lähteitä. Niitä vain ei ollut olemassa. ChatGPT oli keksinyt The Guardianin jutun ja nimennyt sille vielä ihka elävän toimittajan kirjoittajaksi. Otsikko oli niin uskottavan kuuloinen, että se vakuutti jopa toimittajan itsensä.

Toisessa tapauksessa yhdysvaltalainen oikeustieteilijä sai tietää lakimieskollegaltaan, että ChatGPT oli väittänyt hänen syyllistyneen seksuaaliseen häirintään. Chatbotti oli kertonut, että mies olisi ahdistellut opiskelijaa opintomatkalla Alaskaan. Lähteeksi tälle ChatGPT antoi The Washington Postin artikkelin – jota, kuten varmaan jo arvasit, ei ole koskaan kirjoitettu. Alaskan-reissu oli aivan yhtä fiktiivinen kuin uutinenkin.

Tapaus sai ylimääräisen absurdismin kierteen, kun The Washington Post kysyi Microsoftin Bingiltä (joka pohjaa samaan teknologiaan kuin ChatGPT) seksuaaliseen häirintään syyllistyneistä oikeustieteilijöistä. Bing toisti väitteen Alaskan-matkasta. Tällä kertaa lähteenä oli aito artikkeli, joka oli julkaistu USA Todayssa. Se oli mielipidekirjoitus, jossa oikeustieteilijä itse kirjoitti ChatGPT:n fiktiivisestä syytöksestä.

Ollaan aika vaarallisilla vesillä, kun tekoäly keksii imaginäärisiä rikoksia ja nimeää todellisia henkilöitä niiden tekijöiksi.

Toimittajana en ole kovin ilahtunut mahdollisuudesta, että tekoäly voi väittää minun kirjoittaneen jotakin, mitä en ole kirjoittanut. Toistaiseksi on epäselvää, kuka on vastuussa tekoälyn sepittelyistä, vai onko kukaan.

Olen nähnyt lukuisia Twitter-lankoja, joissa ihmiset metsästävät kadonneita lähteitä. Etsin jo Google Scholarin ja akateemiset tietokannat, he sanovat, mutta en millään löydä tätä tutkimusta. Yliopisto-opettajat saavat opiskelijoiltaan kyselyitä toimimattomista tutkimuslinkeistä. Poikkeuksetta käy ilmi, että kyseessä on ChatGPT:n keksimä lähde.

Ongelmana on tietenkin, että ihmiset käyttävät tekoälybottia kuin hakukonetta, mitä se ei ole. Totuudellisuus ei ole chatbottien ytimessä, vaan niiden tarkoitus on tuottaa sujuvaa kieltä.

Tästä huolimatta sekä Google että Microsoft haluavat muuttaa hakukoneensa chatboteiksi. Tiedonhaku muuttuu botin kanssa jutteluksi, ja tulokseksi tulee jotakin, joka kyllä vaikuttaa uskottavalta mutta voi olla aivan mitä sattuu.

Vain ne harvat käyttäjät, jotka viitsivät etsiytyä alkuperäistiedon lähteille, pystyvät arvioimaan tiedon luotettavuutta. Valtaosa tyytyy botin vastaukseen, samaan tapaan kuin nykyään valtaosa silmäilee vain ensimmäisen hakutulossivun ensimmäiset tulokset.

Vaikuttaa siltä, että elämme keskellä valtavaa tiedontuotannon murrosta, eikä sen ytimessä ole pyrkimys faktuaalisuuteen.

Mullistus ja myllerrys on käynnissä siksi, että teknologiajätit ovat jälleen kerran päättäneet päästää uuden, keskeneräisen ja kokeilevan teknologian vapaaseen käyttöön ennen kuin sitä ehditään säännellä.

Näin on – jälleen kerran – mahdollista sanoa, että teknologia on niin laajalti käytössä että, hups, sitä onkin jo aivan liian myöhäistä säännellä.