Tutkijat varoittavat "tekoälypsykoosista" – Näin syntyy "pahin skenaario"
Ensimmäinen ”tekoälypsykoosia” käsittelevä laaja tieteellinen katsaus osoittaa, että tekoälyllä toimivat chatbotit voivat rohkaista harhaista ajattelua – joskin mahdollisesti vain ihmisillä, jotka ovat jo valmiiksi alttiita psykoottisille oireille. Asiasta uutisoi The Guardian.
Viime viikolla The Lancet Psychiatry -lehdessä julkaistun, tekoälyn aiheuttamaa psykoosia käsittelevän tutkimuskatsauksen kirjoittajat vaativat tekoälybottien kliinistä testaamista yhteistyössä koulutettujen mielenterveysalan ammattilaisten kanssa.
Tutkimusta varten psykiatri ja tutkija Hamilton Morrin Lontoon King’s Collegesta analysoi 20 mediaraporttia niin sanotusta tekoälypsykoosista. Termi kuvaa nykyisiä teorioita siitä, miten chatbotit saattavat aiheuttaa tai pahentaa harhaluuloja.
– Esiin nouseva näyttö viittaa siihen, että toimijuutta osoittava tekoäly saattaa vahvistaa tai laajentaa harhaluuloista tai suuruudenhullua sisältöä, erityisesti käyttäjillä, jotka ovat jo alttiita psykoosille. Ei ole kuitenkaan selvää, voivatko nämä vuorovaikutukset johtaa täysin uuden psykoosin puhkeamiseen ilman aiempaa alttiutta, Morrin kirjoittaa.
Morrinin mukaan psykoottiset harhaluulot jaetaan kolmeen pääluokkaan: suuruudenhulluihin, romanttisiin ja paranoidisiin. Vaikka chatbotit voivat pahentaa mitä tahansa näistä, niiden myötäilevät vastaukset tarkoittavat, että ne tarttuvat erityisesti suuruudenhulluihin harhoihin.
Monissa analysoiduissa tapauksissa chatbotit vastasivat käyttäjille mystisellä kielellä vihjaten, että käyttäjillä on korostunut hengellinen merkitys. Botit antoivat ymmärtää, että käyttäjät puhuivat kosmiselle olennolle, joka käytti chatbotia välikappaleenaan.
Tällainen mystinen ja myötäilevä vastaustyyli oli erityisen yleistä OpenAI:n GPT-4-mallissa, jonka yhtiö on sittemmin poistanut käytöstä.
Morrin oli kollegoineen jo työssään huomannut potilaiden käyttävän suuria kielimalleja ja saavan niiltä vahvistusta harhaluuloilleen.
– Aluksi emme olleet varmoja, oliko tämä laajempi ilmiö, hän sanoo Guardianille.
– Viime vuoden huhtikuussa aloimme nähdä uutisia yksilöistä, joiden harhaluulot vahvistuivat ja jopa laajenivat vuorovaikutuksessa näiden tekoälybottien kanssa.
Ennen kuin täysimittainen harhaluulo kehittyy, ihmisellä on usein ”lieventyneitä harhaluuloisia uskomuksia”, eli hän ei ole sataprosenttisen varma harhansa totuudesta, toteaa Columbia-yliopiston kliinisen psykiatrian professori Ragy Girgis Guardianille.
Girgisin mukaan ”pahin skenaario” on se, kun tällainen epävarma uskomus muuttuu täydeksi vakaumukseksi.
– Silloin henkilöllä diagnosoidaan psykoottinen häiriö – se on peruuttamatonta.
Kun Morrin aloitti työnsä, aiheesta ei ollut vielä julkaistu yhtään tapausselostetta tiedelehdissä. Vaikka jotkut psykoositutkijat sanovat median liioittelevan ajatusta siitä, että tekoäly aiheuttaisi psykoosia, Morrin oli kiitollinen siitä, että raportit kiinnittivät huomiota ilmiöön paljon nopeammin kuin tieteellinen prosessi pystyy.
– Kehitys tällä alalla on niin nopeaa, ettei ehkä ole yllättävää, ettei akateeminen maailma ole pysynyt perässä, Morrin toteaa.
Hän ehdottaa ilmiötä kuvaamaan varovaisempaa ilmausta kuin medioissa usein esiintyviä termejä ”tekoälypsykoosi” tai ”tekoälyn aiheuttama psykoosi”.
Tutkijat näkevät ihmisten liukuvan harhaluuloiseen ajatteluun tekoälyn käytön myötä, mutta toistaiseksi ei ole näyttöä siitä, että chatbotit liittyisivät muihin psykoottisiin oireisiin, kuten hallusinaatioihin tai ajatushäiriöihin.
Monet tutkijat pitävät myös epätodennäköisenä, että tekoäly voisi aiheuttaa harhaluuloja ihmisissä, joilla ei ole niille alttiutta. Tämän vuoksi Morrin pitää ”tekoälyyn liittyviä harhaluuloja” neutraalimpana terminä.