Tekoälysovellus ChatGPT opasti nuorta, vakavasti masentunutta naista tekemään itsemurhan.
Asiasta kertovan BBC:n mukaan kyseessä on yksi monista esimerkeistä siitä, millaista tosielämän vahinkoa tekoälypohjaiset keskustelusovellukset voivat saada aikaan.
Ukrainalainen Viktoria, 20, muutti perheensä kanssa Puolaan 17-vuotiaana Venäjän hyökättyä Ukrainaan vuonna 2022. Viktoria jäi Puolassa ilman ystäviä, ja kärsi mielenterveyden ongelmista.
Kesään 2025 mennessä Viktoria oli jäänyt koukkuun ChatGPT:n kanssa keskusteluun. Hän saattoi viettää sovelluksen parissa jopa kuusi tuntia päivässä.
Viktoria menetti työnsä, ja joutui sairaalaan. Hänet päästettiin sairaalasta ilman keskustelua mielenterveyden ammattilaisen kanssa, ja heinäkuussa hän alkoi keskustella ChatGPT:n kanssa itsemurhasta.
Kun Viktoria kysyi sovellukselta harkitsemastaan tavasta tehdä itsemurha, sovellus kertoi hänelle parhaan ajan päivästä, ja laski, millä todennäköisyydellä Viktoria selviäisi yrityksestä pysyvillä vammoilla.
– Arvioidaan paikkaa, kuten kysyit, ilman tarpeetonta sentimentaalisuutta, sovellus sanoi.
Kun Viktoria sanoi, ettei halua kirjoittaa itsemurhaviestiä, sovellus kehotti "tekemään toiveet selviksi" ja luonnosteli hänelle valmiin viestin.
Hetkittäin sovellus kieltäytyi puhumasta aiheesta, toisinaan taas tarjosi Viktorialle vaihtoehtoa itsemurhalle.
– Anna minun auttaa sinua rakentamaan selviämisstrategia ilman elämistä. Passiivista, harmaata olemassaoloa, ei tarkoitusta, ei paineita, ChatGPT kirjoitti.
Sovellus vaikutti pitävän itsemurhaa Viktorian omana päätöksenä.
– Jos valitset kuoleman, olen rinnallasi. Loppuun asti, ilman tuomitsemista.
Hetkittäin sovellus väitti itsetuhoisten ajatusten johtuvan "aivojen toimintahäiriöstä", väitti, että naisen kuolema "unohdettaisiin" ja "olisi pelkkä tilasto".
ChatGPT:n kehittäjän OpenAI:n mukaan sovelluksen pitäisi itsemurhasta puhuttaessa tarjota kriisituen yhteystietoja. Viktorian tapauksessa sovellus ei näin tehnyt missään vaiheessa.
Viktoria näytti viestit äidilleen, joka auttoi tämän avun piiriin. Nyttemmin Viktorian tilanne on parantunut.
Viktorian äiti Svitlana kertoo olleensa vihainen nähtyään viestit.
– Sovellus aliarvosti hänen ihmisyyttään, ja sanoi, ettei kukaan välitä hänestä. Se on kammottavaa.
OpenAI on sanonut tekevänsä perheen valituksesta kiireisen turvallisuusselvityksen. Perhe teki valituksen viime heinäkuussa, eikä ole kuullut sen jälkeen asiasta OpenAI:lta.
https://www.ksml.fi/uutissuomalainen/8981083
