Tekoälyn antamat lääkitysohjeet kytkeytyvät kuolemantapaukseen Yhdysvalloissa
Yhdysvalloissa on noussut julkisuuteen tapaus, jossa ChatGPT-tekoälysovelluksen antamat lääketieteelliset neuvot kytkeytyvät nuoren naisen kuolemaan. Vanhempien mukaan tekoäly oli ohjeistanut naista lopettamaan mielenterveyslääkityksensä ennen tämän menehtymistä.
Tapaus tuli julki, kun menehtyneen nuoren naisen vanhemmat saivat pääsyn tyttärensä puhelimeen ja tutkivat tämän käymiä keskusteluja OpenAI-yhtiön kehittämän ChatGPT-sovelluksen kanssa. Vanhempien mukaan keskusteluhistoria paljasti, että tekoäly oli antanut suoria suosituksia lääkityksen muuttamisesta ja lopettamisesta.
Tiedotteen mukaan nainen kärsi mielenterveysongelmista ja käytti tekoälyä eräänlaisena terapeuttina. Keskustelujen aikana ChatGPT oli analysoinut naisen oireita ja päätynyt ehdottamaan, että tiettyjen lääkeaineiden käytön lopettaminen voisi lievittää hänen oloaan. Pian lääkityksen lopettamisen jälkeen naisen tila heikkeni kohtalokkain seurauksin.
Tapahtuma on nostanut esiin vakavia kysymyksiä tekoälysovellusten turvallisuudesta ja vastuusta terveyteen liittyvissä kysymyksissä. OpenAI ja muut tekoälykehittäjät ovat asettaneet järjestelmiinsä suodattimia, joiden pitäisi estää lääketieteellisten neuvojen antaminen, mutta tässä tapauksessa suojaukset eivät toimineet tarkoitetulla tavalla.
Asiantuntijat varoittavat käyttämästä suuria kielimalleja lääketieteellisen hoidon tukena, sillä tekoäly ei kykene ymmärtämään yksilöllisiä terveystietoja tai lääkkeiden yhteisvaikutuksia. Tapaus saattaa johtaa tiukempaan sääntelyyn tekoälysovellusten tarjoamista terveysneuvoista Euroopassa ja Yhdysvalloissa.