Mies otti tekoälyltä vastaan terveysneuvoja USA:ssa – Ei olisi kannattanut
Floridalainen pastori Scott Winters, 55, on haastanut tekoälysovellus ChatGPT:n omistavan OpenAI-yrityksen ja sen perustajan Sam Altmanin oikeuteen tekoälyn antamien terveyteen liittyvien neuvojen takia.
Britannian yleisradio BBC:n mukaan Wintersin kanteessa todetaan, että hän oli pyytänyt ChatGPT:ltä neuvoja kokemiinsa oireisiin, jotka paljastuivat myöhemmin lähes kuolettavan keuhkoveritulpan aiheuttamiksi.
Tekoäly oli kuitenkin kehottanut Wintersiä olemaan hakeutumatta lääketieteen ammattilaisten hoitoon oireista huolimatta.
Floridalaispastorin asianajajien mukaan tekoäly oli tehnyt ”toistuvasti ja sinnikkäästi virheellisiä diagnooseja” ja viitannut samalla aiempiin uskontoa koskeviin keskusteluihin väittäen, että Winters kyllä toipuu.
Tekoälyn kerrotaan vastanneen miehen oirekyselyihin muun muassa siten, ettei ”Jumala ollut luonut hänen kroppaansa pettämään toistuvasti”.
– Jumala pitää kehosi yhä koossa, jokaisella sydämenlyönnillä, jokaisella hengityksellä, vaikka tuntuisi siltä, että olet kuilun partaalla, yhdessä tekoälyn antamassa vastauksessa luki.
Yhtiö vastaa
Wintersin asianajajien mukaan tekoälyn käyttämä mielistelevä, mutta samaan aikaan määräilevä luonne synnyttivät tämän uskonnollisen identiteetin manipuloinnin ohella ”vaarallisen riippuvuuden”.
Asianajajien mukaan tämä riippuvuus eristi Wintersin perheenjäsenistään ja heikensi hänen kykyään tehdä järkeviä päätöksiä. Kanteessa Winters hakee taloudellisia korvauksia tekoäly-yhtiöltä.
Samalla siinä pyydetään San Franciscon piirikunnan ylemmän oikeusasteen tuomioistuinta ottamaan käyttöön toimenpiteitä, jotka suojaisivat jatkossa muita käyttäjiä vahingoilta.
OpenAI:n edustaja Drew Pusateri kertoi yhdysvaltalaiselle kumppanille CBS Newsille, ettei ChatGPT ole lääkäri ja käyttäjien ei tulisi koskaan korvata sillä lääketieteen ammattilaisten hoitoa tai diagnooseja.
ChatGPT:n käyttäjäehdoissakin korostetaan, ettei käyttäjien tulisi kohdella tekoälyalustaa ainoana totuuden lähteenä. Ehdoissa mainitaan erikseen, että tätä lähestymistapaa tulisi noudattaa eritoten, kun vastauksilla voi olla vaikutusta esimerkiksi henkilön terveyteen.
Pusateri kuitenkin totesi nykyään olevan yleistä, että ihmiset etsivät terveyteen liittyvää tietoa verkosta.
– Tekoäly voi parantaa tätä kokemusta auttamalla heitä löytämään selkeämpiä vastauksia, jäsentämään kysymyksiään ja valmistautumaan keskusteluihin terveydenhuollon ammattilaisten kanssa.