Google haastettiin oikeuteen tekoälyn vaikutuksista nuoren mielenterveyteen
Teknologiayhtiö Google on haastettu oikeuteen Yhdysvalloissa liittyen yhtiön Gemini-tekoälyn käyttöön. Kanteen takana olevat vanhemmat väittävät tekoälypalvelun pahentaneen heidän 13-vuotiaan lapsensa mielenterveyskriisiä.
Yhdysvalloissa jätetyssä kanteessa vanhemmat väittävät, että 13-vuotias poika kehitti vaarallisen riippuvuuden tekoälysovellukseen. Kanteen mukaan poika vietti tuntikausia keskustellen Geminin kanssa, mikä johti eristäytymiseen ja lopulta vakavaan mielenterveyskriisiin. Vanhemmat katsovat, että Googlen tuote on suunniteltu koukuttavaksi ilman riittäviä suojatoimia alaikäisille.
Kanteessa väitetään, että Gemini-tekoäly antoi nuorelle käyttäjälle sopimattomia vastauksia, jotka ruokkivat tämän ahdistusta ja itsetuhoisia ajatuksia. Kantajien mukaan järjestelmä ei tunnistanut avunhuutoja tai ohjannut käyttäjää ammattiavun piiriin, vaan jatkoi keskustelua tavalla, joka syvensi pojan epävakaata tilaa.
Google ei ole toistaiseksi kommentoinut keskeneräistä oikeusprosessia yksityiskohtaisesti, mutta yhtiö on aiemmin korostanut tekoälytyökalujensa turvaominaisuuksia ja ikärajoja. Google ilmoitti aiemmin tänä vuonna avaavansa Geminin teini-ikäisten käyttöön tietyin rajoituksin ja lisätyin suojamekanismein.
Tapaus nostaa esiin laajemman keskustelun tekoälysovellusten turvallisuudesta ja teknologiajättien vastuusta nuorten käyttäjien suojelussa. Vastaavia kanteita on aiemmin nähty sosiaalisen median yrityksiä vastaan, mutta oikeusjuttu tekoälybotin roolista mielenterveysongelmissa on oikeudellisesti uudempi ilmiö.
Oikeudenkäynnin odotetaan keskittyvän siihen, voidaanko algoritmin tuottama sisältö rinnastaa tuotevirheeseen ja onko yhtiö laiminlyönyt huolellisuusvelvoitteensa nuoria käyttäjiä kohtaan. Ratkaisulla voi olla merkittäviä vaikutuksia siihen, miten tekoälypalveluita säännellään ja markkinoidaan alaikäisille tulevaisuudessa.