Tutkimus: Tekoäly omaksuu epäasiallisia puhetapoja sosiaalisesta mediasta
Tuoreen selvityksen mukaan tekoälyjärjestelmät omaksuvat haitallisia kielellisiä malleja ja ennakkoluuloja sosiaalisen median datasta. Ilmiö on havaittu kielimallien kehitystyön yhteydessä, kun algoritmit jäljittelevät internetin keskustelukulttuuria.
Tutkijat ovat havainneet, että laajoihin kielimalleihin pohjautuvat tekoälyjärjestelmät voivat omaksua epäasiallisia ja syrjiviä puhetapoja, mikäli niiden opetusmateriaalina käytetään suodattamatonta sosiaalisen median sisältöä. Tuoreen selvityksen mukaan tekoäly saattaa toistaa ja vahvistaa internetin keskustelupalstoilla esiintyviä ennakkoluuloja.
Ilmiö johtuu koneoppimisen tavasta tunnistaa toistuvia kaavoja datasta. Kun algoritmi altistuu suurelle määrälle vihamielistä tai kärjistävää tekstiä, se alkaa pitää näitä rakenteita tavanomaisena tapana kommunikoida. Tämä voi johtaa tilanteisiin, joissa tekoäly tuottaa loukkaavaa sisältöä myös neutraaleissa yhteyksissä.
Ongelma on herättänyt keskustelua teknologia-alalla, sillä yritykset pyrkivät jatkuvasti laajentamaan tekoälyn käyttöä asiakaspalvelussa ja sisällöntuotannossa. Ohjelmistokehittäjät yrittävät ratkaista haastetta suodattamalla opetusdataa tarkemmin ja asettamalla malleille eettisiä rajoitteita, mutta täydellinen puhdistaminen on osoittautunut vaikeaksi massiivisten datamäärien vuoksi.
Alan asiantuntijat painottavat, että vastuu tekoälyn käytöksestä on viime kädessä järjestelmien kehittäjillä. Tutkimusten mukaan tekoälyn vinoumat voivat vaikuttaa merkittävästi siihen, miten tietoa suodatetaan ja esitetään käyttäjille digitaalisissa ympäristöissä. Tiedotteen mukaan jatkotutkimuksissa keskitytään tapoihin, joilla tekoälyä voidaan opettaa tunnistamaan ja välttämään haitallisia kielellisiä malleja automaattisesti.