Anthropic ehdottaa muutosta tekoälyn tieteelliseen mallintamiseen
Tekoälyyhtiö Anthropic ehdottaa uutta lähestymistapaa, jossa tekoälymallit tuottaisivat tieteellistä tietoa todennäköisyysjakaumien muodossa. Yhtiön mukaan menetelmä auttaisi tutkijoita ymmärtämään paremmin tekoälyn tekemiin ennusteisiin liittyvää epävarmuutta.
Tekoäly-yhtiö Anthropicin tutkijat esittävät uudessa julkaisussaan, että tekoälymallien tulisi tuottaa vastauksissaan laajempia todennäköisyysjakaumia yksittäisten vastausten sijaan. Ehdotus liittyy erityisesti tieteelliseen mallintamiseen, jossa epävarmuuden hallinta on keskeisessä roolissa.
Nykyiset suuret kielimallit on tyypillisesti optimoitu antamaan yksi, todennäköisin vastaus käyttäjän kysymykseen. Anthropicin mukaan tämä lähestymistapa voi olla ongelmallinen monimutkaisissa tieteellisissä kysymyksissä, joissa ei ole yhtä oikeaa vastausta tai joissa data on puutteellista.
Yhtiön tutkijat ehdottavat menetelmää, jossa tekoäly esittäisi useita mahdollisia skenaarioita ja niiden todennäköisyyksiä. Tämä antaisi tutkijoille paremman kuvan mallin ennusteiden luotettavuudesta ja auttaisi ymmärtämään tuloksiin liittyviä riskejä.
Kehitystyön tavoitteena on parantaa tekoälyn hyödynnettävyyttä luonnontieteellisessä tutkimuksessa. Kun tekoäly pystyy ilmoittamaan oman epävarmuutensa, se voi auttaa ihmistutkijoita tekemään perustellumpia päätöksiä esimerkiksi lääkekehityksessä tai materiaaliteknologiassa.
Keskustelu tekoälyn tuottamien vastausten luotettavuudesta on kiihtynyt, kun kielimalleja on alettu soveltaa yhä vaativampiin asiantuntijatehtäviin. Anthropic on yksi keskeisistä tekoälyalan toimijoista, joka keskittyy tutkimuksessaan erityisesti tekoälyn turvallisuuteen ja läpinäkyvyyteen.