Anthropic: Tekoälyä yritettiin hyödyntää asekehityksessä Venäjällä ja Jemenissä

Tekoäly-yhtiö Anthropicin julkaiseman raportin mukaan yhtiön kehittämää Claude-kielimallia on pyritty hyödyntämään biologisten aseiden suunnittelussa ja kyberhyökkäysten valmistelussa. Yhtiö kertoo havainneensa tapauksia, joissa valtiolliset toimijat tai niihin kytkeytyvät ryhmät ovat testanneet tekoälyn kykyjä kiellettyihin tarkoituksiin.

Raportissa nostetaan esiin erityisesti Venäjään ja Jemeniin kytkeytyviä toimijoita. Venäjällä tekoälyä on yritetty käyttää osana vaikuttamisoperaatioiden suunnittelua ja koodin analysointia kyberturvallisuuden murtamiseksi. Jemenin osalta havainnot liittyvät mahdollisiin kemiallisiin tai biologisiin uhkiin, joissa mallilta on haettu teknistä tukea.

Anthropicin mukaan yritykset on saatu estettyä yhtiön sisäisten valvontamekanismien ja turvarajojen avulla. Yhtiö korostaa, ettei Claude ole antanut käyttäjille sellaista kriittistä tietoa, jota ei olisi jo saatavilla muista julkisista lähteistä, mutta yritykset kertovat kiinnostuksesta automatisoida asekehitystä.

Tapaukset on tuotu julkisuuteen osana laajempaa keskustelua tekoälyn turvallisuusriskeistä. Tekoäly-yhtiöt ovat viime aikoina kiristäneet valvontaansa, jotta niiden teknologiaa ei päätyisi sellaisten valtioiden tai ryhmittymien käyttöön, jotka ovat kansainvälisten pakotteiden alaisena tai osallisena konflikteissa.

Yhtiö toteaa raportissaan jatkavansa yhteistyötä turvallisuusviranomaisten kanssa vastaavien väärinkäytösten estämiseksi. Anthropic on yksi maailman tunnetuimmista tekoälykehittäjistä, ja se on aiemmin painottanut turvallisuusnäkökulmia tuotekehityksessään.