Mediatietojen mukaan Yhdysvaltain puolustusministeriö on painostanut tekoäly-yhtiö Anthropicia muuttamaan yhtiön suuren kielimallin Clauden käyttöehtoja. Kiista on saanut uuden ulottuvuuden, kun ChatGPT:stä tunnettu OpenAI ilmoitti tehneensä sopimuksen Pentagonin kanssa kilpailijansa kieltäydyttyä vaatimuksista.
Anthropicin nykyiset ehdot linjaavat, että sen tekoälymallia ei saa käyttää täysin autonomisissa asejärjestelmissä – eli järjestelmissä, jotka kykenevät valitsemaan ja tappamaan kohteita ilman ihmisen ohjausta. Kansainvälinen Stop Killer Robots -kampanja korostaa, että Anthropicin julkinen arvio teknologian epäluotettavuudesta on viesti, jota maailmalla ei ole varaa sivuuttaa. Kyse on teknologiayhtiöstä, joka kertoo omalle hallitukselleen, ettei se voi vastuullisesti toimittaa pyydettyä teknologiaa, koska sitä ei voida toteuttaa turvallisesti. Ja vaikka tällainen kyky olisi, tarvittavia suojamekanismeja katastrofaalisen vahingon estämiseksi ei ole olemassa.
Yhtiö kieltäytyi taipumasta Pentagonin vaatimuksiin vedoten siihen, että ”huipputason tekoälyjärjestelmät eivät yksinkertaisesti ole riittävän luotettavia toimiakseen täysin autonomisten aseiden voimanlähteenä” ja että siviilien ja sotilaiden suojelemiseksi tarvittavia valvontamekanismeja ”ei tällä hetkellä ole olemassa”. Yhdysvaltain presidentti Donald Trump kielsi vastatoimena Anthropicin teknologian käytön liittovaltiossa, ja pian tämän jälkeen OpenAI solmi sopimuksen Pentagonin kanssa.
Stop Killer Robots -kampanjan mukaan tämä osoittaa, ettei tekoälyn sotilaskäyttöä voi jättää yksittäisten yritysten eettisten periaatteiden varaan. Tarvitaan kansainvälisesti sitovia sääntöjä, jotta kehitystä eivät ohjaa vain poliittiset ja kaupalliset intressit. Vaikka kiista koskee tässä tapauksessa suuria kielimalleja, samojen varausten tulisi koskea kaikkia tekoälypohjaisia kohdennusjärjestelmiä.
Diplomaattisia keskusteluja autonomisista aseista on käyty yli vuosikymmenen ajan. Myöhemmin tänä vuonna YK:n Genevessä järjestetään eräitä tavanomaisia aseita koskevan yleissopimuksen (CCW) tarkistuskonferenssi. Siinä valtioilla olisi tilaisuus toimia ja aloittaa neuvottelut uudesta kansainvälisestä sopimuksesta, joka säätelee, kieltää ja rajoittaa tekoälyn käyttöä autonomisissa asejärjestelmissä.
Stop Killer Robots -verkoston toiminnanjohtaja Nicole van Rooijen toteaa: “ Nyt tarvitaan korkeimman tason poliittista ja moraalista johtajuutta. Valtioiden on tultava tänä vuonna neuvottelupöytään toimimaan, ei vain keskustelemaan. Aika lykätä päätöksiä tulevaisuuteen on ohi. Nyt tarvitaan uutta lainsäädäntöä.”
