Tekoäly-yhtiö Anthropic ehdottaa Yhdysvalloille lakia, joka sen mukaan rajoittaisi tekoälyä
Tekoäly-yhtiö Anthropic ehdottaa Yhdysvalloille lakia, joka yhtiön mukaan rajoittaisi tekoälyä.
Ehdotus antaisi liittovaltion hallitukselle mahdollisuuden estää tehokkaimpien tekoälymallien vaaralliset käyttöönotot.
Kyseessä on tekoäly-yhtiöltä merkittävä yritys puuttua sellaisten sääntöjen laatimiseen, jotka koskevat tekoäly-yhtiöiden omaa toimintaa.
Asiasta uutisoi ensimmäisenä perjantaina Politico, joka sai esityksen yhtiöltä. Politicon mukaan Anthropic on jakanut lakiesitysehdotusta kongressin jäsenille sekä päättäjille osavaltioissa.
Yhdysvallat voisi esityksen mukaan estää tekoälymallin käyttöön levittämisen tai käytön vain siinä tapauksessa, jos on olemassa välitön ja ennakoitavissa oleva riski siitä, että mallin käyttö voisi tappaa tai vahingoittaa yli 50 ihmistä tai aiheuttaa yli miljardin dollarin edestä vahingonkorvauksia.
Riskin pitäisi Politicon kertoman mukaan juontua biologisen aseen kehittämisestä tai esittelemisestä käyttöön otettavaksi tai kun tekoälymalli karkaisi kehittäjänsä kontrollista tai tekisi kyberhyökkäyksen.
Lisäksi esityksen mukaan estäminen vaatisi vielä tuomarin hyväksynnän.
Kongressin jäsenet ovat olleet teknologiajättien lobbauksen kohteena jo pitkään samaan aikaan, kun tekoälykehitys on ollut todella nopeaa.
Anthropicin edustaja sanoi Politicolle, että yhtiö pitää tällaisia sääntöjä järkevinä.
Kuluneiden kuukausien aikana on vahvistunut huoli siitä, että tekoälyjätit eivät pysty hallitsemaan omia tekoälymallejaan.
Lisäksi tekoälymallien suunnittelematon toiminta voi tulla kehittäjillensäkin yllätyksenä tai tietoon vasta jälkikäteen.
Esimerkiksi Googlen Geminin toukokuussa tekemät hyökkäykset paljastuivat Googlen mukaan yhtiölle vasta heinäkuussa.
Tapauksessa Gemini karkasi testistä ja lähti itsenäisesti suorittamaan kyberhyökkäyksiä oikeisiin yrityksiin.
Kyseessä oli ensimmäinen kerta, kun Googlen tekoälytyökalu teki itsenäisen hyökkäyksen, mutta tekoälyjen karkailutapauksia on ollut aiemminkin.
Karkailutapausten takana oli sama israelilaisyritys. Kolme vuotta sitten perustetun israelilaisen Irregular-nimisen yrityksen suorittama kyberturvallisuustesti oli myös mukana tapauksissa, jotka OpenAI, Anthropic ja Meta olivat paljastaneet aiemmin.
Mikään tekoälymallin karkailutapauksista viime kuukausina ei ylittänyt Anthropicin esityksen asettamaan vahinkokynnystä, jossa joko kymmenien ihmisten täytyisi olla kuolemanvaarassa tai vaarassa vahingoittua, tai jossa aineelliset vahingonkorvaukset yltäisivät yli miljardiin dollariin.
Anthropic ei ole vielä julkisesti tukenut erityisiä lainsäädäntötoimia tekoälykehityksen hillitsemiseksi kongressissa. Yhtiö on kuitenkin tukenut joitain valtion tekoälyn turvallisuuslakeja kuten kahta lakia Kaliforniassa.