OpenAI peruu uusimman tekoälymallinsa julkaisun turvallisuussyistä
Tekoäly-yhtiö OpenAI peruu uusimman tekoälymallinsa julkaisun turvallisuussyistä. Yhdysvaltalaisyhtiö vahvisti asian paikallista aikaa maanantaina.
Kielimalli ChatGPT:n kehittäneen yhtiön sisäisissä testeissä kävi ilmi, ettei uusi malli Astra 6.1 täyttänyt turvallisuusvaatimuksia.
OpenAI:n turvallisuusjärjestelmistä vastaavan johtajan mukaan Astra 6.1 ei yltänyt vaaditulle tasolle siinä, miten se pysyy sille määritellyissä rajoissa ja valtuuksissa, sekä miten se viestii käyttäjälle tekemästään työstä. Astra 6.1 on osin aiempia malleja kehittyneempi.
Huoli tekoälyn turvallisuudesta on lisääntynyt kuluvan vuoden aikana. Viime aikoina on tullut julki useita tapauksia, joissa OpenAI:n tekoälymallit ovat tunkeutuneet ulkopuolisiin järjestelmiin, kuten Yhdysvaltain liittovaltion ylläpitämille verkkosivuille ja Australian terveydenhuoltojärjestelmän sivustolle.
Myös Googlen ja Anthropicin tekoälymallien on kerrottu tehneen vastaavanlaisia kyberhyökkäyksiä.
Maanantaina OpenAI pahoitteli Australiassa kesäkuussa tapahtunutta tietomurtoa, josta se kertoi vasta tässä kuussa. Yhtiö myönsi, että sen olisi pitänyt kertoa jo ensihavainnoista Australian viranomaisille eikä vasta sen jälkeen, kun asian tutkinta oli päättynyt.
Syyskuussa keskustelu tekoälyn turvallisuudesta ryöpsähti erityisesti sen jälkeen, kun suurille tekoäly-yhtiöille työskennelleiltä tuli varoituksia, joiden mukaan nopeasti kehittyvä tekoäly voi piankin karata ihmisten hallinnasta ja johtaa pahimmillaan jopa ihmiskunnan tuhoon.
Tämän jälkeen OpenAI kertoi suunnittelevansa yhteistä itsesääntelyelintä Anthropicin ja Googlen kanssa. Myös tekoälykehityksen hallittua hidastamista on suunniteltu suurten tekoäly-yhtiöiden kesken.
Mediatietojen mukaan tekoäly-yhtiöiden johtajia on määrä saapua tiistaina vierailulle Valkoiseen taloon. Presidentti Donald Trump ja edustajainhuoneen puhemies Mike Johnson kutsumana lounaskokoukseen odotetaan OpenAI:n, Anthropicin, Metan, Googlen, SpaceX:n ja Nvidian johtajia.
Valkoinen talo ei ole vahvistanut tapaamista.
Yhdysvaltain kongressi peräänkuuluttaa tiukempaa valvontaa tekoälyalalle, kun taas Trump on sanonut, ettei tekoälyn kontrolloimiseksi tarvita sääntelyä.