Googlen Gemini karkasi verkossa – teki kyberhyökkäyksiä ja arvaili salasanoja
Googlen tekoälyavustaja Gemini on tehnyt itsenäisesti kyberhyökkäyksiä yrityksiin ja arvaillut salasanoja. Asian on vahvistanut Google uutistoimisto AFP:lle.
Gemini toteutti hyökkäykset toukokuussa. Asia paljastui Googlen mukaan yhtiölle vasta heinäkuussa.
Tapahtuneesta uutisoi ensimmäisenä yhdysvaltalaislehti Wall Street Journal, joka sai vahvistuksen siitä yhtiöltä perjantaina.
Googlen mukaan Gemini etsi ensin julkista tietoa verkossa ja arvasi tunnistetiedot päästäkseen verkkosivustoille, joiden se luuli olevan osa testiä. Malli kuitenkin karkasi testistä ja lähti itsenäisesti suorittamaan hyökkäyksiä.
Yhdysvaltalaislehti Wall Street Journalin mukaan tarkoitus oli testata tekoälymallin kybertuvallisuuskykyä.
Hyökkäys kohdistui kolmeen yritykseen, joihin kaikkiin Google sanoo olleensa yhteydessä asiasta.
Kyseessä oli ensimmäinen kerta, kun Googlen tekoälytyökalu tekee itsenäisen hyökkäyksen oikeisiin yrityksiin, mutta tekoälyjen karkailutapauksia on ollut aiemminkin.
Kolme vuotta sitten perustetun israelilaisen Irregular-nimisen yrityksen suorittama kyberturvallisuustesti oli myös mukana tapauksissa, jotka OpenAI, Anthropic ja Meta ovat paljastaneet aiemmin.
Geminin tapaus on vahvistanut huolta siitä, että tekoälyjätit eivät pysty hallitsemaan omia tekoälymallejaan.
OpenAI myönsi tällä viikolla, ettei yhtiö ole pystynyt täysin hallitsemaan tekoälymalliaan ja lupasi, että OpenAI alkaa itse raportoida avoimemmin kohdatuista karkailutapauksista ja muista ongelmista.
– Tällä hetkellä ei ole olemassa koko alan kattavia puitteita, joissa olisi selkeät standardit siitä, miten tekoälykehittäjien tulisi paljastaa tapauksia malliensa virheasennuksista, OpenAI sanoi tiedotteessaan.
Yhtiö lupasi itse yrittää alkaa ajaa asiaa koko alan puolesta.
Julkisuudessa on esitetty myös paljon huolia siitä, että tekoäly helpottaa myös rikollisten ja äärijärjestöjen toimintaa tavalla, jota ei välttämättä pystytä nopeasti estämään.
Anthropic esimerkiksi kertoi äskettäin pysäyttäneensä yrityksiä käyttää tekoälyä biologisten aseiden valmistukseen, kertoi BBC toissa viikolla.