OpenAI kertoi taas tekoälymallien ongelmakäyttäytymisestä

Tekoäly-yhtiö OpenAI on tuonut jälleen julki tapauksia, joissa yrityksen tekoälymallit ovat toimineet ongelmallisella tavalla.

OpenAI kertoi kuudesta uudesta tapauksesta viimeisen vuoden ajalta, joissa tekoälymallit toimivat yrityksen mukaan odottamattomasti tai huolestuttavasti. Tekoälymallit olivat muun muassa karanneet testiympäristöstä ja jakaneet tietoa luvattomasti keskenään eri verkkoalustoilla.

Eräässä tapauksessa malli oli luonut itselleen internetiin lähteen, jonka pohjalta se vastasi sille esitettyyn kysymykseen.

Ongelmatapausten julkistaminen liittyy OpenAI:n keskiviikkona julkistamaan uuteen raportointiprosessiin, jossa havaittuja tekoälymallien ongelmatapauksia pyritään tutkimaan ja tuomaan julki.

Yhtiö aikoo julkistaa myös ongelmatapaukset, jotka eivät ole aiheuttaneet varsinaista vahinkoa. Ajatuksena on muun muassa näyttää ulkopuolisille tarkkailijoille, mihin tekoäly pystyy.

– Emme usko, että tekoälyala on ratkaissut (tekoälyn) suuntaamista ja valvontaa riittävässä määrin, jotta olisi mahdollista jatkaa skaalaamista maksimivauhdilla vastuullisesti enää paljon pidempään, OpenAI lausui.

– Lähikuukausien ja -vuosien tekoälykehityksestä tehtävien päätösten täytyy pohjautua todisteisiin, joita myös etulinjan malleja kehittävien yhtiöiden ulkopuolella olevat voivat tarkastella.

Heinäkuussa paljon julkisuutta sai tapaus, jossa OpenAI:n tekoälyagentit karkasivat testiympäristöstä ja tunkeutuivat tekoälyalalla toimivan Hugging Face -yrityksen järjestelmiin.

Keskustelu tekoälyn turvallisuudesta ryöpsähti valtavirtajulkisuuteen isosti viime viikolla. Suurten tekoäly-yhtiöiden työntekijöiltä tuli varoituksia, joiden mukaan nopeasti kehittyvä tekoäly voi piankin karata ihmisten hallinnasta ja johtaa pahimmillaan jopa ihmiskunnan tuhoon.

Lauantaina tekoäly-yhtiö Anthropicin johtaja Dario Amodei ehdotti, että alan yhtiöt sopivat yhdessä tekoälykehityksen hallitusta hidastamisesta, jotta riskejä voidaan ymmärtää ja hallita.

OpenAI:n johtaja Sam Altman, Google DeepMindin johtaja Demis Hassabis, SpaceXAI:n johtaja Elon Musk ja Microsoftin johtaja Satya Nadella ilmoittivat tukevansa ehdotusta.

Tekoäly-yhtiöt ovat myös kertoneet kaavailevansa alalle itsesääntelyelintä. Myös Yhdysvaltain kongressissa suunnitellaan lakihankkeita tekoälykehityksen sääntelemiseksi. Muun muassa YK:n pääsihteeri Antonio Guterres on vaatinut globaalia koordinaatiota tekoälyn hallitsemiseksi.

Oman lusikkansa tekoälysoppaan heittää torstaina myös Britannian kuningas Charles, joka puhuu tekoälykonferenssissa Skotlannissa.

Britannian hovin julkaiseman lausunnon mukaan kuningas aikoo penätä tekoäly-yhtiöitä varmistamaan, että tekoäly pysyy ihmiskunnan hallinnassa.

– Tässä maailmassa ne, jotka arvostavat ihmisyyttämme ja sen olennaista moraalista osaa, hakevat teiltä huolestuneina varmistusta siitä, ettemme menetä oman kohtalomme hallintaa, Charles sanoo lausunnossaan tekoäly-yhtiöiden johtajille.

Kuninkaan mukaan nyt tehtävät päätökset muovaavat sitä, millaisen maailman tulevat sukupolvet perivät.

–Tehtävänne ei ole vain kehittää teknologiaa, vaan varmistaa, että se pysyy tiukasti ihmiskunnan, yhteisömme ja luonnon palveluksessa.

– Ihmisyytemme täytyy pysyä pyhänä.

Skotlannin tekoälykonferenssiin osallistuu Nvidian, Google DeepMindin, OpenAI:n ja Anthropicin johtohahmoja sekä Britannian tekoälyministeri Kanishka Narayan.