Anthropic: Claude-tekoälyä yritettiin käyttää aseiden valmistuksessa Jemenissä ja Venäjällä

Tekoäly-yhtiö Anthropic on julkaissut tietoja väärinkäyttötapauksista Claude-tekoälymallin kohdalla. Yhtiön tietojen mukaan Claudea yritettiin käyttää aseiden valmistukseen ainakin Venäjällä ja Jemenissä.

Venäjällä toiminut ryhmä yritti luoda Clauden avulla itsetuhodroonien parvia, jotka valitsisivat kohteensa ja räjähtäisivät ilman ihmisen antamaa määräystä. Ryhmä oli koodauksessaan käyttänyt kohteenaan useaan otteeseen Donetskin alueen sijainteja Ukrainassa ja kiertänyt Clauden alueellisia estoja VPN-yhteyksien avulla.

Anthropicin mukaan tekijät väittivät saaneensa rahoitusta Venäjän valtiolta, mutta yhtiö arvioi kyseessä olleen freelancer-ryhmä eikä valtion palkkalistoilla ollut virallinen toimija.

Jemenissä Claudea yritettiin käyttää ohjusten kehittämiseen. Yhtiön mukaan ei ole todisteita siitä, että ryhmä olisi kehittänyt toimivan aseen, mutta Jemenissä tehtiin tiettävästi ainakin yksi epäonnistunut koelaukaisu, jonka jälkeen ryhmä haki Claudelta lisäapua.

Claudea käytettiin asekehityksen ohella muun muassa vakoiluohjelman kehittämiseen sotilasjuntan hallitsemassa Malissa, valeuutisten tehtailuun Ranskassa sekä romanssihuijauksiin Kiinassa.