Kenellä on virkavastuu, kun kone tekee virheen? – Julkisessa hallinnossa automaattisen päätöksenteon säännöt eivät ole olleet selvät, mutta ensi vuonna tilanteen pitäisi olla jo toinen

Politiikka

Julkisessa hallinnossa on haluttu jo pitkään tehdä päätöksiä automaattisesti, mutta lainsäädäntö on puuttunut. Vuoden vaihteessa tähän on tulossa muutos, jos lakiesitys automaattisesta päätöksenteosta julkisessa hallinnossa etenee odotetusti.

Yksi isoimmista kysymyksistä uudistuksessa on ollut se, kuka kantaa vastuun, kun automaattisessa päätöksenteossa tapahtuu virhe.

Automaattinen päätöksenteko koostuu usein monista osista, joista eri ihmiset ovat vastuussa.

–  On hyvin epätodennäköistä, että yksi ihminen tyhjästä kehittää automaattisen päätöksenteon. Siellä on mukana virkamiehiä, ohjelmistofirman ihmisiä ja niin edelleen. Tarvitsimme systeemin, jolla virkavastuu voidaan toteuttaa, sanoo valtiovarainministeriön (VM) neuvotteleva virkamies Antti Helin.

Automaattista päätöksentekoa koskevan lakiluonnoksen lausuntokierros päättyi tällä viikolla. VM:n ja oikeusministeriön valmistelemassa esityksessä virkavastuu on tarkoitus kohdentaa dokumentoinnin avulla.

Kun automaattista päätöksentekoa kehitetään, viranomaisten on kirjattava ylös, ketkä osallistuvat prosessiin missäkin vaiheessa ja ketkä ovat vastuullisia henkilöitä.

–  Jos virheitä tulee, mekanismin avulla voidaan jäljittää, missä se virhe oli ja kuka oli se henkilö, joka oli siitä virheestä lopulta vastuussa, Helin sanoo.

Perinteisessä päätöksenteossa virkavastuun kantaa yleensä se, kuka päätöksen on allekirjoittanut.

Toinen iso kysymys on ollut se, millaisista asioista voidaan ylipäätään päättää automaattisesti. Ehdotuksen mukaan viranomainen voisi ratkaista vain sellaisia asioita automaattisesti, jotka eivät sisällä tapauskohtaista harkintaa.

–  Kyse on yleensä kaavamaisista asioista, joista tyypillinen esimerkki on verotus. Verotus perustuu euromääriin ja prosenttimääriin. Sosiaaliturvassa opintotuki voisi olla vastaavan tyyppinen esimerkki, sanoo lainsäädäntöneuvos Niklas Vainio oikeusministeriöstä.

Hän kuitenkin lisää, että esimerkiksi juuri verotukseen usein liittyy myös poikkeustilanteita ja erityistilanteita, kuten erilaisia verovähennyksiä, joita ei sitten taas pystyisi ratkaisemaan automaattisesti.

Jo tälläkin hetkellä monissa viranomaisissa, kuten Verohallinnossa ja Kelassa, tehdään asioita automaatiolla isossa mittakaavassa, mutta nyt lainsäädännöllä on tarkoitus selkeyttää viranomaisten velvollisuuksia, valvontaa ja automaattisen päätöksenteon laatua.

Vainio arvioi, että jatkossa automaattista päätöksentekoa tehtäisiin erityisesti isoissa hallinto-organisaatioissa, joissa on joitakin isoja kaavamaisia asiaryhmiä, kuten Maahanmuuttovirastossa, Kelassa, Verohallinnossa ja isoimmissa kunnissa.

Kaiken automaattisen päätöksenteon pitäisi jatkossakin perustua ihmisten laatimiin niin sanottuihin käsittelysääntöihin.

Käytännössä tämä tarkoittaa sitä, että automaattisen päätöksenteon pitää perustua ohjeisiin ja määräyksiin, jotka ihminen on antanut etukäteen. Tämä rajaa tiettyjä tekoälyteknologioita lainsäädännön ulkopuolelle.

–  Tällä varmistetaan se, että se järjestelmä toteuttaa hallinnon lainalaisuusperiaatetta ja että virkavastuu toteutuu myös tätä kautta. Tämä on vaikeasti sovitettavissa oppiviin tekoälyjärjestelmiin, Vainio sanoo.

Automaattisessa päätöksenteossa ei voisi siis käyttää sellaista teknologiaa, jossa kone esimerkiksi tilastollisen analyysin perusteella muuttaisi päätöksenteon ehtoja. Niistä vastaisi jatkossakin aina ihminen.

–  Uudistuksessa ei kuitenkaan lähdetä suoraan siitä, että jokin teknologia olisi sallittua tai ei olisi sallittua, vaan virkavastuusta ja hyvästä hallintotavasta tulevat tietyt reunaehdot, jotka rajoittavat sitä, kuinka autonomista tai itseään mukauttavaa se päätöksenteko voi olla, Helin sanoo.

Muutoinkin uudistus on teknologianeutraali, sillä tarkoituksena on, että laki kestäisi myös aikaa.

Tekoälyn käyttö oli yksi niistä asioista, joihin lausunnonantajat kiinnittivät huomiota. Osa katsoi, että on hyvä, että tekoälyn käyttö käytännössä rajautuu lainsäädännön ulkopuolelle.

Elinkeinoelämän keskusliiton (EK) näkemyksen mukaan automaattisen päätöksenteon käyttöalaa pitäisi myöhemmin laajentaa niin, että se sallisi myös sellaisen ohjatun oppimisen menetelmää käyttävän tekoälyn käytön, jossa päätöksentekotapa pystyttäisiin selvittämään riittävällä tarkkuudella.

EK:n mukaan nykyinen ehdotus on liian rajoittava ja se estää tekoälyn potentiaalin hyödyntämistä.

Oikeusministeriön Vainion mukaan ohjattua oppimista käyttävät menetelmät ovat varmasti sellainen asia, jota kannattaa jatkossa selvittää.

Lainvalmisteluvaiheessa ei ole kovin tarkasti selvitetty sitä, millaiset valmiudet eri viranomaisissa on toteuttaa automaattista päätöksentekoa. Helin kuitenkin arvelee, että valmiudet ovat varsin hyvät.

–  Jos viranomainen haluaa jatkossa tehdä päätöksiä automaattisesti, viranomaisen on ensin tunnistettava ne asiat, joissa tämä automaattinen päätöksenteko on mahdollista. Sen jälkeen on mietittävä, onko se järkevää, Helin sanoo.

Automatisaatiosta tulee viranomaisille kustannuksia, sillä siihen on kehitettävä esimerkiksi tietojärjestelmä. Tämä tarkoittaa sitä, että ennen automaattiseen päätöksentekoon siirtymistä viranomaisen olisi hyvä tehdä jonkinlainen kustannus-hyöty-analyysi.

Helin kuitenkin muistuttaa, että lainsäädännön myötä minkään tahon ei olisi pakko siirtyä tekemään mitään päätöksiä automaattisesti.

Tämänhetkisen tavoitteen mukaan esityksen on tarkoitus mennä eduskuntaan syyskuun toiseksi viimeisellä viikolla. Poliittista päätöstä esityksestä ei vielä ole tehty, vaan kyse on ollut virkavalmistelusta.

Uudistuksessa on tarkoitus tehdä muutoksia hallintolakiin, tiedonhallintalakiin ja digipalvelulakiin. EK kertoo kannattavansa automaattisen päätöksenteon mahdollistamista kevyellä menettelyllä, jossa ratkaistaan juridiset haasteet, mutta ei aseteta tarpeettomia esteitä päätöksenteon automatisoinnille.

EK:n mukaan tiedonhallintalakiin sekä digipalvelulakiin ehdotettuja muutoksia ei tulisi edistää.

–  Ehdotetut muutokset ovat ylimitoitettuja, tarpeettomia ja haitallisia, EK katsoo.

Myös Kuntaliiton käsityksen mukaan kaikki tiedonhallintalakiin esitetyt lisäykset ja muutokset eivät ole tarpeellisia virkavastuun kohdentamisen tai hyvän hallinnon täsmentämisen näkökulmasta.

Tiedonhallintalain ja digipalvelulain valmistelusta on ollut vastuussa VM. Valtiovarainministeriön Helinin mukaan kyse on pohjimmiltaan tulkintaeroista siitä, mitä perustuslaki edellyttää.

–  Meidän valmistelijoiden näkemys on ollut se, että tässä ehdotuksessa on löydetty tasapaino siihen, ettei sääntely ole turhan yksityiskohtaista eikä turhan raskasta, mutta toisaalta ottaa huomioon ne edellytykset, mitä perustuslaista tulee.

EK ja Finanssiala ry kritisoivat valtiovarainministeriötä myös siitä, ettei lainvalmistelu ole VM:n osalta ollut avointa.

EK:n mukaan VM:ssä valmistelua on tehty varsin pienessä piirissä, eikä eri tahojen toimesta prosessin aikana nostettuja huolia ole huomioitu.

–  Menettely on ollut poikkeuksellista, ei edusta hyvää lainvalmistelua ja on johtanut tilanteeseen, jossa lausuntokierrokselle on lähetty säädösehdotuksia, joihin liittyy laajasti ongelmia, EK katsoo.

Finanssialan mukaan lainvalmistelun avoimuus ei ole toteutunut prosessissa riittävällä tavalla, eikä VM ole arvioinut eri sääntelyvaihtoehtoja tai sääntelyn vaikutuksia riittävästi.

VM:n Helin sanoo, että valmistelua on tehty hyvän valmistelutavan mukaisesti, esimerkiksi aiemmin VM:n arviomuistio oli laajasti lausunnolla.

–  Siitä tuli paljon tärkeää palautetta muun muassa siitä, että tämä sääntely ei saa olla liian yksityiskohtaisesti eikä se saa ulottua tietojärjestelmiin. Otimme siitä vaarin ja olemme jatkaneet valmistelua sen mukaisesti.

Hän lisää, että valmistelua on tehty työryhmässä, jossa on VM:n edustajien lisäksi ollut edustajia myös muista ministeriöistä sekä esimerkiksi Kuntaliitosta. Uudistuksesta on järjestetty myös kuulemisia ja asiasta on tehty nettikyselyitä.

–  Viimeisimpänä on ollut nyt tämä lausuntokierros. En nyt kyllä ole samaa mieltä siitä, että tämä olisi jotenkin pienessä piirissä valmisteltu. En tunnista kritiikkiä enkä ymmärrä, miten me olisimme poikenneet hyvästä lainvalmistelutavasta, Helin sanoo.