Arvomuistio hallinnon automaattiseen päätöksentekoon liittyvistä yleislainsäädännön sääntelytarpeista

Oikeusministeriö 6.7.2020 VN/3071/2020

Linkki lausuntopalveluun   |  Linkki arvomuistioon

Automaattisen päätöksenteon nykytila ja sääntelytarpeet

Miten arvioitte automaattiseen päätöksentekoon liittyvää tilannekuvaa ja yleisesti asiaan liittyviä sääntelytarpeita?

Elinkeinoelämän keskusliitto EK ry kiittää lausuntomahdollisuudesta. Väliotsikointi noudattaa
lausuntopyynnössä esitettyjä kysymyksiä.

Hallinnon automaattinen päätöksenteko on jo todellisuutta, kuten jo muistiossakin todetaan ja
tuodaan esiin Migrin, Kelan ja verottajan tekemiä päätöksiä. Lainsäädäntö tulee ajantasaistaa mahdollisimman pikaisesti vastaamaan todellisuutta.

Kunnianhimon taso tulee kuitenkin asettaa korkealle. Suomen ja EU:n keskeiset tavoitteet liittyvä
digitalisaation edistämiseen ja tekoälyn käytön kiihdyttämiseen. Hallinnon ja yksityisen sektorin
tulee molempien kirittää toisiaan parhaiden mahdollisten ratkaisujen käyttöön. Sääntelyn tuleekin olla teknologianeutraalia, ajan kestävää eikä sitä ole syytä rajata vain sääntöpohjaisiin järjestelmiin.

Sääntelystrategiaa tulee kehittää yleislainsäädännön suuntaan, jotta automaatiosääntely
mahdollistaa kaikkien hallinnonalojen valmiuksien kehittämisen ja päätöstyyppien käyttämisen. Samanaikaisesti sen tulee kuitenkin olla niin joustavaa, että sitä voidaan tarvittaessa täydentää erityislainsäädännöllä. EU:n yleistä tietosuoja-asetuksen (22 Art) automaatti-sen päätöksenteon ja profiloinnin mahdollisuuksia ei tule kaventaa.

Asiassa on syytä edetä pikaisella aikataululla. Koska lainsäädännöllä on myös hallinnon ulkopuolisia, suoria vaikutuksia esimerkiksi finanssisektorille ja päätöksenteon kohteina oleville yrityksille, EK esittää, että tulevaan työryhmään valittaisiin edustusta myös elinkeinoelämän  piiristä.

Automaattisen päätöksenteon käyttöalan rajaus

Miten arvioitte arviomuistiossa ehdotettua käyttöalan rajaamista tilanteisiin, joissa ratkaisu on johdettavissa koneellisesti lainsäädännöstä ja tiedossa olevista yksiselitteisistä faktoista tilanteessa, jossa päätöksentekoon ei liity harkintavaltaa?

Lähtökohtaa on pidettävä suppeana jäljempänä tarkemmin esitetyin perustein.

Miten arvioitte ehdotettua lähtökohtaa, jonka mukaan automaattinen päätöksenteko voisi yleislainsäädännön nojalla perustua vain viranomaisen ennalta määrittelemiin, lainsäädännön mukaisiin päättelysääntöihin (ei esimerkiksi oppivaan tekoälyyn)?

On selvää, että automaatio on omiaan vähentämään manuaalisten prosessien inhimillisiä virheitä ja tuomaan tehokkuushyötyjä, ja joutuisampaa päätöksentekoa asiakkaille.

Harkintavallan puuttuminen automaation perusedellytyksenä rajaisi päätöksenteon kapealle
alueelle. Hallinnon päätöksenteko on varmasti nyansoidumpaa, kuin pelkkä jako sääntöpohjaisiin ja harkintaa vaativiin päätöksiin antaa teoriassa ymmärtää. Muistiossa ehdotetun lähtökohdan sijaan sääntöperusteinen päätöksenteko on vain minimilähtökohta. Digitalisaation edistäminen hallinnossa vaatii kuitenkin laaja-alaisempaa lähestymistapaa.

Oppivaa tekoälyä ei tule kategorisesti rajata pois hallinnon automaatiosta.

Sääntelystrategiassa tulisikin ottaa huomioon kategorisen jaon tuomat ongelmat. Ensinnäkin tämä voisi johtaa keino-tekoisen kapeaan soveltamisalaan jo päätöksenteon pohjalle valikoituvissa säännöksissä, ja automaatiosta saatavien hyötyjen jäämiseksi vähäiseksi. Automatiikka voi avustaa tai jopa korvata osittain manuaalista päätöksentekoa, mikä tulee myös ottaa huomioon jatkotyössä. Mikäli edes päätöksentekosysteemin taustaprosesseissa tai väliportaissa ei sallittaisi oppivaa järjestelmää, voi soveltumisala kaventua huomattavasti. Lisäksi voi olla vaikea (ainakin tulevaisuudessa) löytää järjestelmiä, joissa ei yhdistyisi useita menetelmiä.

Jatkotyössä tuleekin arvioida päätöksentekoa riskiperusteisesti. Jos päätöksentekosysteemi on
läpinäkyvä, ennustettava ja vähäriskinen, ei sitä tule kategorisesti estää, oli käytetty ratkaisu mikä
tahansa. Riskejä voidaan hallita systemaattisella valvonnalla, jatkuvalla testauksella ja  seurannalla. Mikäli avustava, oppivaan tekoälyyn pohjautuva automaatio ei aiheuta ongelmia, tulisi sen voida korvata jopa kokonaan manuaalinen päätöksenteko. Vertailutasona voitaneen aina käyttää manuaalista prosessia, jota vasten voidaan arvioida riskit ja tasapainottaa haitat ja hyödyt. Arvioinnin lähtökohta tulisikin kääntää päälaelleen – mikäli tietojärjestelmä pystyy samaan ennakoitavuuteen ja laillisuusperiaatteiden toteuttamisen tasoon kuin vastaava manuaalinen systeemi, tulisi vaatia erityisiä vastasyitä sen käyttöönoton estämiselle.

On myös tärkeää seurata EU:n kehitystä, jossa tekoälystrategian yhtenä osana on edistää tekoälyn käyttöä myös hallinnossa. Jatkotyössä tulisi keskittyä tämän tavoitteen kunnianhimoiseen edistämiseen, eikä pelkästään ristiriidan välttämiseen komission strategian kanssa. Liian rajaava lainsäädäntö voi jopa vaarantaa hallinnon digitalisaatiota, jos rajoituksilla poistetaan kimmoke kehittää lakitekstin tulkintaa automatisoivaa, oppivaa kieliteknologiaa Suomessa. Pienenä kielialueena Suomella ei ole varaa tällaiseen.

Hyvän hallinnon ja oikeusturvan varmistaminen

Olisiko lakiin syytä ottaa säännös, jossa korostetaan viranomaisen velvollisuutta varmistua, että automaattisen päätöksentekojärjestelmän käyttö ei vaaranna hyvän hallinnon, oikeusturvan ja perusoikeuksien toteutumista? Tulisiko näiden periaatteiden toteutumista varmistaa jollain muunlaisella menettelyllä?

Periaatteiden turvaaminen on jo nykyisellään sisäänrakennettu lainsäädäntöömme. Periaatteiden
toteutuminen tulee rakentaa systemaattisesti päätöksentekojärjestelmään, tapahtuu tämä
manuaalisesti tai automaattisesti. Nähdäksemme uusien työkalujen käyttöönotto ei muuta näitä
periaatteita itsessään. Päätösten muotoilussa ja kielenkäytössä tulisi ylipäätään kiinnittää huomiota ymmärrettävyyteen ja selkokielisyyteen. Näitä voidaan kehittää erillään automaattista päätöksentekoa koskevasta lainsäädännöstä.

Tietojärjestelmäsääntely ja virkavastuun kohdentaminen

Muistiossa ehdotetaan, että virkavastuun asianmukainen toteutuminen pyrittäisiin varmistamaan kohdentamalla virkavastuu tiettyihin järjestelmän käyttöä koskeviin virkatehtäviin. Miten arvioitte
ehdotuksen toimivuutta?

Periaatteiden turvaaminen on jo nykyisellään sisäänrakennettu lainsäädäntöömme. Periaatteiden toteutuminen tulee rakentaa systemaattisesti päätöksentekojärjestelmään, tapahtuu tämä manuaalisesti tai automaattisesti. Nähdäksemme uusien työkalujen käyttöönotto ei muuta näitä periaatteita itsessään.

Päätösten muotoilussa ja kielenkäytössä tulisi ylipäätään kiinnittää huomiota ymmärrettävyyteen ja selkokielisyyteen. Näitä voidaan kehittää erillään automaattista päätöksentekoa koskevasta
lainsäädännöstä.

Miten arvioitte ehdotusta, jonka mukaan järjestelmässä käytettävät päätöksentekosäännöt tulisi hyväksyä nimenomaisella päätöksellä? Millaisessa menettelyssä tai kokoonpanossa säännöt tulisi hyväksyä?

Miten arvioitte järjestelmän tai siihen tehtyjen muutosten hyväksymistä ja vaatimustenmukaisuuden arviointia koskevaa ehdotusta?

Valvontavastuu on tärkeää määritellä periaatteellisella tasolla, mutta sitä tai sen järjestämistä ei tule määritellä yksityiskohtaisesti yleislainsäädännössä.

Miten arvioitte järjestelmän valvontaa koskevaa ehdotusta?

Sekä ennakollisia että jälkikäteistä valvontaa tulee kehittää organisaatiokohtaisesti. Jo tietosuoja- asetus asettaa velvollisuuksia riskienarvioinnin osalta, ja näitä on syytä kehittää edelleen jatkotyössä myös koskemaan yritysten ja ei-henkilötietojen käsittelyn osalta. Organisaatioiden omaa riskienhallintaa tulee korostaa.

Jälkikäteisessä valvonnassa korostuu organisaation oma seuranta järjestelmätasolla, minkä täytyy olla järkevässä suhteessa tuottavuuteen. Ehdotettuja keinoja, kuten pistokokeita yms. on syytä pohtia jatkotyössä. Oikeusturvan osalta muutoksenhakukeinojen tulee olla asiakaslähtöisiä ja perusoikeuksien toteutuminen tulee varmistaa systeemistasolla.

Tulisiko virkavastuun kohdentamiseksi ottaa käyttöön muita velvollisuuksia tai menettelyitä?

Erityistä huomiota tulee kiinnittää sääntöihin, joilla julkisia hallintotehtäviä on delegoitu (tai
mahdollisesti delegoidaan) yksityisten tahojen hoidettaviksi. Selvyyden vuoksi todettakoon, että
erikseen tulee varmistaa, ettei prosessin vastuukysymyksissä ole epäselvyyksiä virkavastuun tai sen kaltaisten seuraamuksien ulottumisesta kolmansille tahoille. Näitä voivat esimerkiksi olla
järjestelmätoimitta tai muu taho, jolle tehtävän hoito on annettu (esim. eläkeyhtiöt). Virkavastuun
tulee olla lähtökohtaisesti automaattisesti viranomaisella.

Viranomaisten toiminnan julkisuus ja päätöksenteon läpinäkyvyys

Miten arvioitte ehdotusta, jonka mukaan viranomaiselle tulisi asettaa velvollisuus esittää kuvaus automaattisessa päätöksenteossa sovellettavista päätöksentekosäännöistä ja asioiden valikoitumisesta automaattisesti ratkaistavaksi? Millainen kuvauksen tulisi olla?

Lähtökohtaisesti viranomaisen tulee tiedottaa automaattisen päätöksenteon käyttämisestä sekä
etukäteen että jälkikäteen, tietosuojalainsäädäntöön samaistettavalla tasolla. Jatkotyössä tulee
arvioida, miten viranomainen voi toteuttaa tietosuoja-asetuksen osoittamisvelvollisuuden mukaisen dokumentaatiovelvollisuuden.

Päätöksentekoprosessin tulee olla julkinen ja selitettävissä yleisellä tasolla. Viranomaisen tulee
pystyä selittämään päätöksen taustalla olevan säädöksen ja päätöksen suhde yleisöä palvelevalla
tavalla. Yksityiskohtaisella tasolla ei tule velvoittaa avaamaan koodia tai päätösparametrejä. Pääasia on varmistaa, että viranomaisen päätöksestä valittavalla on tiedossaan keskeiset, valituksen tekemiseen tarvittavat tiedot tasolla, joka samaistuu manuaaliseen päätöksenteon tasoon. Virkamiesvastuun tai systeemin arviointiin tarvittavat selosteet ja tiedot tulee erotella esimerkiksi oikeussuojakeinojen käyttämiseen (päätöksestä valittamiseen) tarkoitetuista, yksittäistapauksessa merkityksellisistä tiedoista.

Viranomaisen päätöksenteossa on kuitenkin edelleen syytä korostaa päätöksen perusteita. Näiden selkeys ja ymmärrettävyys ovat omiaan luomaan luottamusta myös päätösten syntytapaan, oli se sitten automaattinen tai manuaalinen.

Miten arvioitte asiakirjan varmentamista koskevaa ehdotusta?

Varmentaminen on syytä jättää kunkin organisaation oman harkinnan varaan. Manuaalisen allekirjoittamisen välttämättömyys on kyseenalaista, eikä sitä tule ottaa lainsäädännön lähtökohdaksi.

Tietosuoja

Tulisiko automaattiseen päätöksentekoon liittää muunlaisia suojatoimia kuin mitä arviomuistiossa ehdotetaan?

Viranomaisten tulee noudattaa niihin soveltuvaa tietosuojalainsäädäntöä.

Miten lasten erityinen suojan tarve tulisi huomioida automaattisessa päätöksenteossa?

Muut sääntelytarpeet

Millä muilla tavoin hallinnon lainalaisuuden, hyvän hallinnon, oikeusturvan ja virkavastuun toteutuminen tulisi yleislainsäädännössä varmistaa?

Lainsäädännössä tulee selkeyttää suunniteltua soveltamisalaa. Tältä osin viittaamme Finanssialan lausuntoon esimerkiksi työeläkeyhtiöitä koskien.

Muut huomiot

Onko teillä muita huomioita arviomuistiossa käsitellyistä aiheista?

Arkaluonteisten tietojen käyttämisen osalta tulee automaattista päätöksentekoa soveltaa lähtökohtaisesti tietosuoja-asetuksessa annetulla tavalla riskiperusteisesti. Arkaluonteisten tietojen käyttöä ei ole kategorisesti syytä rajoittaa vaan käsittely tulee tehdä riskiarvioinnin perusteella.

Jatkovalmistelussa tulisi kiinnittää erityistä huomiota siihen, että hallinnon automatisaatiota ja
digitalisaatiota pystytään edistämään myös valmistelun ja muun hallinnon osalta. Automaattinen
päätöksenteko on vain yksi osa digitalisaatiota ja automaatiota. Elinkeinoelämä painottaa, että kaikkea uutta lainsäädäntöä tulisi arvioida siltä kannalta, miten se edistää ja mahdollistaa
digitalisaatiota ja sen tuomia hyötyjä.