Julkisen hallinnon tietojärjestelmät ja digitaaliset palvelut on toteutettava kuten kaikki viranomaistoiminta: lakeja ja asetuksia noudattaen sekä kansallisella että EU:n tasolla.
Julkisen sektorin pääasiallinen tehtävä teknologisen murroksen näkökulmasta on luoda edellytyksiä teknologioiden hyödyntämiseen koko yhteiskunnassa eettisesti kestävästi ja turvallisesti.
– Ministeriöiden tulevaisuuskatsaus, 2022
Suomen ja EU:n laeissa on jo säädetty muun muassa
Suomessa laki automaattisesta päätöksenteosta julkisessa hallinnossa tuli voimaan toukokuussa 2023, mutta se ei koske oppivia järjestelmiä, kuten tekoälyä.
Euroopan parlamentti hyväksyi Euroopan Unionin tekoälyasetuksen (AI Act) joulukuussa 2023, ja se tulee voimaan todennäköisesti vuoden 2024 aikana. Asetuksen tultua voimaan siitä tulee keskeisin tekoälyjärjestelmille asetettavia vaatimuksia ja käyttöä koskeva sääntely EU:n jäsenvaltioissa.
Millä perusteella kone tekee päätöksiä?
Automaattisen verotuksen kaltaisessa tapauksessa syy-seuraussuhde on osoitettavissa. Henkilö on ansainnut tietyn euromäärän tietyistä kohteista tiettynä aikana, ja veropäätös lasketaan suoraan Verohallinnon sääntöjen perusteella.
Tekoälyn logiikka taas perustuu mutkikkaisiin tilastollisiin todennäköisyyksiin, mikä tekee selkeän syy-seuraussuhteen toteamisen vaikeaksi. Jos kyseessä on vielä oppiva algoritminen järjestelmä, joka voi mukauttaa toimintaansa syötteiden mukaan, haaste on melko mahdoton.
Siksi Suomen voimassa oleva lainsäädäntö automaattisesta päätöksenteosta ei koske oppivia järjestelmiä – eli käytännössä tekoälyä – lainkaan. Koneoppivia järjestelmiä voidaan käyttää työn tukena, myös hallinnossa, mutta ei päätöksenteossa ainakaan toistaiseksi.
Euroopan parlamentin hyväksymä asetuksen luonnos, joka ei ole vielä voimassa, ei kokonaan kiellä, mutta jarruttaa koneoppimisjärjestelmiä tekemästä päätöksiä EU-maiden hallinnoissa. Korkean riskin tekoälyjärjestelmiin luokitellaan esimerkiksi koulutukseen, terveyteen ja hyvinvointiin, työelämään, etuuksiin ja liikenteeseen liittyvät sovellukset – eli käytännössä lähes koko julkisten palvelujen kenttä.
Korkean riskin järjestelmissä tulee olla:
EU:n tekoälyasetuksen riskiluokituksen ylin riskiluokka (unacceptable risk) kieltää tekoälyn avulla tehtävät pisteytykset ja profiloinnit, jotka perustuvat tietoihin yksilön sosiaalisesta käyttäytymisestä, hänen sosioekonomisesta tilastaan tai hänen ominaisuuksistaan henkilönä.
Asetus ei kiellä dataan perustuvaa profilointia täysin. Profilointi on sallittua, jos se on välttämätöntä tietyn lainmukaisen prosessin suorittamiseksi, tai jos henkilö on antanut siihen suostumuksen. Sallittua voi olla esimerkiksi henkilön terveysdataan perustuva potilasprofilointi tai pankin lainapäätöstä edeltävä maksukyvyn arviointi. Tällaisiin tapauksiin tarvitaan kuitenkin henkilön suostumus.
Jää tulkinnanvaraiseksi, missä määrin riskiluokitusmalli yhdessä pisteytys- ja profilointirajoitteiden kanssa estää koneoppimiseen perustuvan automaattisen päätöksenteon kansalaisen harkinnanvaraisessa asiassa. Ehkä tämä voikin toteutua vasta pitemmän ajan ja teknologian kypsymisen jälkeen.
Julkisen hallinnon tekoälyjärjestelmiä haastaa myös laissa säädetty virkavastuu. Ongelmien ilmaantuessa kysymys perimmäisestä vastuusta on usein vaikea, sillä järjestelmään liittyy monia toimijoita ja ulottuvuuksia, kuten
Vastuun syntyminen algoritmisen päätöksenteon kohdalla edellyttää yhteyttä virkamiehen ja päätöksentekoprosessin välillä. Sääntöpohjaisessa automaatiossa virkamiehen on mahdollista tarvittaessa tutustua järjestelmän toiminnan ja siten myös tehtyjen päätösten perusteisiin.
Sen sijaan tekoälypohjaisissa järjestelmissä edes järjestelmän kehittäjä ei välttämättä aina pysty selvittämään, mihin seikkoihin järjestelmän tuottama lopputulos perustuu.
– Valtioneuvoston selvitys- ja tutkimustoiminta: Algoritmi päätöksentekijänä?Avautuu uuteen ikkunaan.
Koska laki ei koske oppivia järjestelmiä, rajoittaa se käytännössä harkinnanvaraisten asioiden tekoälypäättämisen lähes kokonaan viranomaistoiminnan ulkopuolelle. Jos päätöstä ei kyetä perustelemaan oikeusturvan edellyttämällä tasolla, sitä ei tule tehdä lainkaan.
Tekoälyn käyttäminen harkinnanvaraisen asian käsittelyn apuna voi silti olla mahdollista, kun lopullinen päätösvalta säilyy ihmisellä. Silloinkin on oltava läpinäkyvää ja selvää, mitä ja miten tekoäly on asiassa käsitellyt ja miten sen tuotokset on päätöstä tehdessä huomioitu.
Tekoälyä voi päätöksenteon ulkopuolella käyttää tietyissä tapauksissa tukityökaluna, jos organisaation linjaukset ja ohjeet sen sallivat.
Suomen julkisen sektorin innovatiivisissa, tekoälyyn perustuvissa palveluissa, on otettava huomioon eettiset näkökohdat, jotta voidaan varmistaa, että ne ovat oikeudenmukaisia, puolueettomia, luotettavia ja vastuullisia, ja ne on myös suunniteltava asiaankuuluvien kunnallisten, kansallisten ja EU-pohjaisten sääntelypuitteiden mukaisesti.
– Tekoälytutkijat Nitin Sawhney ja Ana Paula Gonzales Torres Aalto-yliopiston julkaisussa (englanniksi)Avautuu uuteen ikkunaan.
Voimassa oleva lainsäädäntö voi joskus jarruttaa tai kokonaan estää hyödyllistenkin järjestelmien ja palvelujen kehittämisen.
Muuta liikkumavaraa sääntelystä ei ole kuin uudenlaisten palvelujen ja toimintamallien simulaatiot niin sanotuissa sääntelyhiekkalaatikoissa, joissa niiden laillisuusvaikutuksia voidaan testata turvallisesti. Kokeilujen tulokset voivat johtaa lakiuudistuksiin, jos havaitaan, että muuten turvallisen ja hyödyllisen palvelun esteenä on vanhentuvaa sääntelyä.
Etenkin maailmalla digijätit venyttävät ja koettelevat kansallisten ja kansainvälisten lakien rajoja tietoisesti. Julkinen sektori ei voi tehdä niin.
Myös Suomessa digikehittäjät voivat kokea turhautumista sääntelyn rajoituksista tai vaikeaselkoisuudesta. Jos koemme, että voimassa oleva sääntely rajoittaa tai estää haluamaamme kehitystä, on pyrittävä vaikuttamaan sääntelyyn ennakoivasti, olemassa olevia menettelyjä noudattaen.
2010-luvun alusta asti on tuotettu erittäin paljon suosituksia, julistuksia ja muistilistoja tekoäly- ja robotiikkajärjestelmien eettisen kehittämisen tueksi. Niitä ovat tuottaneet niin kansainväliset järjestöt ja julkishallinnot kuin oppi- ja tutkimuslaitoksetkin. Tämä kertoo paitsi havaitusta tarpeesta, myös siitä, että yksi dokumentti ei selvästikään riitä.
Ajan myötä aineistoissa on havaittu kriittinen ongelma: ne antavat ylätason suosituksia ja kuvaavat päämääriä, mutta eivät luo tarpeeksi siltaa konkreettiseen tekemiseen.
On helppo julistaa sitoutuvansa suunnittelemaan ja tuottamaan eettisesti kestäviä tekoälysovelluksia, jos tekoälyetiikka tiivistetään abstrakteiksi arvokkaiden asioiden luetteloiksi. Ylevien periaatteiden ja toiminnan välille muodostuu helposti vaikeasti ylitettävä kuilu.
– Tutkijat Jaana Hallamaa ja Karoliina Snell, Helsingin yliopisto