Hyvät käytännöt kehittäjille

Tekoälyn vastuullinen hyödyntäminen

Ymmärrytä kansalaista tietojen käytöstä

Varo yliarvioimasta käyttäjien taitotasoa

Yksilöllistyvien palvelujen seurauksena yksilön vapaus ja valta päättää omien tietojensa käytöstä voi olla lisääntynyt. Yksilön voi olla myös helpompi hoitaa asioitaan.

Samalla kuitenkin kasvaa myös yksilön henkilökohtainen vastuu. Haasteeksi muodostuvat yksilöiden toisistaan poikkeavat kyvyt ymmärtää tietojensa kokonaisuus ja luonne datapisteinä datataloudessa.

Tutkijat ja asiantuntijat ovat aiheesta huolissaan. Psykologisen ja sosiologisen tiedon valossa läheskään kaikki meistä eivät ole jatkuvasti rationaalisia, omaa hyötyään optimoivia toimijoita. Datamarkkinat kuitenkin toimivat pitkälti tällaisen ihmiskäsityksen pohjalta ja jopa rankaisevat henkilöä, joka ei vaikuta hallitsevan tietojensa jakamista ja käyttöä.

Kuluttajan on odotettu vahtivan omia oikeuksiaan, dataansa ja toimivansa itsenäisesti ongelmissa, ja heitä on syytetty, kun he eivät ole osanneet toimia etujensa mukaisesti. Tosiasiassa läheskään kaikilla ei ole tähän edes kyvykkyyttä.

– Työ- ja elinkeinoministeriön osastopäällikkö Antti Neimala 2021

Päivitetty: 3.10.2023

Ehkäise ja korjaa käyttäjän virheitä

Datataloudessa henkilön tapa käyttää omia tietojaan voi vaikuttaa palveluihin pääsyyn ja siten perusoikeuksien toteutumiseen. Siksi tekoälyjärjestelmissä ja kapeammissa sääntöpohjaisen robotiikan järjestelmissä on syytä pitää kiinni aiempien digitalisaatioaaltojen periaatteesta. Järjestelmät on toteutettava siten, että ne ehkäisevät tai korjaavat käyttäjän tekemiä virheitä ja siten ainakin pyrkivät estämään käyttäjää joutumasta vaikeuksiin.

Esimerkiksi perinteiselle sähköiselle lomakkeelle tietojaan antava henkilö on sidottu lomakkeen sisältöön. Päätös tietojen käytön rajoista on siis tehty siellä, missä palvelua ja siihen liittyvää lomaketta hallitaan. Henkilö voi tehdä yksittäisiä asia- tai kirjoitusvirheitä, mutta palvelu voi hylätä ilmeisen virheelliset tai asiaan kuulumattomat tiedot.

Päivitetty: 26.9.2023

Pohdi, voitko hidastaa hyödytöntä tai haitallista tietojen jakamista

Uudessa datataloudessa henkilö voi jakaa dataansa palveluihin ja järjestelmiin, jotka eivät hyödytä häntä ja jotka voivat joskus aiheuttaa vahinkoakin. Hän voi myös antaa palveluun tietoa, jota ei ole pyydetty, ehkä arkaluonteistakin. Koska henkilön päätöstä tietojensa jakamisesta ei voida ennalta estää, joudumme kysymään, millaisia hidasteita tai ”tarkistuspisteitä” järjestelmiin tulisi luoda, jotta henkilö ei tahattomasti aiheuttaisi itselleen vahinkoa.

Yksittäisen, turvallisen viranomaispalvelun yhteydessä haittariskiä ei juuri ole. Vaikkapa Veron tai Poliisin palveluihin huolimattomasti annettu tai asiaan kuulumaton tieto ei leviä niistä eteenpäin. Yksilöllä on vastuu datansa käytöstä, mutta palvelut on toteutettu siten, että haittariski on hyvin matala.

Riski voi sen sijaan syntyä henkilön profiilin mukaan räätälöityvissä, usean palvelutuottajan ekosysteemeihin perustuvissa palveluissa. Käyttäjän tulisikin saada helposti tietoa siitä, mitkä palveluntuottajat toimivat tietyn elämäntapahtuman ekosysteemissä ja miten hän voi hallita jakamiaan tietoja tässä verkostossa.

Julkinen sektori ei voi toimia tavalla, jossa henkilö antaisi tietojaan monitoimijaekosysteemeihin ymmärtämättä, mihin kaikkeen tietoja käytetään.

Missä määrin henkilöä koskevien tietojen vaikutus jää vain tähän henkilöön? Kun annamme suostumuksen tietojemme käyttöön digitaalisessa palvelussa, emme juuri koskaan saa tietää, millaisissa suurissa datamassoissa tietomme ovat mukana ja millaisiin tavoitteisiin datamassaa käytetään.

Suurin osa ihmisistä jakaa tietojaan etenkin kaupallisille digijäteille, mutta myös muihin palveluihin, hyvinkin huolettomasti. Digijättien alustat, verkkokaupat ja viihdepalvelut muokkaavat palvelujaan ihmisten tiedoista koostuvista datamassoista. Tästä seuraa se, että vaikka emme ikinä itse käyttäisi sosiaalisen median palveluita, muiden jakamat tiedot vaikuttavat koko informaatioympäristöömme.

Kun järjestelmät valitsevat henkilölle sopivia palveluja ja palvelukokonaisuuksia, ne huomioivat toisten, tietyillä muuttujilla samankaltaisiksi arvioitujen henkilöiden dataa. Taustalla on oletus, että aiempien henkilöiden valinnat ovat jollain tilastollisella todennäköisyydellä hyödyllisiä myös tälle henkilölle.

Jos samaa rakennetta sovelletaan tulevaisuudessa julkisten palvelujen personointiin ja tarjontaan yksittäiselle kansalaiselle, hänen on hyvä olla tästä tietoinen. Menettelystä pitäisi myös avoimesti kertoa palvelun käyttäjälle heti palvelun avauskäyttöliittymässä tai muuten palvelusta helposti löytyvässä sijainnissa.

Äärimmillään tullaan kysymykseen, kuinka paljon viranomaiset voivat "ohjailla" asiakasta. Sekä asiakkaan että viranomaisen kyky kyseenalaistaa voi heikentyä, kun kaikki tapahtuu nopeasti ja "oikeiden" algoritmien tukemana.

– Valtioneuvoston kanslian julkaisu Tekoäly viranomaistoiminnassaAvautuu uuteen ikkunaan.

Päivitetty: 26.9.2023

Oletko tyytyväinen tämän sivun sisältöön?

Muistilista