Tekoälyn vastuullinen hyödyntäminen

Poikkihallinnolliset järjestelmät ja datamassojen ristiin käyttö haastavat tilanteita edelleen. Kansalaisen mahdollisuus ja kyky nähdä, mihin omia tietoja käytetään, miten niitä voi hallita ja voiko niitä poistaa, hämärtyy. 

– Valtioneuvoston kanslian julkaisu Tekoäly viranomaistoiminnassaAvautuu uuteen ikkunaan.

Jos tekoälyjärjestelmällä on suoria tai epäsuoria vaikutuksia kansalaisten tai yritysten arkeen ja oikeuksiin, on järjestelmän toiminnasta, tavoitteista, tuotoksista ja vaikutuksista kerrottava käyttäjälle niin ymmärrettävästi ja yleiskielisesti kuin mahdollista.

Kaupallisten sovellusten kohdalla kyse on kuluttajansuojasta, julkisen sektorin ja hallinnon sovellusten kohdalla kansalaisten ja yritysten laillisista ja demokraattisista oikeuksista. Jos järjestelmät on kuvattu ja selitetty tavalla, joka on niiden kohteille vaikeaselkoinen tai käsittämätön, oikeudet vaarantuvat.

Lue lisää tekoälyjärjestelmän vastuullisesta selittämisestä ICO:n ja Alan Turing Instituten julkaisusta (PDF, englanniksi)Avautuu uuteen ikkunaan..

Vastuu ymmärrettävästä tekoälyn palveluselosteesta on yhtä paljon järjestelmän toimittajalla kuin hankkijalla. Kumpikaan ei voi väistää osuuttaan asiassa. Järjestelmää selittävä tieto on aina kontekstiin sidottua, ja siksi selosteen laatijan on ymmärrettävä kohde- ja käyttäjäryhmiä.

Tieto onkin parasta tuottaa järjestelmätoimittajan, hankkivan yksikön ja hankkivan organisaation viestinnän yhteistyönä. Tällä varmistetaan teknisen tiedon oikeellisuus ja viestin selkeys.

Selkeä viestintä hyödyttää brändiä myös sisäisesti etenkin suuremmissa organisaatioissa, joissa koko henkilöstö ei ole ehkä edes tiennyt tekoälyjärjestelmän hankinnasta, saati sen tavoitteista tai ominaisuuksista.

Selittäminen ei ole sama asia kuin ymmärretyksi tuleminen. Vaikka voisimme esittää läpinäkyvästi päätöksen kohteena olevalle ihmiselle konelogiikan toiminnan, hän voi kyllä kokea saaneensa selityksen, mutta olla edelleen yhtä ymmällään kuin aiemmin.

Koska tekoälyjärjestelmän päätösten logiikkaa on vaikeaa avata, on tärkeää, että palvelun läpinäkyvyyttä edistetään vähintään selkeillä tiedoilla siitä

• kuka tai mitkä tahot vastaavat palvelusta
• mihin tarkoitukseen palvelu on tehty
• mitä tietoa käyttäjän on annettava palveluun
• miksi käyttäjän on annettava juuri tätä tietoa.

Panosta kielen selkeyteen, ymmärrettävyyteen sekä myös tyyliin ja sävyyn. Tavoitteena on mahdollisimman laaja inklusiivisuus. Läpinäkyvyyteen kuuluu myös käyttäjälle annettava selkeä ohjeistus siitä, miten hänen tulee toimia virheenkorjaus- ja oikaisuvaatimustapauksissa.

Eri yhteyksissä tarvitaan eritasoista avoimuutta. Esimerkiksi algoritmia ei voi tarjota tavallisen palvelunkäyttäjän tarkasteltavaksi, koska

• suurimmalle osalle kansalaisista algoritmi olisi käsittämätön, todennäköisesti hämmentävä, eikä edistäisi käyttäjän ymmärrystä ja luottamusta
• julkisenkin sektorin tekoälyjärjestelmä on todennäköisesti yrityksen toimittama, ja algoritmi on osa liikesalaisuutta
• julkisesti kenen tahansa tarkasteltava algoritmi olisi todennäköinen uhka palvelun turvallisuudelle.

Vaikka algoritmeja ei voisi avata täysin käyttäjille, niitä täytyy silti tarkastella. Vastuulliseen toteutukseen kuuluvat riippumattoman toimijan tekemät järjestelmän auditoinnit.

Pidä auditoinnin yksityiskohdat tiukasti luottamuksellisina järjestelmän toimittajan, omistajan ja auditoijan kesken, mutta julkaise päähavainnot ja niistä mahdollisesti seuraavat toimet. Tee se tasolla, joka ei vaaranna järjestelmän turvallisuutta, mutta antaa käyttäjille riittävät tiedot luottamuksen säilyttämiseksi.