Tekoälyn vastuullinen hyödyntäminen

Automaattisen päätöksenteon lisäksi tekoälyjärjestelmiä voidaan käyttää käyttäjälle räätälöityviin, yksilöllisiin palveluihin, joissa järjestelmä tuottaa henkilölle suosituksia velvoittavien päätösten sijasta.

Suosittelujärjestelmät ovat tuttuja yksityiseltä sektorilta, verkkokauppojen ”olet ehkä kiinnostunut myös näistä tuotteista” -toiminnoista suoratoistopalvelujen musiikki- ja ohjelmasuosituksiin.

Samaa teknologiaa voidaan periaatteessa käyttää myös julkisella sektorilla asiakkaan ohjaamisessa järjestelmän hyödyllisiksi arvioimiin palveluihin ja palvelujen sisältöjen räätälöinnissä henkilön tarpeeseen ja tilanteeseen.

Suosittelujärjestelmien eettisenä haasteena julkisella sektorilla on henkilöstä tarvittavan tiedon laatu ja määrä sekä käytön läpinäkyvyys. Toisin kuin vaikkapa musiikkipalvelussa, julkisessa palvelussa henkilöstä voidaan tarvita varsin runsaastikin tietoa, jonka on oltava oikeaa, ajan tasalla ja relevanttia.

Tarve voi korostua ekosysteemipalvelumalleissa, joissa moni palveluntuottaja eri sektoreilta käsittelee henkilön tietoja samanaikaisesti.

Jos harkitset suosittelujärjestelmän käyttöönottoa, ota huomioon, että

• Henkilön data ei ole sama asia kuin henkilö elämänsä kokonaisuudessa oikeassa maailmassa. Miten varmoja voimme olla, että yksittäisistä datapisteistä syntyy niin luotettava kuva ja ymmärrys henkilöstä, että voimme hyvää hallintotapaa noudattaen generoida hänelle koneellisesti suosituksia ja ehdotuksia?
• Tekoälyjärjestelmät on koulutettu datalla, joka kuvaa aina menneisyyttä. Ihmisestä hyvin harvoin saa reaaliaikaista dataa. Vanha tieto voi olla edelleen käyttökelpoista, mutta voi myös olla, että se ei enää kuvaa henkilön tilannetta ja tarpeita, jolloin etenkin ennakoivien suositusten generointi menee harhaan.
• Suosittelujärjestelmät saattavat käyttää profilointiin myös sijaistietoa (proxy data), jos kaikkea tarvittavaa henkilöstä ei ole suoraan saatavilla. Tällaista tietoa voi olla esim. palvelun käyttäjän sijainti, käyttäjän itse luomat kytkennät toisiin ihmisiin, palvelussa tehdyt haut. Sijaistiedosta voi muodostua yllättävän tarkka kuva henkilöstä ilman, että siihen olisi annettu lupaa tai että sille olisi varsinaista käyttötarkoitusta palvelussa.