Tekoälyn vastuullinen hyödyntäminen

Tekoälyjärjestelmä on todella vain tietojenkäsittelykone. Sen toiminta riippuu täysin siinä käytetystä datasta sekä omistajaorganisaation tavoitteista, osaamisesta ja vastuullisesta toiminnasta.

Vastuullisen tekoälykehittämisen keskustelussa usein toistuva käsite on ”human in the loop”. Käytännössä se tarkoittaa, että viime kädessä vain ihminen voi sekä valvoa järjestelmän toimintaa että hyväksyä järjestelmän tuotokset ja niiden käytön.

Tämän periaatteen haasteena on tekoälyjärjestelmien käytön laajeneminen yksilötapausten käsittelyyn ja ajan myötä ehkä myös varsinaiseen päätöksentekoon.

Euroopan unionin linjadokumentti tekoälystä asettaa ”human in the loop” -periaatteelle neljä konkreettista toimintavaihtoehtoa:

1. Tekoälyjärjestelmän tuotosta ei saa käyttää ennen kuin ihminen on sen tarkastanut ja arvioinut.
2. Tekoälyjärjestelmän tuotos otetaan suoraan käyttöön, mutta sen vaikutuksia korjaa tarvittaessa ihminen.
3. Järjestelmän toimintaa seurataan reaaliaikaisesti ja käytössä on nopeasti aktivoitava ”hätäseis”-menettely.
4. Järjestelmä on suunniteltu siten, että siinä on raja-arvot, joiden ylittyessä se joko rajoittaa toimintaansa, pysähtyy kokonaan tai siirtää hallinnan ihmiselle.

Uusille teknologioille on tyypillistä, että niiden erilaiset, varsinkin odottamattomat, vaikutukset käyvät ilmi vasta ajan myötä. Siksi käytössä olevan järjestelmän vaikutusten seuraaminen on aivan yhtä tärkeää kuin ennakoiva vaikutustenarviointi.

Esimerkkinä voi käyttää sosiaalista mediaa. Kun Facebook alkoi kerätä käyttäjiä, kukaan ei olisi osannut arvata, että sillä ja sen kaltaisilla palveluilla vaikutettaisiin jo muutaman vuoden kuluttua presidentinvaaleihin, kansanäänestyksiin, minäkuviin, mielenterveyteen ja kuluttamiseen.

Tuotannonaikaisen vaikutustenarvioinnin dokumentointi ja julkinen raportointi lisää myös käyttäjien luottamusta. Samalla se pakottaa järjestelmästä vastaavan organisaation huolehtimaan arvioinnista säännönmukaisesti.

Euroopan komissio suositteli julkisen sektorin organisaatioille jo vuonna 2018 etiikkaneuvostoja eli robotiikan ja tekoälyn eettistä ja vastuullista toimintaa seuraavia ja ohjaavia yksiköitä.

Etiikkaryhmän perustaminen kannattaa, jos

• suunnitteilla olevat tekoälyjärjestelmät tavoitteineen sisältävät painavia eettisiä kysymyksiä
• johto sitoutuu asiaan aidosti
• ryhmä saa selkeän mandaatin ja toimeksiannon
• organisaatio on valmis vastaanottamaan myös kriittisiä arvioita.

Jos kaikki ehdot eivät toteudu, on syytä etsiä muita tapoja arvioida ja varmistaa eettisyyttä ja vastuullisuutta.

Joissakin organisaatioissa voi jo olla toimialaan liittyviä eettisiä toimikuntia. Tällöin voidaan pohtia, voisivatko ne arvioida myös tekoälyyn hyödyntämistä.