Tekoälyn vastuullinen hyödyntäminen

Mustat laatikot ja avoimuuden puute ovat edelleen suuri ongelma. Jos emme pysty selvittämään, miksi jokin haitallinen vaikutus tapahtui, emme voi myöskään korjata sitä.

– Tekoälyetiikan tutkija Wendell Wallach, Yalen yliopisto

Erityisesti mutkikkaampien tekoälyjärjestelmien haastetta kutsutaan ”mustaksi laatikoksi”. Kun käytetyt data-aineistot ovat massiivisia, koostuvat mahdollisesti useista lähteistä ja sisältävät tuhansia datapisteitä, algoritmin aineistosta suorittama päättely ei ole läpinäkyvää ja ymmärrettävää. Voidaan todeta vain, että ”kone tuotti, minkä se tuotti”.

Tämä on luotettavuuden kannalta iso ongelma. Etenkin julkisen sektorin tekoälyjärjestelmän olisi jo hyvän hallinnon periaatteiden mukaan oltava sellainen, että tuotos voidaan perustella ja selittää. Tämä on tärkeää jo kansalaisen valitus- ja korjausvaatimusoikeuden näkökulmasta.

Tutustu algoritmien läpinäkyvyyden kuvaamisen standardiin GOV.UK-verkkosivustolla (englanniksi)Avautuu uuteen ikkunaan..

Mustan laatikon ongelmaa on sivuutettu esimerkiksi toteamalla, että ihmisen tai koiran aivojen toimintaakaan ei pystytä täysin selittämään, mutta se ei estä meitä toimimasta. Biologiset, itsenäisesti toimivat olennot eivät kuitenkaan ole kenenkään omistuksessa, eikä kukaan ohjelmoi niille tavoitteita, toisin kuin tietojenkäsittelyjärjestelmille. Ihmisen tietoisuus ja oikeus autonomiaan vaikeuttavat tätä rinnastusta edelleen.

On myös esitetty, että on hyväksyttävää, että mustan laatikon tekoäly tuottaa joskus vääriä tuloksia, jos niiden haitat ovat vähäisiä verrattuna oikeiden tulosten tuottamaan hyötyyn. Tätä argumenttia voidaan kritisoida esimerkiksi lääketieteen etiikan valossa: olisiko hyväksyttävää käyttää menetelmää, joka todennäköisesti aiheuttaa vahinkoa viidelle prosentille potilaista?

Mustan laatikon avaaminen on tärkeä tavoite, jonka parissa datatieteessä tehdään jatkuvasti työtä. Siihen on panostettava myös jatkossa. Kuitenkin niin kauan kuin musta laatikko on nykyisenkaltainen haaste, tekoälyjärjestelmiä käyttävien organisaatioiden on harkittava tarkoin, mihin koneen tuottamia analyysejä, päätöksiä tai ennusteita voidaan soveltaa.