Ihmiset hyväksyvät tekoälyjärjestelmät vain, jos niiden tuloksia pidetään merkityksellisinä ja riskitasoa alhaisena.
– Tekoälytutkija ja -yrittäjä Josef Baker‑Brunnbauer, SocialTechLab.eu
Luottamus on sekä moraalinen ominaisuus että tunne, jota ilman emme voisi toimia yhteisöinä ja yhteiskuntina. Julkinen valta ei voi toimia tavalla, joka nakertaa ja heikentää ihmisten luottamusta hallintoon tai toisiinsa.
Uuden teknologian haasteena on chatbottien ja automatisoitujen palvelujen lisääntyminen myös julkisella sektorilla. Luottamus kokemuksena syntyy arvostavassa kanssakäymisessä, jossa ollaan ihmisinä lähtökohtaisesti samalla viivalla.
Pystymmekö kehittämään koneita, joita käyttäessään ihminen voi tuntea itsensä nähdyksi, kuulluksi ja arvostetuksi?
Vai olisiko viisaampaa tuottaa tekoälypalveluja, jotka eivät edes pyri rakentamaan ihmisten välisen luottamuksen kaltaista tunnetta? Tällaiset palvelut säilyttäisivät tietoisesti konepiirteensä, jotta emme erehtyisi pitämään niitä mitenkään inhimillisinä.
Nykyiset järjestelmät edustavat niin sanottua kapeaa tekoälyä. Tämä tarkoittaa tilannetta, jossa yksittäinen tekoäly keskittyy ratkaisemaan tai optimoimaan tiettyä sille annettua tehtävää. Tällaisten tekoälyjärjestelmien vaikutuksia tarkastellaan usein myös kapeasti, pelkästään tehtävään liittyvästä näkökulmasta.
Jos jo suunnitteluvaiheessa olisi mukana laajemmin ryhmiä, joihin järjestelmä saattaa tahattomastikin vaikuttaa, kehittämisessä olisi helpompi ennakoida erilaisia vaikutuksia. Tällöin positiivisia vaikutuksia voitaisiin vahvistaa ja negatiivisia ehkäistä.