Vastuullisuus ja eettisyys ovat kontekstisidonnaisia, joten algoritmin alkuperäisessä yhteydessä asetetut standardit ja käsitellyt eettiset kysymykset voivat olla ongelmia uudessa sovelluksessa.
– Data & Society -tutkimusorganisaation julkaisu: Algorithmic Accountability: A Primer (englanniksi)Avautuu uuteen ikkunaan..
Data on tietojärjestelmälle sama kuin jauhot, sokeri ja munat kakulle, ja algoritmi on järjestelmän tuotokselle sama kuin resepti kakun leipomiselle. Kakkua ei synny ilman raaka-aineita ja reseptiä, eikä järjestelmä tuota mitään ilman dataa ja algoritmia.
Algoritmi on tekoälyn aktiivinen toimija siinä mielessä, että datasta prosessoituu tuotoksia sen puitteissa, sille luoduilla ehdoilla ja ominaisuuksilla. Jos algoritmi ja sen muuttujat on suunniteltu huolimattomasti, tuotokset ovat joko heikkolaatuisia tai jopa haitallisia.
Nyrkkisääntö ”roskaa sisään, roskaa ulos” ei siis yksin kata kaikkia riskejä, vaan sen lisäksi on todettava ”laatua sisään, mutta huonolla algoritmilla roskaa ulos” – siis aivan kuten kakun leipomisessa.
Lue algoritmien eettisistä ongelmista ja ratkaisuista AI and Society -julkaisun artikkelista (englanniksi)Avautuu uuteen ikkunaan..
Jokainen algoritmi on erilainen ja liittyy kunkin järjestelmän tavoitteisiin. Siksi yleistä ohjetta turvallisen ja vastuullisen algoritmin rakentamiseen on vaikea muotoilla muuten kuin ”tunne kohteena oleva ilmiö tai väestö ja sen piirteet ja olosuhteet ja huomioi nämä algoritmin parametreissa ja niiden painotuksissa mahdollisimman objektiivisesti”.
Mitä kompleksisempi kohde, sitä enemmän parametreja algoritmissa on. Joissain hyvin kapean tehtävän tekoälyissä parametreja voi olla vain toista kymmentä, kun taas esimerkiksi ChatGPT:n perustana olevalla GPT3-mallilla niitä on tiettävästi noin 175 miljardia. Jo se yksin kertoo, että ChatGPT:n yksittäisten tuotosten perusteita ei voida tyhjentävästi selittää eikä tehdä läpinäkyväksi ihmisvoimin.
ChatGPT onkin tyypillinen ”musta laatikko”, joista kerrotaan enemmän seuraavalla sivulla.