Yhdenvertaisuuslaki velvoittaa sekä viranomaista että yksityistä toimijaa edistämään yhdenvertaisuutta ja yhdenvertaisia mahdollisuuksia.
Tämä tarkoittaa paitsi väestöryhmien kuulemista ja konsultointia, myös koko suunnittelu- ja toteutusketjun diversiteettiä.
Pohjimmiltaan jokainen tekoälyjärjestelmä perustuu kahteen ei-teknologiseen ja ei-matemaattiseen asiaan:
Molemmissa voi olla yhdenvertaisuuden ja syrjimättömyyden kannalta haasteita:
Ihmisten moninaisuus on tosiasia maailmassa, etnisyyksistä ja sukupuolista ammatteihin, mutta tällä hetkellä internetin sisältö ei heijasta tätä moninaisuutta. Vinoumia on kaikentyyppisissä aineistoissa: teksti, kuva ja ääni. Juuri näillä aineistoilla koulutetaan tekoälyjärjestelmiä ja ChatGPT:n kaltaisia suuria kielimalleja. Siksi moninaisuus on huomioitava sidosryhmä- ja kansalaisyhteistyössä.
Joskus järjestelmä ja sen päälle rakennettava palvelu on suunnattu erityisesti jollekin ryhmälle. Painopisteen on tuolloin luonnollisesti oltava tuossa ryhmässä, mutta silloinkin on huomioitava laajempi yhteiskunnallinen konteksti ja kohteena olevan ryhmän sisäinen moninaisuus.
Vaikuttavin tapa varmistaa se, että lopputulos todella palvelee eikä tahattomasti syrji tai jätä ketään ulkopuolelle, on pyrkiä saamaan itse tekijätiimeihin, yrityksiin ja organisaatioihin mahdollisimman hyvin väestön moninaisuutta heijastava kokoonpano.
Mahdollisimman inklusiivinen kehittämisnäkökulma on myös menestystekijä, koska se laajentaa tekoälypalvelun tai -tuotteen potentiaalista käyttäjä- tai asiakaskuntaa mahdollisimman laajaksi.