Cybersäkerhet och riskhantering vid tillämpning av artificiell intelligens

Gå till guiden (på finska): Tekoälyn soveltamisen kyberturvallisuus ja riskienhallintaÖppnas i ett nytt fönster.

Guiden har publicerats av Cybersäkerhetscentret vid Traficom 11/2021.

Artificiell intelligens är allt oftare en del av olika informationssystem, tack vare de nya möjligheter AI med för. Det är viktigt att kunna identifiera och hantera risker för informationssäkerhet i anknytning till artificiell intelligens och maskininlärning, så att man kan utnyttja system med artificiell intelligens på ett så tryggt sätt som möjligt, och samtidigt göra det möjligt att utnyttja dessa system i en allt större utsträckning. Etik och risker kring artificiell intelligens och maskininlärning har under de senaste åren varit föremål för myck et uppmärksamhet. Etiska principer kodifieras också i lagstiftning och i olika uppförandekoder. Det pågår aktivt arbete med att standardisera säkerhetspraxis kring artificiell intelligens, både i allmänhet för system med artificiell intelligens och specifikt inom olika branscher. Både system med artificiell intelligens och traditionella system måste vara förklarbara, feltoleranta och observerbara.

Informationssäkerheten och dataskyddet för artificiell intelligens baserar sig i dagsläget i hög grad på traditionell informationssäkerhet. Många av de föreslagna sätten att närma sig problemen skulle det löna sig att ta i bruk också i utveckling en av traditionella system. För att dessa egenskaper ska uppnås i system med artificiell intelligens kan det dock krävas att man tar sig an problematiken på annorlunda sätt än för traditionella system. Riskerna med informationssäkerhet för artificiell intelligens är kopplade till både systemet och själva genomförandet. Systemiska risker handlar om hur artificiell intelligens kan fungera korrekt som en del av andra system och i växelverkan med människor. Risker i samband med genomförandet har att göra med hur träningsdata hanteras och hålls konfidentiell och med dataintegriteten i maskininlärningsmodellerna och att de fungerar korrekt även i fientliga situationer.

Maskininlärningsmodeller lär sig av data. Genom att påverka träningsdata kan man påverka funktionen hos ett system som använder sig av maskininlärning. Man kan hantera risker na under utvecklingen av systemen med artificiell intelligens genom tekniska lösningar och genom olika informationssäkerhets- och dataskyddsaktiviteter. De som utvecklar systemen kan också själva hitta risker och hantera dem effektivt, förutsatt att riskernas uppkomstmekanismer är kända och metoderna för att hantera riskerna faktiskt har införlivats i utvecklingsprocessen. Hanteringsmetoder kan vara förebyggande och reaktiva, och i de flesta fall är de likadana som för traditionella system. Det finns undantag till exempel i fråga om testarrangemangen.