Hur kan du använda AI-agenter på ett säkert och ansvarsfullt sätt?

AI-agenterna är för närvarande en av de mest intressanta och snabbast växande områdena inom fältet för artificiell intelligens, och användningen av dem ökar i snabb takt i olika organisationer. På webbplatsen Suomi.fi för tjänsteutvecklare har nu publicerats en ny del om säker och ansvarsfull användning av AI-agenter. 

Vad är AI-agenter och varför är de aktuella?

Agenter är virtuella aktörer som grundar sig på artificiell intelligens och språkmodeller och som utför uppgifter självständigt. De kan till exempel kontrollera uppgifter, göra bokningar, identifiera hot eller sammanställa information från olika källor.

Användningen av agenter har snabbt ökat särskilt inom programutvecklingen och de förväntas förändra tjänsteutvecklarnas arbete och arbetskrav under de närmaste åren.

Agentisk artificiell intelligens – team för uppgifter i flera faser

Den nya delen i guiden Ansvarsfullt användande av artificiell intelligens presenterar också agentisk artificiell intelligens. Det innebär team bestående av flera AI-agenter som självständigt sköter processer i flera faser med liten mänsklig handledning. Sådana agentteam kan i teorin sköta omfattande helheter, såsom ordnande av evenemang eller komplicerade servicevägar.

Möjligheten att med agentisk artificiell intelligens automatisera hela krävande processer har lett till förhoppningar om en betydande ökning av effektiviteten och produktiviteten.

I företag och den offentliga sektorn består kundfallen vanligtvis av flera steg och innehåller olika material och skeden. Särskilt på den offentliga sidan kräver fallen också kontroller av lagenligheten.

Riskerna i anslutning till agenter ökar i takt med användningen

AI-agenter är förknippade med risker. I synnerhet inom den offentliga sektorn framhävs frågor om informationssäkerhet och dataskydd samt lagenlighet vid användning av artificiell intelligens.

Riskerna förblir små om agenten arbetar i organisationens egna system och inte behandlar känslig information. Risknivån ökar betydligt när agenten ges behörighet att agera utanför organisationen eller när agentteamen utbyter information i stor utsträckning i olika gränssnitt.

Eventuella risker är till exempel felaktiga data eller data av dålig kvalitet, försvårad hantering av datakommunikationen, kringgående av givna regler samt oklarheter hos den ansvariga instansen.

Hur hanterar du riskerna i anslutning till AI-agenter?

Guiden ger praktiska anvisningar för hur AI‑agenter kan användas på ett säkert och kontrollerat sätt. Dessa är bland annat:

• Se till att en människa godkänner besluten
• Säkerställ din organisations kompetens inom artificiell intelligens
• Utvidga agenternas nyttjanderätt så småningom
• Se till att undervisnings- och källdata är av hög kvalitet
• Följ upp och utvärdera AI-agenternas verksamhet regelbundet
• Gör organisationens jurister och ledning ansvariga
• Inkludera personalen i utarbetandet av spelregler.

Målet med guiden är säker och transparent användning

Den nya delen i guiden Ansvarsfullt användande av artificiell intelligens hjälper tjänsteutvecklare och organisationer att använda agenter på ett säkert, transparent och lagenligt sätt. Samtidigt stöder den en ansvarsfull utveckling i en situation där användningen av agenter snabbt blir vanligare och teknologin hela tiden utvecklas.

Webbplatsen Suomi.fi för tjänsteutvecklare som Myndigheten för digitalisering och befolkningsdata producerar samlar nationella lösningar, god praxis och tydliga anvisningar för dem som planerar digitala tjänster.

Läs mer

Hantera riskerna med artificiella  intelligensagenter »