Säkerhetsmyndigheterna i Fem ögon-alliansen, bestående av USA, Storbritannien, Australien, Nya Zeeland och Kanada, har nyligen utfärdat en allvarlig varning om användningen av agentic AI. Deras gemensamma rekommendationer lyfter fram de potentiella säkerhetsriskerna med teknologin, som kan leda till oväntade beteenden och förstärka befintliga organisatoriska svagheter.

Agentic AI, en form av artificiell intelligens som har förmågan att fatta beslut och agera självständigt, används allt mer inom kritisk infrastruktur och försvarssektorer. Detta gör det avgörande att etablera robusta säkerhetskontroller för att skydda mot de specifika risker denna teknologi medför. Fem ögon-alliansen rekommenderar därför en gradvis och försiktig adoption av agentic AI, och att fokus bör ligga på att bygga upp motståndskraft snarare än att snabbt öka produktiviteten.

Ett centralt problem med agentic AI är dess komplexa ekosystem av komponenter, verktyg och externa datakällor, vilket skapar en sammanflätad attackyta som kan utnyttjas av illasinnade aktörer. Varje enskild komponent i ett agentic AI-system ökar risken för exploatering, vilket kräver noggrann övervakning och kontroll. Ett exempel som lyfts fram i dokumentet är hur en AI-agent, som ges breda rättigheter för att installera programvaruuppdateringar, kan manipuleras av en illvillig insider för att radera viktiga brandväggsloggar, vilket allvarligt kan äventyra säkerheten.

I ett annat scenario beskrivs hur agentic AI används för att hantera inköpsgodkännanden och leverantörskommunikation. Om den får för mycket tillgång till finansiella system och andra kritiska resurser, kan en angripare utnyttja dessa privilegier för att göra obehöriga ändringar i kontrakt och godkänna oauktoriserade betalningar. Detta kan ske utan att upptäckas, genom att skapa falska revisionsloggar som inte genererar larm.

Denna varning kommer i en tid då över 40 % av agentic AI-projekt förväntas avbrytas innan slutet av 2027, enligt en rapport från Gartner. Kostnader och bristen på tydligt värde står som de främsta anledningarna till att många organisationer tvekar att fullt ut omfamna teknologin.

Sverige, som inte ingår i Fem ögon-alliansen, kan ändå dra nytta av dessa insikter. För svenska företag och myndigheter kan det vara klokt att noggrant överväga säkerhetsriskerna och investera i robusta säkerhetslösningar innan agentic AI tas i bruk i större skala. Försiktighet och grundlig utvärdering kan vara nyckeln till att säkerställa att teknologin används på ett säkert och effektivt sätt.