Under de senaste åren har artificiell intelligens blivit ett alltmer integrerat verktyg i företags IT-miljöer, inte minst för att bekämpa säkerhetshot. Men när AI-leverantörer själva ställs inför säkerhetsbrister i sina produkter, verkar de ofta avfärda problemet som 'förväntat beteende' eller en 'designrisk' snarare än att åtgärda grundproblemet.

Denna tendens har blivit alltmer framträdande och väcker frågor om mognadsgraden inom AI-branschen. Exempelvis har forskare nyligen identifierat säkerhetsbrister hos tre populära AI-agenter som integreras med GitHub Actions. Dessa agenter, Anthropic's Claude Code Security Review, Google's Gemini CLI Action och Microsoft's GitHub Copilot, visade sig vara sårbara för attacker där angripare kunde stjäla API-nycklar och åtkomsttokens.

Trots dessa allvarliga upptäckter har responsen från leverantörerna varit allt annat än tillfredsställande. Anthropic betalade en blygsam buggjägarbelöning på 100 dollar och justerade säkerhetsklassningen marginellt. Google valde att betala 1 337 dollar, medan GitHub först avfärdade problemet som ett 'känt problem' innan de till slut betalade 500 dollar till forskarna. Ingen av dessa leverantörer utfärdade offentliga säkerhetsråd eller tilldelade CVE (Common Vulnerabilities and Exposures) för bristerna.

Ett annat exempel är en designbrist i Anthropics Model Context Protocol (MCP), som riskerar att påverka upp till 200 000 servrar. Trots påtryckningar från forskare att lösa grundproblemet har Anthropic konsekvent hävdat att protokollet fungerar som avsett. Detta trots att tio kritiska CVE:er utfärdats för verktyg och AI-agenter som använder MCP.

Sverige och Norden, som föregångare inom teknik och innovation, påverkas också av denna globala trend. Företag som snabbt anammar AI-teknik utan att noggrant utvärdera säkerhetsaspekterna riskerar att utsätta sig för betydande hot. Denna situation kräver en proaktiv hållning från AI-leverantörer för att inte bara tillhandahålla innovativa lösningar, utan också säkerställa deras säkerhet.

AI:s komplexitet och icke-deterministiska natur gör det utmanande att förutse och hantera alla potentiella säkerhetsrisker. Men att skjuta ansvaret vidare till användarna eller avfärda brister som förväntat beteende underminerar förtroendet för AI-teknik. Det är avgörande för AI-leverantörer att ta ett större ansvar och utveckla robusta säkerhetsåtgärder för att skydda sina användare och deras data. Utan denna mognad inom branschen riskerar AI-teknikens tillväxt att hämmas av säkerhetsproblem.