Anthropic, ett företag som specialiserar sig på AI-utveckling, har nyligen hamnat i rampljuset med deras AI-verktyg Mythos, som är designat för att identifiera säkerhetsbrister i kod. Även om verktyget lovar att automatisera och effektivisera processen med att hitta sårbarheter, har det fått kritik för sina begränsningar. Den senaste läckan av 512 000 rader källkod från deras AI-produkt Claude Code har ytterligare belyst dessa brister.

Mythos, som namnet antyder, ger intrycket av att besitta nästintill mytiska förmågor när det kommer till kodsäkerhet. Men i praktiken visar det sig att AI:n huvudsakligen är bra på att hitta de säkerhetsbrister som mänskliga utvecklare redan är medvetna om. Det är ett tydligt exempel på att AI-system ofta begränsas av data och mönster de har tränats på, vilket i detta fall innebär att de endast kan detektera kända sårbarheter.

Denna problematik understryks av den nyligen uppkomna termen 'Swiss cheese model', som beskriver Mythos' benägenhet att missa vissa säkerhetsluckor. Även om Mythos har lyckats identifiera 271 sårbarheter i Firefox, var dessa inte svårare att hitta än att de också kunde upptäckas av mänskliga ögon. Detta väcker frågor om AI:s nuvarande kapacitet att förbättra säkerheten inom mjukvaruutveckling.

Läckan av 512 000 rader källkod har också kastat ljus på de utmaningar som finns inom AI-utveckling och säkerhetshantering. Att så mycket känslig information kunde exponeras på grund av mänskligt fel antyder att det fortfarande finns mycket att arbeta på när det gäller att integrera AI i säkerhetsprocesser. Denna incident framhäver också risken med 'dark code' – kod som inte granskas eller testas tillräckligt innan den tas i bruk.

I Sverige, där digitalisering och AI-teknik är på frammarsch, kan lärdomar från Anthropics situation vara särskilt relevanta. Med ett ökat fokus på AI för säkerhetsändamål är det viktigt att både företag och utvecklare förstår begränsningarna och riskerna som kommer med att förlita sig på AI för säkerhetsgenomgångar.

Framöver kan vi förvänta oss en vidare utveckling av AI-verktyg som Mythos, men för att nå den fulla potentialen krävs det en balanserad kombination av mänsklig expertis och AI-kapacitet. Det är tydligt att AI inte kan ersätta mänsklig intuition och erfarenhet, men det kan fungera som ett kraftfullt komplement i jakten på en säkrare digital framtid.

FAKTAKOLL: Notering — Artikeln nämner en läcka av 512 000 rader källkod från Claude Code, vilket inte stöds av källmaterialet.; Artikeln använder termen 'Swiss cheese model' för att beskriva Mythos, vilket inte finns i källmaterialet.; Det finns ingen information i källmaterialet om att Mythos specifikt identifierade 271 sårbarheter i Firefox.