Sedan lanseringen av ChatGPT i slutet av 2022 har generativ AI visat sig vara ett kraftfullt verktyg för att generera stora mängder text som efterhärmar mänsklig kommunikation. Denna kapacitet har snabbt fångat intresset hos cyberbrottslingar, som nu använder stora språkmodeller för att skapa allt från massutskick av spam till mer riktade och sofistikerade phishing-attacker.

AI-teknikens förmåga att producera övertygande mänsklig text innebär att phishing-e-postmeddelanden kan skräddarsys för att verka ännu mer tillförlitliga. Dessa meddelanden kan lura användare att lämna ifrån sig känslig information som lösenord och bankdetaljer. I Sverige och Norden, där digitaliseringen är hög och AI-teknik snabbt integreras i vardagen, finns det en särskild risk att dessa AI-drivna bedrägerier får fäste.

Ett av de alarmerande exemplen är hur kriminella använder AI för att inte bara skapa text, utan också för att generera hyperrealistiska deepfakes och anpassa skadlig programvara så att den blir svårare att upptäcka. AI kan även automatisera sökandet efter sårbarheter i nätverk och system, vilket påskyndar processen för att hitta och utnyttja säkerhetsbrister.

Trots den ökande hotbilden finns det också hoppfulla tecken. AI används även inom cybersäkerhet för att försvara mot dessa avancerade attacker. Företag som Microsoft hanterar dagligen miljarder potentiellt skadliga signaler med hjälp av AI, vilket har resulterat i avvärjandet av miljarder dollar i bedrägerier. Dessa system kan snabbt identifiera och blockera många av de enklare attackerna, men de mer sofistikerade angreppen kräver fortsatt utveckling av försvarsmekanismer.

För svenska företag och användare är det nu viktigare än någonsin att hålla sina system uppdaterade och följa strikta säkerhetsprotokoll. Genom att utbilda personal och allmänheten om riskerna med AI-drivna bedrägerier kan vi bättre skydda oss mot dessa hot. Den ständigt föränderliga karaktären av cyberhot kräver att vi anpassar våra försvarsstrategier i takt med att teknologin utvecklas, för att fortsatt kunna garantera säkerheten i vår digitala miljö.