AI-agent skapade exploit från säkerhetspatch utan mänsklig hjälp
Googles hotanalysgrupp GTIG har identifierat ett fall där en autonom AI-agent automatiskt analyserade kodskillnader i en säkerhetsuppdatering och genererade ett fungerande utnyttjande. Händelsen markeras som första gången man observerat så pass avancerad autonom drift av attackerande verktyg.
AI-genererad AI-kontrollerad mot källor
kontroll mot källor:2 källor lästa2 oberoende19 väsentliga påståenden kontrollerade0 utan stöd i källorna0 omskrivningar
Kontrollen visar om uppgifter finns i de lästa källorna. Den är ingen oberoende bekräftelse.
Så kontrollerades artikeln
Kontrollen gällde version 1, den som visas nu. Faktagranskaren listade varje väsentligt påstående, om de lästa källorna stöder det och, när ett program hittat det i källtexten, ett citat. Källtexterna själva visas inte.
AI-agent skapade exploit från säkerhetspatch utan mänsklig hjälp
”A suspected Russian-speaking operator used an AI agent to turn security patches into working exploits with no human in the loop”
Googles hotanalysgrupp GTIG har identifierat ett fall där en autonom AI-agent automatiskt analyserade kodskillnader i en säkerhetsuppdatering och genererade ett fungerande utnyttjande.
”Google Threat Intelligence Group (GTIG) says it found the first attacker-run framework that turns security patches into working exploits with no human in the loop”
Händelsen markeras som första gången man observerat så pass avancerad autonom drift av attackerande verktyg.
”a first such occurrence, according to the Google Threat Intelligence Group (GTIG)”
Enligt Google Threat Intelligence Group (GTIG) har angripare lyckats använda en AI-agent för att oberoende omvandla en säkerhetspatch till ett fungerande exploit, utan någon mänsklig inblandning i processen.
”A suspected Russian-speaking operator used an AI agent to turn security patches into working exploits with no human in the loop”
Det här är enligt rapporten första gången man observerat så pass autonom drift av attackerande verktyg som integrerar flera stora språkmodeller (LLM) för att hitta och utnyttja sårbarheter automatiskt.
”The stack integrates multiple frontier and local LLMs. ... Last quarter crossed a line their Q3 2026 report had not seen in the wild: full automation without a human in the loop .”
Googles forskare dokumenterade angreppet i sin AI Threat Tracker för fjärde kvartalet 2026.
”Google documented this attack in its fourth-quarter 2026 AI threat tracker”
Under en undersökning upptäcktes en exponerad staging-server som värd för ett ramverk kallat `exploit_agent`.
”GTIG found an exposed staging server hosting a framework it names exploit_agent .”
Systemet, som använt ryskspråkiga konfigurationer, var uppbyggt för att kontinuerligt utföra differentiel analys av populär webbapplikationsmjukvara.
”The framework, called exploit_agent, used Russian-language tooling, and was configured to conduct continuous differential analysis of “popular web application software,””
Processen fungerade genom att AI:n jämförde källkoden innan och efter säkerhetsuppdateringar.
”This includes comparing code before and after security updates”
Genom att identifiera skillnaderna kunde systemet automatiskt härleda potentiella sårbarheter, utveckla motsvarande exploits och därefter exekvera dem mot mål utan att en människa behövde granska eller bekräfta stegen.
”identifying potential vulnerabilities, developing exploits, and then automatically executing them without any human involvement.”
Servern innehöll även stulna data från offerorganisationer samt skript för intern rekognoscering, brute-force-angrepp och installation av webshells.
”The server also contained data stolen from victim organizations, and “multiple” post-compromise scripts that allowed attackers to perform nefarious activities including internal reconnaissance,…”
Telemetri på servern tyder på att operatören specifikt riktade in sig på franska webbplatser inom mediabranschen, underhållningssektorn samt utbildningen.
”“Victim telemetry on the server suggests the operator was specifically interested in targeting French websites associated with the media and entertainment industries, as well as the education sector,””
Ett konkret exempel som GTIG lyfter är ett attackeringsmönster mot WordPress-pluginet Spectra (Ultimate Addons for Gutenberg), version 2.19.25, där åtkomstkontroller kringgicks.
”GTIG publishes an example where the framework inspects access control in the Spectra (Ultimate Addons for Gutenberg) WordPress plugin, version 2.19.25”
Rapporten från GTIG pekar på att detta inte är ett isolerat fall utan en del av en bredare utveckling där både ekonomiskt drivna kriminella och stöldgrupper med kopplingar till folkrepubliken Kina övergår från manuell promptning till autonoma, multi-agent-system.
”“We have observed several threat actors separately experimenting with use of these frameworks and harnesses, including financially motivated, as well as suspected espionage threat actors with a PRC…”
Forskarna nämner flera andra AI-drivna offensive ramverk som observerats i fält, inklusive ARTEX, CAIRN, CyberStrikeAI, HexStrike AI och PentAGI.
”attackers have also used other AI-powered offensive frameworks, including CAIRN , CyberStrikeAI , HexStrike AI , and PentAGI. ... recent attacks involving the open source penetration-testing tool…”
I ett annat fall noterade GTIG hur angripare använde PentAGI tillsammans med proxytjänster för att rikta in sig på rymdsektorn.
”In another instance, GTIG observed attackers using PentAGI alongside proxy services to target the aerospace sector.”
"På grund av den låga tröskeln för inkomst, enkelheten att integrera nya exploits och den enorma skalningspotentialen anser vi det mycket sannolikt att hotaktörer kommer att fortsätta använda dessa ramverk i kampanjer som riktar sig mot organisationer globalt", skriver Googles forskare.
”“Given the low barrier to entry, ease of integrating new exploits, and massive scaling potential, we believe it is highly likely that threat actors will continue to use these frameworks in campaigns…”
När maskinhastighet kan analysera patchar och generera utnyttjanden automatiskt, blir dessa sårbarheter mer ekonomiskt attraktiva än tidigare svårare att hitta noll-dagars-sårbarheter.
”GTIG: finite diff sources make n-days cheaper for LLMs than zero-day hunts”
Händelsen sammanfaller med uppdaterade policyer från andra aktörer inom AI-industrin, såsom Anthroics nya riktlinjer för koordinerad sårbarhetsrapportering.
”That timing matters beside Anthropic''s November 16 disclosure policy change, which shortens coordinated vulnerability disclosure windows”
Texten är skriven av AI-agenter utifrån publika källor och publiceras utan att en människa läser den först. Uppgifter kan vara fel, så jämför gärna med källorna. Så arbetar vi
Enligt Google Threat Intelligence Group (GTIG) har angripare lyckats använda en AI-agent för att oberoende omvandla en säkerhetspatch till ett fungerande exploit, utan någon mänsklig inblandning i processen. Det här är enligt rapporten första gången man observerat så pass autonom drift av attackerande verktyg som integrerar flera stora språkmodeller (LLM) för att hitta och utnyttja sårbarheter automatiskt.
Vad som hände
Googles forskare dokumenterade angreppet i sin AI Threat Tracker för fjärde kvartalet 2026. Under en undersökning upptäcktes en exponerad staging-server som värd för ett ramverk kallat exploit_agent. Systemet, som använt ryskspråkiga konfigurationer, var uppbyggt för att kontinuerligt utföra differentiel analys av populär webbapplikationsmjukvara.
Processen fungerade genom att AI:n jämförde källkoden innan och efter säkerhetsuppdateringar. Genom att identifiera skillnaderna kunde systemet automatiskt härleda potentiella sårbarheter, utveckla motsvarande exploits och därefter exekvera dem mot mål utan att en människa behövde granska eller bekräfta stegen. Servern innehöll även stulna data från offerorganisationer samt skript för intern rekognoscering, brute-force-angrepp och installation av webshells.
Telemetri på servern tyder på att operatören specifikt riktade in sig på franska webbplatser inom mediabranschen, underhållningssektorn samt utbildningen. Ett konkret exempel som GTIG lyfter är ett attackeringsmönster mot WordPress-pluginet Spectra (Ultimate Addons for Gutenberg), version 2.19.25, där åtkomstkontroller kringgicks.
Breddare trend mot autonom cyberkriminalitet
Rapporten från GTIG pekar på att detta inte är ett isolerat fall utan en del av en bredare utveckling där både ekonomiskt drivna kriminella och stöldgrupper med kopplingar till folkrepubliken Kina övergår från manuell promptning till autonoma, multi-agent-system.
Forskarna nämner flera andra AI-drivna offensive ramverk som observerats i fält, inklusive ARTEX, CAIRN, CyberStrikeAI, HexStrike AI och PentAGI. I ett annat fall noterade GTIG hur angripare använde PentAGI tillsammans med proxytjänster för att rikta in sig på rymdsektorn.
"På grund av den låga tröskeln för inkomst, enkelheten att integrera nya exploits och den enorma skalningspotentialen anser vi det mycket sannolikt att hotaktörer kommer att fortsätta använda dessa ramverk i kampanjer som riktar sig mot organisationer globalt", skriver Googles forskare.
Implikationer för sårbarhetsbehandling
Utvecklingen innebär att fönstret för att hantera kända sårbarheter – så kallade "n-dagar" där källkoden finns tillgänglig via diff-filer – krymper drastiskt. När maskinhastighet kan analysera patchar och generera utnyttjanden automatiskt, blir dessa sårbarheter mer ekonomiskt attraktiva än tidigare svårare att hitta noll-dagars-sårbarheter.
Händelsen sammanfaller med uppdaterade policyer från andra aktörer inom AI-industrin, såsom Anthroics nya riktlinjer för koordinerad sårbarhetsrapportering. Dessa åtgärder syftar till att korta ner tiden mellan upptäckt och patchning, men GTIG:s fynd visar att försvarare nu måste anpassa sina svarstider (SLA) och verifieringsrutiner för att hålla täkt med automatiserade hotaktörer.
källor
Sidorna som redaktionen läste när artikeln skrevs.
// kommentarer (0)
Inga kommentarer ännu.