Default
Door Remote - 09 Jun 2026
In het kort
Onderzoekers hebben een door AI aangedreven worm gedemonstreerd die kwetsbaarheden kan vinden, aanvalsplannen kan genereren en zich autonoom over een netwerk kan verspreiden.
In tegenstelling tot de meeste eerdere versies draait de malware op geïnfecteerde machines en maakt gebruik van open-weight-modellen in plaats van cloudservices.
De auteurs beweren dat het werk aantoont dat AI-gestuurde cyberaanvallen de theorie voorbij zijn gegaan.
Vooruitgang op het gebied van AI-agents zou de deur kunnen openen voor een nieuwe bedreiging voor de cyberveiligheid: adaptieve computerwormen die in staat zijn om on-the-fly aanvalsstrategieën te genereren en zich autonoom over netwerken te verspreiden, waarschuwt nieuw onderzoek.
Het artikel, van onderzoekers van de Universiteit van Toronto, Vector Institute, University of Cambridge en ServiceNow, beschrijft een proof-of-concept AI-aangedreven worm die kwetsbaarheden kan identificeren, op maat gemaakte aanvalspaden kan bedenken, systemen kan compromitteren en zichzelf kan repliceren over een netwerk, terwijl hij zijn tactieken aan verschillende doelen aanpast.
“We moeten ons voorbereiden op autonome generatieve tegenstanders”, schreven de onderzoekers. “Malwaresystemen die zich verspreiden zonder menselijke tussenkomst en niet worden gedefinieerd door vaste exploitcode, maar door het vermogen om over doelen te redeneren, zich aan te passen aan observaties en aanvalslogica in realtime te synthetiseren.”
Een computerworm is zelfreplicerende malware die zich automatisch over kwetsbare netwerken verspreidt. Wormuitbraken, waaronder de ILOVEYOU-malware in 2000 en WannaCry in 2017, infecteerden miljoenen computers over de hele wereld, ontwrichtten kritieke diensten en veroorzaakten miljarden dollars aan schade.
Meer recentelijk liet de Shai-Hulud-malware zien hoe zichzelf verspreidende aanvallen zich online kunnen verspreiden en software kunnen infecteren die wordt gebruikt door grote bedrijven, waaronder OpenAI en Mistral.
Volgens de nieuwe studie zeggen onderzoekers dat wat hun AI-aangedreven worm onderscheidt van eerdere versies, het vermogen is om zich aan verschillende doelen aan te passen, waarbij een groot taalmodel wordt gebruikt om kwetsbaarheden te identificeren en aanvalsstrategieën in realtime te genereren in plaats van te vertrouwen op een vaste reeks exploits.
“Traditionele wormen, zoals WannaCry, maakten misbruik van vooraf bepaalde kwetsbaarheden, en de verspreiding ervan kan worden gestopt door die kwetsbaarheden te patchen”, schreven ze. “Hier laten we zien dat kunstmatige intelligentieagenten een fundamenteel nieuwe dreiging mogelijk maken: een worm die aanvalsstrategieën op maat genereert voor elk doelwit dat hij tegenkomt.”
In het onderzoek testte het team de worm in een geïsoleerd virtueel netwerk met 33 Linux-, Windows- en IoT-systemen vol met veelvoorkomende kwetsbaarheden. Tijdens 15 experimenten identificeerde de worm gemiddeld 31,3 kwetsbaarheden, bracht met succes 23,1 hosts in gevaar en verspreidde zich naar ongeveer 20 machines gedurende zeven dagen van autonome werking.
Uit sommige tests bleek dat de malware zeven generaties van zelfreplicatie kon bereiken, en in tegenstelling tot veel AI-toepassingen was de worm niet afhankelijk van toegang tot AI-clouddiensten.
In plaats van te vertrouwen op de cloudinfrastructuur van providers als AWS, Microsoft Azure of Google Cloud, voerde de malware AI-modellen rechtstreeks uit op besmette machines. Terwijl de infectie zich verspreidde, werden geïnfecteerde systemen feitelijk onderdeel van de computerinfrastructuur.
Onderzoekers ontdekten ook dat het systeem kwetsbaarheden kon misbruiken die werden onthuld nadat de training van het model was stopgezet door nieuw gepubliceerde beveiligingsadviezen tijdens runtime op te nemen, waardoor het informatie kon opnemen die geen deel uitmaakte van de oorspronkelijke trainingsgegevens van het model.
Hoewel de tests in een gecontroleerde omgeving werden uitgevoerd, erkenden de auteurs de aard van het werk voor tweeërlei gebruik en hielden ze opzettelijk enkele technische details achter om het risico op misbruik te verminderen.
“Voordat we deze preprint uitbrachten, hebben we het manuscript bewerkt om ervoor te zorgen dat de presentatie van onze methode een evenwicht biedt tussen de diepgang van de details die de gemeenschap nodig heeft om deze nieuwe dreiging te bestuderen en het risico dat een kwaadwillende actor onze methode gebruikt voor het maken van malware,” zeiden ze.
Desondanks zeiden de onderzoekers dat het project bedoeld is om de risico's van adaptieve computerwormen beter te begrijpen en bewijs te leveren van hoe ver de door AI ondersteunde cybercapaciteiten zijn gevorderd.
“Het aanpakken van deze dreiging vereist daarom gecoördineerde actie binnen de onderzoeks-, veiligheids-, industrie- en beleidsgemeenschappen: evaluatiekaders die de capaciteiten op harnasniveau testen, detectiesystemen die zijn afgestemd op de gedragskenmerken van autonome agenten, en regelgevende maatregelen die rekening houden met het gedecentraliseerde karakter van open-weight gevolgtrekkingen”, schreven ze.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Onderzoekers hebben een door AI aangedreven worm gedemonstreerd die kwetsbaarheden kan vinden, aanvalsplannen kan genereren en zich autonoom over een netwerk kan verspreiden.
In tegenstelling tot de meeste eerdere versies draait de malware op geïnfecteerde machines en maakt gebruik van open-weight-modellen in plaats van cloudservices.
De auteurs beweren dat het werk aantoont dat AI-gestuurde cyberaanvallen de theorie voorbij zijn gegaan.
Vooruitgang op het gebied van AI-agents zou de deur kunnen openen voor een nieuwe bedreiging voor de cyberveiligheid: adaptieve computerwormen die in staat zijn om on-the-fly aanvalsstrategieën te genereren en zich autonoom over netwerken te verspreiden, waarschuwt nieuw onderzoek.
Het artikel, van onderzoekers van de Universiteit van Toronto, Vector Institute, University of Cambridge en ServiceNow, beschrijft een proof-of-concept AI-aangedreven worm die kwetsbaarheden kan identificeren, op maat gemaakte aanvalspaden kan bedenken, systemen kan compromitteren en zichzelf kan repliceren over een netwerk, terwijl hij zijn tactieken aan verschillende doelen aanpast.
“We moeten ons voorbereiden op autonome generatieve tegenstanders”, schreven de onderzoekers. “Malwaresystemen die zich verspreiden zonder menselijke tussenkomst en niet worden gedefinieerd door vaste exploitcode, maar door het vermogen om over doelen te redeneren, zich aan te passen aan observaties en aanvalslogica in realtime te synthetiseren.”
Een computerworm is zelfreplicerende malware die zich automatisch over kwetsbare netwerken verspreidt. Wormuitbraken, waaronder de ILOVEYOU-malware in 2000 en WannaCry in 2017, infecteerden miljoenen computers over de hele wereld, ontwrichtten kritieke diensten en veroorzaakten miljarden dollars aan schade.
Meer recentelijk liet de Shai-Hulud-malware zien hoe zichzelf verspreidende aanvallen zich online kunnen verspreiden en software kunnen infecteren die wordt gebruikt door grote bedrijven, waaronder OpenAI en Mistral.
Volgens de nieuwe studie zeggen onderzoekers dat wat hun AI-aangedreven worm onderscheidt van eerdere versies, het vermogen is om zich aan verschillende doelen aan te passen, waarbij een groot taalmodel wordt gebruikt om kwetsbaarheden te identificeren en aanvalsstrategieën in realtime te genereren in plaats van te vertrouwen op een vaste reeks exploits.
“Traditionele wormen, zoals WannaCry, maakten misbruik van vooraf bepaalde kwetsbaarheden, en de verspreiding ervan kan worden gestopt door die kwetsbaarheden te patchen”, schreven ze. “Hier laten we zien dat kunstmatige intelligentieagenten een fundamenteel nieuwe dreiging mogelijk maken: een worm die aanvalsstrategieën op maat genereert voor elk doelwit dat hij tegenkomt.”
In het onderzoek testte het team de worm in een geïsoleerd virtueel netwerk met 33 Linux-, Windows- en IoT-systemen vol met veelvoorkomende kwetsbaarheden. Tijdens 15 experimenten identificeerde de worm gemiddeld 31,3 kwetsbaarheden, bracht met succes 23,1 hosts in gevaar en verspreidde zich naar ongeveer 20 machines gedurende zeven dagen van autonome werking.
Uit sommige tests bleek dat de malware zeven generaties van zelfreplicatie kon bereiken, en in tegenstelling tot veel AI-toepassingen was de worm niet afhankelijk van toegang tot AI-clouddiensten.
In plaats van te vertrouwen op de cloudinfrastructuur van providers als AWS, Microsoft Azure of Google Cloud, voerde de malware AI-modellen rechtstreeks uit op besmette machines. Terwijl de infectie zich verspreidde, werden geïnfecteerde systemen feitelijk onderdeel van de computerinfrastructuur.
Onderzoekers ontdekten ook dat het systeem kwetsbaarheden kon misbruiken die werden onthuld nadat de training van het model was stopgezet door nieuw gepubliceerde beveiligingsadviezen tijdens runtime op te nemen, waardoor het informatie kon opnemen die geen deel uitmaakte van de oorspronkelijke trainingsgegevens van het model.
Hoewel de tests in een gecontroleerde omgeving werden uitgevoerd, erkenden de auteurs de aard van het werk voor tweeërlei gebruik en hielden ze opzettelijk enkele technische details achter om het risico op misbruik te verminderen.
“Voordat we deze preprint uitbrachten, hebben we het manuscript bewerkt om ervoor te zorgen dat de presentatie van onze methode een evenwicht biedt tussen de diepgang van de details die de gemeenschap nodig heeft om deze nieuwe dreiging te bestuderen en het risico dat een kwaadwillende actor onze methode gebruikt voor het maken van malware,” zeiden ze.
Desondanks zeiden de onderzoekers dat het project bedoeld is om de risico's van adaptieve computerwormen beter te begrijpen en bewijs te leveren van hoe ver de door AI ondersteunde cybercapaciteiten zijn gevorderd.
“Het aanpakken van deze dreiging vereist daarom gecoördineerde actie binnen de onderzoeks-, veiligheids-, industrie- en beleidsgemeenschappen: evaluatiekaders die de capaciteiten op harnasniveau testen, detectiesystemen die zijn afgestemd op de gedragskenmerken van autonome agenten, en regelgevende maatregelen die rekening houden met het gedecentraliseerde karakter van open-weight gevolgtrekkingen”, schreven ze.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!