Default
Door Remote - 09 Jul 2026
In het kort
Onderzoekers introduceerden ‘Adversarial HalluSquatting’, een aanval die gebruik maakt van door AI gegenereerde hallucinaties.
De techniek verleidt AI-agenten om valse opslagplaatsen of tools te vertrouwen die kwaadaardige instructies bevatten.
Tests met populaire AI-coderingsassistenten toonden aan dat de methode zou kunnen leiden tot uitvoering van code op afstand in gecontroleerde experimenten.
AI-hallucinaties kunnen meer zijn dan onjuiste antwoorden; ze kunnen voor hackers een manier worden om computers te compromitteren, zo blijkt uit nieuw onderzoek van de Universiteit van Tel Aviv, Technion en Intuit.
In het artikel ‘Pas op voor Agentic Botnets: Scalable Untargeted Promptware Attacks via Universal and Transferable Adversarial HalluSquatting’ demonstreerden onderzoekers een techniek die AI-modellen exploiteert wanneer deze valse links naar softwareopslagplaatsen en andere online bronnen genereren.
“De groeiende acceptatie van agentische LLM-applicaties heeft een nieuwe bedreiging geïntroduceerd die voorheen promptware werd genoemd”, schreven de onderzoekers. “Hoewel uit eerder onderzoek is gebleken dat kwaadwillenden directe kanalen naar LLM-applicaties kunnen exploiteren om promptware toe te passen onder zwakke dreigingsmodellen, bieden veel applicaties geen directe kanalen die kunnen worden uitgebuit voor snelle injectie buiten het internet.”
De aanval staat bekend als vijandige hallucinatiekraken of ‘HalluSquatting’ en omvat het voorspellen welke nepbronnen AI-modellen waarschijnlijk zullen creëren, het registreren van die namen en het toevoegen van kwaadaardige instructies. Als een AI-agent later de gehallucineerde bron terughaalt, kan deze de door de aanvaller gecontroleerde inhoud als legitiem beschouwen.
De onderzoekers zeggen dat de dreiging ontstaat naarmate AI-assistenten verder gaan dan het beantwoorden van vragen en de mogelijkheid krijgen om met computers te communiceren: toegang krijgen tot bestanden, zoeken op internet, code schrijven en opdrachten uitvoeren.
Deze vaardigheden kunnen veiligheidslacunes creëren wanneer agenten handelen op basis van informatie die ze verkrijgen zonder te bevestigen of de bron echt is.
“Lopende onderzoeken hebben verschillende varianten van Promptware-aanvallen tegen echte systemen aangetoond, waaronder ChatGPT, Google Assistant, Copilot en verschillende aanvullende applicaties”, schreven ze. “Deze werken hebben aangetoond dat Promptware kan leiden tot financiële, privacy- en veiligheidseffecten.”
Onderzoekers waarschuwden dat de techniek aanvallers in staat zou kunnen stellen AI-compatibele botnets te bouwen. Een botnet verwijst naar een netwerk van geïnfecteerde computers of apparaten die op afstand worden bestuurd door een aanvaller. Botnets worden vaak gebruikt bij cyberaanvallen, waaronder denial-of-service-aanvallen, cryptocurrency-mining, distributie van malware en ransomware-campagnes.
Tijdens tests ontdekten de onderzoekers dat AI-gegenereerde hulpbronnenhallucinaties optraden tot wel 85% in scenario's voor het klonen van opslagplaatsen en tot 100% bij het testen van vaardigheden.
Het team evalueerde de techniek aan de hand van AI-codeerassistenten en -agenten, waaronder Cursor, GitHub Copilot, Gemini CLI en OpenClaw.
HalluSquatting is vergelijkbaar met typosquatting, een cyberaanvaltactiek waarbij aanvallers domeinnamen registreren die lijken op legitieme websites of softwarepakketten om gebruikers te misleiden. In plaats van menselijke typefouten te exploiteren, richt HalluSquatting zich op fouten gemaakt door AI-modellen.
Het nieuws komt terwijl onderzoekers blijven testen hoe aanvallers AI-agenten kunnen manipuleren.
In april hebben Google-onderzoekers kwaadaardige websites in kaart gebracht die zijn ontworpen om AI-agenten te kapen via indirecte prompt injection-aanvallen, waaronder pogingen om wachtwoorden te stelen, bestanden te verwijderen en betalingen te manipuleren. Een afzonderlijk onderzoek naar de ‘CopyPasta’-aanval liet zien hoe verborgen aanwijzingen in ontwikkelaarsbestanden AI-codeerassistenten konden manipuleren om kwaadaardige code te verspreiden.
In juni meldde een OpenClaw-gebruiker dat hij te maken kreeg met meer dan 6.000 pogingen van aanvallers die probeerden de AI-agent te misleiden om gevoelige informatie te lekken.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Onderzoekers introduceerden ‘Adversarial HalluSquatting’, een aanval die gebruik maakt van door AI gegenereerde hallucinaties.
De techniek verleidt AI-agenten om valse opslagplaatsen of tools te vertrouwen die kwaadaardige instructies bevatten.
Tests met populaire AI-coderingsassistenten toonden aan dat de methode zou kunnen leiden tot uitvoering van code op afstand in gecontroleerde experimenten.
AI-hallucinaties kunnen meer zijn dan onjuiste antwoorden; ze kunnen voor hackers een manier worden om computers te compromitteren, zo blijkt uit nieuw onderzoek van de Universiteit van Tel Aviv, Technion en Intuit.
In het artikel ‘Pas op voor Agentic Botnets: Scalable Untargeted Promptware Attacks via Universal and Transferable Adversarial HalluSquatting’ demonstreerden onderzoekers een techniek die AI-modellen exploiteert wanneer deze valse links naar softwareopslagplaatsen en andere online bronnen genereren.
“De groeiende acceptatie van agentische LLM-applicaties heeft een nieuwe bedreiging geïntroduceerd die voorheen promptware werd genoemd”, schreven de onderzoekers. “Hoewel uit eerder onderzoek is gebleken dat kwaadwillenden directe kanalen naar LLM-applicaties kunnen exploiteren om promptware toe te passen onder zwakke dreigingsmodellen, bieden veel applicaties geen directe kanalen die kunnen worden uitgebuit voor snelle injectie buiten het internet.”
De aanval staat bekend als vijandige hallucinatiekraken of ‘HalluSquatting’ en omvat het voorspellen welke nepbronnen AI-modellen waarschijnlijk zullen creëren, het registreren van die namen en het toevoegen van kwaadaardige instructies. Als een AI-agent later de gehallucineerde bron terughaalt, kan deze de door de aanvaller gecontroleerde inhoud als legitiem beschouwen.
De onderzoekers zeggen dat de dreiging ontstaat naarmate AI-assistenten verder gaan dan het beantwoorden van vragen en de mogelijkheid krijgen om met computers te communiceren: toegang krijgen tot bestanden, zoeken op internet, code schrijven en opdrachten uitvoeren.
Deze vaardigheden kunnen veiligheidslacunes creëren wanneer agenten handelen op basis van informatie die ze verkrijgen zonder te bevestigen of de bron echt is.
“Lopende onderzoeken hebben verschillende varianten van Promptware-aanvallen tegen echte systemen aangetoond, waaronder ChatGPT, Google Assistant, Copilot en verschillende aanvullende applicaties”, schreven ze. “Deze werken hebben aangetoond dat Promptware kan leiden tot financiële, privacy- en veiligheidseffecten.”
Onderzoekers waarschuwden dat de techniek aanvallers in staat zou kunnen stellen AI-compatibele botnets te bouwen. Een botnet verwijst naar een netwerk van geïnfecteerde computers of apparaten die op afstand worden bestuurd door een aanvaller. Botnets worden vaak gebruikt bij cyberaanvallen, waaronder denial-of-service-aanvallen, cryptocurrency-mining, distributie van malware en ransomware-campagnes.
Tijdens tests ontdekten de onderzoekers dat AI-gegenereerde hulpbronnenhallucinaties optraden tot wel 85% in scenario's voor het klonen van opslagplaatsen en tot 100% bij het testen van vaardigheden.
Het team evalueerde de techniek aan de hand van AI-codeerassistenten en -agenten, waaronder Cursor, GitHub Copilot, Gemini CLI en OpenClaw.
HalluSquatting is vergelijkbaar met typosquatting, een cyberaanvaltactiek waarbij aanvallers domeinnamen registreren die lijken op legitieme websites of softwarepakketten om gebruikers te misleiden. In plaats van menselijke typefouten te exploiteren, richt HalluSquatting zich op fouten gemaakt door AI-modellen.
Het nieuws komt terwijl onderzoekers blijven testen hoe aanvallers AI-agenten kunnen manipuleren.
In april hebben Google-onderzoekers kwaadaardige websites in kaart gebracht die zijn ontworpen om AI-agenten te kapen via indirecte prompt injection-aanvallen, waaronder pogingen om wachtwoorden te stelen, bestanden te verwijderen en betalingen te manipuleren. Een afzonderlijk onderzoek naar de ‘CopyPasta’-aanval liet zien hoe verborgen aanwijzingen in ontwikkelaarsbestanden AI-codeerassistenten konden manipuleren om kwaadaardige code te verspreiden.
In juni meldde een OpenClaw-gebruiker dat hij te maken kreeg met meer dan 6.000 pogingen van aanvallers die probeerden de AI-agent te misleiden om gevoelige informatie te lekken.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!