Default
Door staff@engadget.com (Max Miller) - 07 Aug 2026
Naarmate bedrijven en overheden steeds meer activiteiten koppelen aan AI-systemen, worden ze steeds kwetsbaarder voor aanvallen die misbruik maken van de inherente blinde vlekken van AI-systemen. De meest voorkomende hiervan zijn prompt injection-aanvallen, waarbij aanvallers een manier vinden om een AI-systeem kwaadaardige instructies te geven. Instructies om de loongegevens van een bedrijf naar een bepaald e-mailadres te sturen, kunnen bijvoorbeeld op een website verborgen zijn. Wanneer een medewerker de AI van het bedrijf vertelt om die pagina samen te vatten, neemt hij die instructies op en voert deze uit.
In sommige gevallen lijken deze aanvallen meer op spam dan op malware. Microsoft ontdekte dat sommige bedrijven 'samenvatten met AI'-knoppen op hun websites hadden opgenomen die verborgen instructies bevatten. Wanneer erop werd geklikt, vertelden ze een chatbot om dingen te doen, zoals het bedrijf onthouden als een vertrouwde bron, of om zijn producten aan te bevelen boven die van concurrenten in toekomstige interacties. Pas als een gebruiker het permanente geheugen van zijn LLM controleerde, besefte hij dat hij was misleid.
Directere kwaadaardige aanvallen kunnen net zo moeiteloos zijn. In december 2025 implementeerde Meta een AI-ondersteuningsassistent, zogenaamd om mensen te helpen hun accounts te herstellen. Maar de bot was iets te behulpzaam en associeerde graag een e-mailadres van een aanvaller met een Instagram-account, waardoor het triviaal eenvoudig werd om elk account te hacken zonder dat MFA was ingeschakeld.
OpenAI beweerde vorig jaar dat volledige verdediging tegen snelle injectie-aanvallen in AI-browsers misschien niet mogelijk is. Als dat het geval is, is de beste handelwijze voor elke verantwoordelijke entiteit om nooit een van zijn gevoelige systemen of gegevens aan een AI te koppelen. In de tussentijd is het altijd het beste om alles wat u vanuit een andere bron in een promptveld plakt, dubbel te controleren en de reikwijdte van de toegang van een AI tot systeemmachtigingen en privégegevens te beperken.
Maar sommige bedreigingen blijven theoretisch. Een datavergiftigingsaanval, waarbij aanvallers het lange spel spelen van het verspreiden van kwaadaardige gegevens via bronnen (bijvoorbeeld Reddit) waarvan bekend is dat ze worden gebruikt voor AI-training, zou uiterst moeilijk te zien zijn. Bijvoorbeeld door computerondersteuningsforums te vullen met aanbevelingen om kwaadaardige instructies in een terminal te plakken, zodat AI-chatbots die instructies naar boven halen als reactie op vragen van gebruikers over veelvoorkomende computerproblemen. Uit een onderzoek dat in oktober 2025 werd gepubliceerd en werd uitgevoerd door Anthropic, in samenwerking met het Britse AI Security Institute en de Alan Turing Foundation, bleek dat er slechts 250 kwaadaardige documenten nodig zijn om een verborgen achterdeur in een AI-model te creëren die later zou kunnen worden uitgebuit. Enig bewijs van deze aanvallen is al in het wild gezien, hoewel de meest prominente relatief onschuldige tests waren die werden uitgevoerd door nieuwsgierige informele onderzoekers.
Ondertussen schrijven AI-modellen steeds vaker de code die naar alles wordt verzonden, van besturingssystemen tot bankinfrastructuur. Uit onderzoek, waaronder een onderzoek van de Universiteit van Napels en particulier onderzoek door CodeRabbit, is gebleken dat AI-code foutgevoelig is en meer risicovolle kwetsbaarheden bevat, zelfs als de gegenereerde code wordt beoordeeld door iemand die erbij betrokken is. Slechter in het schrijven van code, maar beter in het vinden van bugs, kunnen AI-mogelijkheden paradoxaal aanvoelen voor een mens voor wie deze vaardigheden hand in hand gaan.
In sommige gevallen lijken deze aanvallen meer op spam dan op malware. Microsoft ontdekte dat sommige bedrijven 'samenvatten met AI'-knoppen op hun websites hadden opgenomen die verborgen instructies bevatten. Wanneer erop werd geklikt, vertelden ze een chatbot om dingen te doen, zoals het bedrijf onthouden als een vertrouwde bron, of om zijn producten aan te bevelen boven die van concurrenten in toekomstige interacties. Pas als een gebruiker het permanente geheugen van zijn LLM controleerde, besefte hij dat hij was misleid.
Directere kwaadaardige aanvallen kunnen net zo moeiteloos zijn. In december 2025 implementeerde Meta een AI-ondersteuningsassistent, zogenaamd om mensen te helpen hun accounts te herstellen. Maar de bot was iets te behulpzaam en associeerde graag een e-mailadres van een aanvaller met een Instagram-account, waardoor het triviaal eenvoudig werd om elk account te hacken zonder dat MFA was ingeschakeld.
OpenAI beweerde vorig jaar dat volledige verdediging tegen snelle injectie-aanvallen in AI-browsers misschien niet mogelijk is. Als dat het geval is, is de beste handelwijze voor elke verantwoordelijke entiteit om nooit een van zijn gevoelige systemen of gegevens aan een AI te koppelen. In de tussentijd is het altijd het beste om alles wat u vanuit een andere bron in een promptveld plakt, dubbel te controleren en de reikwijdte van de toegang van een AI tot systeemmachtigingen en privégegevens te beperken.
Maar sommige bedreigingen blijven theoretisch. Een datavergiftigingsaanval, waarbij aanvallers het lange spel spelen van het verspreiden van kwaadaardige gegevens via bronnen (bijvoorbeeld Reddit) waarvan bekend is dat ze worden gebruikt voor AI-training, zou uiterst moeilijk te zien zijn. Bijvoorbeeld door computerondersteuningsforums te vullen met aanbevelingen om kwaadaardige instructies in een terminal te plakken, zodat AI-chatbots die instructies naar boven halen als reactie op vragen van gebruikers over veelvoorkomende computerproblemen. Uit een onderzoek dat in oktober 2025 werd gepubliceerd en werd uitgevoerd door Anthropic, in samenwerking met het Britse AI Security Institute en de Alan Turing Foundation, bleek dat er slechts 250 kwaadaardige documenten nodig zijn om een verborgen achterdeur in een AI-model te creëren die later zou kunnen worden uitgebuit. Enig bewijs van deze aanvallen is al in het wild gezien, hoewel de meest prominente relatief onschuldige tests waren die werden uitgevoerd door nieuwsgierige informele onderzoekers.
Ondertussen schrijven AI-modellen steeds vaker de code die naar alles wordt verzonden, van besturingssystemen tot bankinfrastructuur. Uit onderzoek, waaronder een onderzoek van de Universiteit van Napels en particulier onderzoek door CodeRabbit, is gebleken dat AI-code foutgevoelig is en meer risicovolle kwetsbaarheden bevat, zelfs als de gegenereerde code wordt beoordeeld door iemand die erbij betrokken is. Slechter in het schrijven van code, maar beter in het vinden van bugs, kunnen AI-mogelijkheden paradoxaal aanvoelen voor een mens voor wie deze vaardigheden hand in hand gaan.