Default
Door Remote - 05 May 2026
In het kort
Onderzoekers van Cambridge, Edinburgh en Strathclyde analyseerden 97.895 forumthreads over cybercriminaliteit die na de lancering van ChatGPT waren gepost.
“Dark AI”-tools zoals WormGPT zorgden voor culturele buzz, maar produceerden vrijwel geen werkende malware, terwijl het steeds moeilijker wordt om gejailbreakte chatbots langer dan een paar dagen te laten werken.
De grootste meetbare door AI aangestuurde misdaad is niet hacken. Het is in massa geproduceerde SEO-spam, romantische oplichting en door AI gegenereerde naaktfoto's die voor een dollar per stuk worden verkocht.
Drie jaar lang hebben cyberbeveiligingsbedrijven, overheden en AI-laboratoria gewaarschuwd dat generatieve AI een nieuwe generatie superkrachtige hackers zou ontketenen. Volgens een nieuw academisch artikel dat daadwerkelijk is onderzocht, gebruiken de supercharged hackers ChatGPT vooral om spam te schrijven en naaktfoto's te genereren voor de lol.
De studie, getiteld Stand-Alone Complex or Vibercrime?, werd op arXiv gepubliceerd door onderzoekers van Cambridge en andere universiteiten en heeft tot doel te begrijpen hoe de cybercriminaliteit AI feitelijk adopteert, en niet hoe leveranciers van cyberbeveiliging zeggen dat het is.
"We presenteren hier een van de eerste pogingen tot een empirisch onderzoek met gemengde methoden naar vroege patronen van GenAI-adoptie in de cybercriminaliteit," schreven onderzoekers.
Het team analyseerde 97.895 forumthreads die waren gepost nadat ChatGPT in november 2022 werd gelanceerd, afkomstig uit de CrimeBB-dataset van underground en dark web-forums van het Cambridge Cybercrime Centre. Ze voerden onderwerpmodellen uit, lazen handmatig meer dan 3.200 threads en dompelden zich etnografisch onder in de scène.
De conclusie is niet erg vleiend voor de AI-doomgemeenschap: 97,3% van de threads in de steekproef werd geclassificeerd als ‘anders’, wat betekent dat het eigenlijk helemaal niet gaat over het gebruik van AI voor misdaad. Bij slechts 1,9% was iemand betrokken die vibe-coderingstools gebruikte.
‘Niets meer dan een onbeperkte ChatGPT’Herinner je je WormGPT, FraudGPT en de golf van zogenaamd kwaadaardige chatbots die in 2023 de krantenkoppen haalden? De forumgegevens vertellen een ander verhaal.
De onderzoekers ontdekten dat de meeste berichten over ‘Dark AI’-producten mensen waren die smeekten om gratis toegang, ijdele speculaties en klachten dat de tools niet echt werkten. Eén ontwikkelaar van een populaire Dark AI-service gaf uiteindelijk aan forumleden toe dat het product een marketingoefening was.
“Uiteindelijk is [CybercrimeAI] niets meer dan een onbeperkte ChatGPT”, schreef de ontwikkelaar voordat het project werd afgesloten. “Iedereen op internet kan een bekende jailbreaktechniek gebruiken en dezelfde, zo niet betere, resultaten bereiken.”
Eind 2024, zeggen de onderzoekers, waren jailbreaks voor reguliere modellen wegwerpbaar geworden. De meesten stoppen binnen een week of minder met werken. Open-sourcemodellen kunnen voor onbepaalde tijd worden gejailbreakt, maar ze zijn traag, vergen veel middelen en zijn bevroren in de tijd.
“Vangrails voor AI-systemen blijken zowel nuttig als effectief te zijn”, concluderen de auteurs, in wat zij zelf een contra-intuïtieve bevinding voor een kritisch artikel noemen.
Vibe-codering is echt. Vibe-hacking is dat meestal niet. De krant gaat rechtstreeks in op het veelbesproken rapport van Anthropic uit augustus 2025, waarin wordt beweerd dat Claude Code is gebruikt om een afpersingscampagne voor 'vibe-hacking' tegen 17 organisaties uit te voeren. De gegevens van het Cambridge-team laten dit patroon eenvoudigweg niet zien in de bredere underground.
In de forums die ze hebben bestudeerd, worden AI-codeerassistenten op dezelfde manier gebruikt als reguliere ontwikkelaars ze gebruiken: als autocomplete en Stack Overflow-vervangingen voor reeds ervaren programmeurs. Acteurs met weinig vaardigheden houden zich aan kant-en-klare scripts, omdat kant-en-klare scripts werken.
De onderzoekers ontdekten dat zelfs hackers hun vibe-gecodeerde hacktools niet vertrouwen. "AI-ondersteunde codering is een tweesnijdend zwaard. Het zal de ontwikkeling versnellen, maar vergroot ook de risico's zoals onveilige code en kwetsbaarheden in de toeleveringsketen", zei een gebruiker op een forum dat werd gevolgd door onderzoekers.
Een ander waarschuwde voor het verlies van vaardigheden op de lange termijn: "Het is nu duidelijk dat het gebruik van AI voor code een zeer snelle negatieve achteruitgang van je vaardigheden veroorzaakt", schreef een hacker op een forum, "Als je doel alleen maar is om SaaS-zwendel uit te voeren en je geeft niet om de kwaliteit/beveiliging/prestaties van code, kan het haalbaar zijn om code uit te voeren. (Lijkt ook haalbaar voor phishing)."
Dit staat in schril contrast met de alarmerende voorspellingen van Europol, die in 2025 waarschuwden dat volledig autonome AI ooit criminele netwerken zou kunnen controleren.
Waar AI criminelen daadwerkelijk helpt Als de verstoring zich voordoet, bevindt deze zich aan de onderkant van de voedselketen.
SEO-oplichters gebruiken LLM's om blogspam op grote schaal te produceren om dalende advertentie-inkomsten na te jagen. Romantiekfraudeurs en eWhoring-operators maken gebruik van stemklonen en het genereren van afbeeldingen. Snel rijk worden oplichters produceren door AI geschreven eBooks die voor $ 20 per stuk worden verkocht.
De meest verontrustende markt die de onderzoekers vonden, was diensten voor het genereren van naaktbeelden. Eén telefoniste adverteerde: “Ik kan elk meisje naakt maken met een AI… 1 foto = $1, 10 foto’s = $8, 50 foto’s = $40, 90 foto’s $75.”
Dit alles is geen geavanceerde cybercriminaliteit. Het is dezelfde drukte met lage marges en grote volumes die de spamindustrie twintig jaar lang heeft aangedreven, maar draait nu op iets betere tools.
De slotobservatie van de onderzoekers is de meest scherpe. De grootste manier waarop AI uiteindelijk het ecosysteem van cybercriminaliteit verstoort, zo suggereren zij, is misschien niet door criminelen capabeler te maken. Dit kan zijn door ontslagen ontwikkelaars van legitieme technologie naar de underground te duwen op zoek naar werk.
“De afgelopen maanden is de bezorgdheid over de verstoring van de arbeidsmarkt als gevolg van deze instrumenten explosief toegenomen”, aldus de krant. “Dit zou uiteindelijk de belangrijkste manier kunnen zijn waarop generatieve AI-tools het ecosysteem van cybercriminaliteit ontwrichten: massaontslagen, economische neergang en een coole arbeidsmarkt die legitieme, meer bekwame ontwikkelaars in de ondergrondse gemeenschappen duwen van snel rijk worden, fraude en cybercriminaliteit.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Onderzoekers van Cambridge, Edinburgh en Strathclyde analyseerden 97.895 forumthreads over cybercriminaliteit die na de lancering van ChatGPT waren gepost.
“Dark AI”-tools zoals WormGPT zorgden voor culturele buzz, maar produceerden vrijwel geen werkende malware, terwijl het steeds moeilijker wordt om gejailbreakte chatbots langer dan een paar dagen te laten werken.
De grootste meetbare door AI aangestuurde misdaad is niet hacken. Het is in massa geproduceerde SEO-spam, romantische oplichting en door AI gegenereerde naaktfoto's die voor een dollar per stuk worden verkocht.
Drie jaar lang hebben cyberbeveiligingsbedrijven, overheden en AI-laboratoria gewaarschuwd dat generatieve AI een nieuwe generatie superkrachtige hackers zou ontketenen. Volgens een nieuw academisch artikel dat daadwerkelijk is onderzocht, gebruiken de supercharged hackers ChatGPT vooral om spam te schrijven en naaktfoto's te genereren voor de lol.
De studie, getiteld Stand-Alone Complex or Vibercrime?, werd op arXiv gepubliceerd door onderzoekers van Cambridge en andere universiteiten en heeft tot doel te begrijpen hoe de cybercriminaliteit AI feitelijk adopteert, en niet hoe leveranciers van cyberbeveiliging zeggen dat het is.
"We presenteren hier een van de eerste pogingen tot een empirisch onderzoek met gemengde methoden naar vroege patronen van GenAI-adoptie in de cybercriminaliteit," schreven onderzoekers.
Het team analyseerde 97.895 forumthreads die waren gepost nadat ChatGPT in november 2022 werd gelanceerd, afkomstig uit de CrimeBB-dataset van underground en dark web-forums van het Cambridge Cybercrime Centre. Ze voerden onderwerpmodellen uit, lazen handmatig meer dan 3.200 threads en dompelden zich etnografisch onder in de scène.
De conclusie is niet erg vleiend voor de AI-doomgemeenschap: 97,3% van de threads in de steekproef werd geclassificeerd als ‘anders’, wat betekent dat het eigenlijk helemaal niet gaat over het gebruik van AI voor misdaad. Bij slechts 1,9% was iemand betrokken die vibe-coderingstools gebruikte.
‘Niets meer dan een onbeperkte ChatGPT’Herinner je je WormGPT, FraudGPT en de golf van zogenaamd kwaadaardige chatbots die in 2023 de krantenkoppen haalden? De forumgegevens vertellen een ander verhaal.
De onderzoekers ontdekten dat de meeste berichten over ‘Dark AI’-producten mensen waren die smeekten om gratis toegang, ijdele speculaties en klachten dat de tools niet echt werkten. Eén ontwikkelaar van een populaire Dark AI-service gaf uiteindelijk aan forumleden toe dat het product een marketingoefening was.
“Uiteindelijk is [CybercrimeAI] niets meer dan een onbeperkte ChatGPT”, schreef de ontwikkelaar voordat het project werd afgesloten. “Iedereen op internet kan een bekende jailbreaktechniek gebruiken en dezelfde, zo niet betere, resultaten bereiken.”
Eind 2024, zeggen de onderzoekers, waren jailbreaks voor reguliere modellen wegwerpbaar geworden. De meesten stoppen binnen een week of minder met werken. Open-sourcemodellen kunnen voor onbepaalde tijd worden gejailbreakt, maar ze zijn traag, vergen veel middelen en zijn bevroren in de tijd.
“Vangrails voor AI-systemen blijken zowel nuttig als effectief te zijn”, concluderen de auteurs, in wat zij zelf een contra-intuïtieve bevinding voor een kritisch artikel noemen.
Vibe-codering is echt. Vibe-hacking is dat meestal niet. De krant gaat rechtstreeks in op het veelbesproken rapport van Anthropic uit augustus 2025, waarin wordt beweerd dat Claude Code is gebruikt om een afpersingscampagne voor 'vibe-hacking' tegen 17 organisaties uit te voeren. De gegevens van het Cambridge-team laten dit patroon eenvoudigweg niet zien in de bredere underground.
In de forums die ze hebben bestudeerd, worden AI-codeerassistenten op dezelfde manier gebruikt als reguliere ontwikkelaars ze gebruiken: als autocomplete en Stack Overflow-vervangingen voor reeds ervaren programmeurs. Acteurs met weinig vaardigheden houden zich aan kant-en-klare scripts, omdat kant-en-klare scripts werken.
De onderzoekers ontdekten dat zelfs hackers hun vibe-gecodeerde hacktools niet vertrouwen. "AI-ondersteunde codering is een tweesnijdend zwaard. Het zal de ontwikkeling versnellen, maar vergroot ook de risico's zoals onveilige code en kwetsbaarheden in de toeleveringsketen", zei een gebruiker op een forum dat werd gevolgd door onderzoekers.
Een ander waarschuwde voor het verlies van vaardigheden op de lange termijn: "Het is nu duidelijk dat het gebruik van AI voor code een zeer snelle negatieve achteruitgang van je vaardigheden veroorzaakt", schreef een hacker op een forum, "Als je doel alleen maar is om SaaS-zwendel uit te voeren en je geeft niet om de kwaliteit/beveiliging/prestaties van code, kan het haalbaar zijn om code uit te voeren. (Lijkt ook haalbaar voor phishing)."
Dit staat in schril contrast met de alarmerende voorspellingen van Europol, die in 2025 waarschuwden dat volledig autonome AI ooit criminele netwerken zou kunnen controleren.
Waar AI criminelen daadwerkelijk helpt Als de verstoring zich voordoet, bevindt deze zich aan de onderkant van de voedselketen.
SEO-oplichters gebruiken LLM's om blogspam op grote schaal te produceren om dalende advertentie-inkomsten na te jagen. Romantiekfraudeurs en eWhoring-operators maken gebruik van stemklonen en het genereren van afbeeldingen. Snel rijk worden oplichters produceren door AI geschreven eBooks die voor $ 20 per stuk worden verkocht.
De meest verontrustende markt die de onderzoekers vonden, was diensten voor het genereren van naaktbeelden. Eén telefoniste adverteerde: “Ik kan elk meisje naakt maken met een AI… 1 foto = $1, 10 foto’s = $8, 50 foto’s = $40, 90 foto’s $75.”
Dit alles is geen geavanceerde cybercriminaliteit. Het is dezelfde drukte met lage marges en grote volumes die de spamindustrie twintig jaar lang heeft aangedreven, maar draait nu op iets betere tools.
De slotobservatie van de onderzoekers is de meest scherpe. De grootste manier waarop AI uiteindelijk het ecosysteem van cybercriminaliteit verstoort, zo suggereren zij, is misschien niet door criminelen capabeler te maken. Dit kan zijn door ontslagen ontwikkelaars van legitieme technologie naar de underground te duwen op zoek naar werk.
“De afgelopen maanden is de bezorgdheid over de verstoring van de arbeidsmarkt als gevolg van deze instrumenten explosief toegenomen”, aldus de krant. “Dit zou uiteindelijk de belangrijkste manier kunnen zijn waarop generatieve AI-tools het ecosysteem van cybercriminaliteit ontwrichten: massaontslagen, economische neergang en een coole arbeidsmarkt die legitieme, meer bekwame ontwikkelaars in de ondergrondse gemeenschappen duwen van snel rijk worden, fraude en cybercriminaliteit.”
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!