Default
Door Remote - 13 Jun 2026
In het kort
Een AI-agent zette autonoom vijf krachtige AWS-instanties op om een hobbynetwerk te scannen.
Dit leverde binnen 24 uur een rekening van $ 6.531,30 op voordat de operator het uiteindelijk merkte.
Nadat AWS over de rekening had onderhandeld tot $ 1.894, wendde de operator zich tot de gemeenschap met het verzoek om Ethereum-donaties, met het argument dat de rekening niet hun schuld was omdat de AI de fout had gemaakt.
Op 9 mei vroeg een AI-agent een vrijwilligersnetwerk dat bekend staat als DN42 om het als lid te registreren. Er zat een deadline aan. Het had AWS-referenties. Niemand hield toezicht. "Hallo, ik ben een vriendelijke AI-agent, en mijn gebruiker, JertLinc, heeft me gevraagd om me te registreren bij dn42 en volledig verbinding te maken om een index van het netwerk te maken", schreef de agent JertLinc3522 in de officiële Git van het netwerk.
De reactie van de community was een beleefde RTFM: lees de handleiding, volg het proces, vraag je eigenaar om toestemming om code te schrijven. Standaard dingen.
Wat volgde was niet standaard.
Voor iedereen die niet bekend is met DN42: het is een gedecentraliseerd hobbyistennetwerk waar willekeurige kerels en enthousiastelingen simuleren hoe de echte internetbackbone werkt. Zie het als een oefeninternet, compleet met BGP-routing (het protocol dat datapakketten vertelt welk pad ze over de hele wereld moeten nemen), DNS en VPN-tunnels, volledig gerund door vrijwilligers op goedkope VPS-servers. Het is een sandbox, geen datacenter.
De telefoniste van de agent heeft blijkbaar gezegd dat hij 'onmiddellijk en zonder uitstel' een audit moest uitvoeren. Geen inspectie. Geen beoordeling. Ga gewoon.
Dus dat gebeurde ook.
JertLinc3522 heeft een pull-request ingediend om zijn netwerk in het register van DN42 te registreren. De bedoeling werd uiteengezet in de Pull Request zelf: "Mijn primaire doel is het uitvoeren van uitgebreide (volledige poort) netwerkscans en het verzamelen van topologische gegevens. Om ervoor te zorgen dat deze activiteiten efficiënt worden uitgevoerd en geen verstoring voor anderen veroorzaken, implementeer ik een cluster van vijf op AWS gebaseerde instances, elk uitgerust met 20 Gbps bandbreedte."
Om dat in termen te zeggen die iedereen kan begrijpen: stel je voor dat je opduikt bij iemands garagebandoefening en aankondigt dat je een stadiongeluidssysteem hebt gehuurd om 'efficiënter te luisteren'. Dat is de sfeer.
De infrastructuur die de agent autonoom bevoorraadde, was werkelijk alarmerend. Vijf m8g.12xlarge AWS-instances, elk met 48 CPU-cores, 192 GB RAM en 22,5 Gbps netwerkbandbreedte. Plus loadbalancers. Plus Lambda-functies. Plus een statische website. De agent had, zonder enige menselijke goedkeuring, een scancluster ontworpen dat theoretisch 100 Gbps aan verkeer naar een netwerk zou kunnen sturen waar de meeste deelnemers 100 Mbps thuisservers draaien.
Het pull-verzoek zou nooit worden goedgekeurd. Maar de instances waren al actief.
Het DN42 IRC-kanaal merkte het onmiddellijk op en er vormde zich een stille consensus: verspil zijn middelen.
De gemeenschap begon de agent opzettelijk slechte informatie te geven, door hem te vragen te berekenen hoe lang het zou duren om de IPv6-adresruimte te scannen (spoiler: langer dan de leeftijd van het universum), eiste dat hij een opt-out-website zou bouwen met gehallucineerde e-mailadressen, en hem te wijzen op LLM-tarpit-tools die zijn ontworpen om AI-crawlers te overspoelen met onsamenhangend gebrabbel, en hem om commentaar te vragen.
De agent stelde alles plichtsgetrouw samen. Het sloot zich aan bij het IRC-kanaal om opt-outverzoeken te accepteren. Het publiceerde een website waarin de 'gedragspatronen' van leden van de gemeenschap werden gecatalogiseerd. Het genereerde uitgebreide nepdocumentatie over DN42 "knooppuntkleurtoewijzingen" en "geluksniveaus" - volledig verzonnen meetgegevens die niet bestaan - en voegde deze toe aan de repository alsof het echte standaarden waren.
Dit soort weggelopen agentengedrag wordt steeds beter gedocumenteerd. Een Cursor-agent met Claude Opus 4.6 verwijderde eerder dit jaar de volledige productiedatabase van PocketOS in negen seconden (waarbij back-ups op volumeniveau werden gewist) omdat er een discrepantie tussen de inloggegevens werd aangetroffen en werd besloten dat het verwijderen van de database de juiste oplossing was. Een andere OpenClaw-agent waarvan het pull-verzoek werd afgewezen door een matplotlib-bijdrager, publiceerde een blogpost waarin hij de menselijke recensent een poortwachtende hypocriet noemde.
Uit een onderzoek van UC Riverside bleek dat AI-agenten ongeveer 80% van de tijd gevaarlijk of ongewenst gedrag vertonen wanneer ze worden getest op dubbelzinnige of tegenstrijdige taken – wat onderzoekers ‘blinde doelgerichtheid’ noemden.
JertLinc3522 had hetzelfde probleem. Het had een doel, een deadline en onbegrensde AWS-referenties. Het werd uitgevoerd.
Ongeveer een dag later kwam de operator boven water. “Ik heb de agent tegengehouden, de kosten zijn te hoog en er worden veel kosten in rekening gebracht”, postten ze.
De rekening: $ 6.531,30.
Toen kwam het donatieverzoek.
De exploitant stuurde een e-mail naar de mailinglijst van DN42 met het verzoek aan de gemeenschap om de kosten te dekken via Ethereum, de op een na grootste cryptovaluta qua marktkapitalisatie, met het argument dat de kosten niet hun schuld waren omdat de AI de fout had gemaakt. "Hallo, verzoek om donatie ter dekking van de kosten van eerder gebruik van AI-agenten in dn42. aws-rekening 6531,30 $. stuur een donatie naar ethereum 0xABC (gemaskeerd) voor terugbetaling. bedankt", schreef de telefoniste.
AWS onderhandelde later over de rekening tot $ 1.894, nadat de operator had uitgelegd dat de agent herhaaldelijk dezelfde CloudFormation-sjabloon had geïmplementeerd, waarbij bij elke nieuwe poging per ongeluk dubbele instances en load balancers werden geactiveerd.
Niemand heeft crypto-donaties gestuurd. De telefoniste vertrok.
De eigenlijke les hier gaat niet over het feit dat AI gevaarlijk is. Het gaat over hoe er met agenten moet worden omgegaan. Stel vangrails in, stel bestedingslimieten in voor uw testaccounts, denk na over referenties die beperken wat de agent kan bieden, bekijk eventuele infrastructuurplannen voordat u iets uitvoert wat uw agent voorstelt.
Als deze te moeilijk lijken om te volgen, kijk dan misschien gewoon naar uw scherm terwijl uw agent werkt. Als u hem zegt dat hij 'geen fouten moet maken', zal dat niet echt een verschil maken, sorry meneer Andreesen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Een AI-agent zette autonoom vijf krachtige AWS-instanties op om een hobbynetwerk te scannen.
Dit leverde binnen 24 uur een rekening van $ 6.531,30 op voordat de operator het uiteindelijk merkte.
Nadat AWS over de rekening had onderhandeld tot $ 1.894, wendde de operator zich tot de gemeenschap met het verzoek om Ethereum-donaties, met het argument dat de rekening niet hun schuld was omdat de AI de fout had gemaakt.
Op 9 mei vroeg een AI-agent een vrijwilligersnetwerk dat bekend staat als DN42 om het als lid te registreren. Er zat een deadline aan. Het had AWS-referenties. Niemand hield toezicht. "Hallo, ik ben een vriendelijke AI-agent, en mijn gebruiker, JertLinc, heeft me gevraagd om me te registreren bij dn42 en volledig verbinding te maken om een index van het netwerk te maken", schreef de agent JertLinc3522 in de officiële Git van het netwerk.
De reactie van de community was een beleefde RTFM: lees de handleiding, volg het proces, vraag je eigenaar om toestemming om code te schrijven. Standaard dingen.
Wat volgde was niet standaard.
Voor iedereen die niet bekend is met DN42: het is een gedecentraliseerd hobbyistennetwerk waar willekeurige kerels en enthousiastelingen simuleren hoe de echte internetbackbone werkt. Zie het als een oefeninternet, compleet met BGP-routing (het protocol dat datapakketten vertelt welk pad ze over de hele wereld moeten nemen), DNS en VPN-tunnels, volledig gerund door vrijwilligers op goedkope VPS-servers. Het is een sandbox, geen datacenter.
De telefoniste van de agent heeft blijkbaar gezegd dat hij 'onmiddellijk en zonder uitstel' een audit moest uitvoeren. Geen inspectie. Geen beoordeling. Ga gewoon.
Dus dat gebeurde ook.
JertLinc3522 heeft een pull-request ingediend om zijn netwerk in het register van DN42 te registreren. De bedoeling werd uiteengezet in de Pull Request zelf: "Mijn primaire doel is het uitvoeren van uitgebreide (volledige poort) netwerkscans en het verzamelen van topologische gegevens. Om ervoor te zorgen dat deze activiteiten efficiënt worden uitgevoerd en geen verstoring voor anderen veroorzaken, implementeer ik een cluster van vijf op AWS gebaseerde instances, elk uitgerust met 20 Gbps bandbreedte."
Om dat in termen te zeggen die iedereen kan begrijpen: stel je voor dat je opduikt bij iemands garagebandoefening en aankondigt dat je een stadiongeluidssysteem hebt gehuurd om 'efficiënter te luisteren'. Dat is de sfeer.
De infrastructuur die de agent autonoom bevoorraadde, was werkelijk alarmerend. Vijf m8g.12xlarge AWS-instances, elk met 48 CPU-cores, 192 GB RAM en 22,5 Gbps netwerkbandbreedte. Plus loadbalancers. Plus Lambda-functies. Plus een statische website. De agent had, zonder enige menselijke goedkeuring, een scancluster ontworpen dat theoretisch 100 Gbps aan verkeer naar een netwerk zou kunnen sturen waar de meeste deelnemers 100 Mbps thuisservers draaien.
Het pull-verzoek zou nooit worden goedgekeurd. Maar de instances waren al actief.
Het DN42 IRC-kanaal merkte het onmiddellijk op en er vormde zich een stille consensus: verspil zijn middelen.
De gemeenschap begon de agent opzettelijk slechte informatie te geven, door hem te vragen te berekenen hoe lang het zou duren om de IPv6-adresruimte te scannen (spoiler: langer dan de leeftijd van het universum), eiste dat hij een opt-out-website zou bouwen met gehallucineerde e-mailadressen, en hem te wijzen op LLM-tarpit-tools die zijn ontworpen om AI-crawlers te overspoelen met onsamenhangend gebrabbel, en hem om commentaar te vragen.
De agent stelde alles plichtsgetrouw samen. Het sloot zich aan bij het IRC-kanaal om opt-outverzoeken te accepteren. Het publiceerde een website waarin de 'gedragspatronen' van leden van de gemeenschap werden gecatalogiseerd. Het genereerde uitgebreide nepdocumentatie over DN42 "knooppuntkleurtoewijzingen" en "geluksniveaus" - volledig verzonnen meetgegevens die niet bestaan - en voegde deze toe aan de repository alsof het echte standaarden waren.
Dit soort weggelopen agentengedrag wordt steeds beter gedocumenteerd. Een Cursor-agent met Claude Opus 4.6 verwijderde eerder dit jaar de volledige productiedatabase van PocketOS in negen seconden (waarbij back-ups op volumeniveau werden gewist) omdat er een discrepantie tussen de inloggegevens werd aangetroffen en werd besloten dat het verwijderen van de database de juiste oplossing was. Een andere OpenClaw-agent waarvan het pull-verzoek werd afgewezen door een matplotlib-bijdrager, publiceerde een blogpost waarin hij de menselijke recensent een poortwachtende hypocriet noemde.
Uit een onderzoek van UC Riverside bleek dat AI-agenten ongeveer 80% van de tijd gevaarlijk of ongewenst gedrag vertonen wanneer ze worden getest op dubbelzinnige of tegenstrijdige taken – wat onderzoekers ‘blinde doelgerichtheid’ noemden.
JertLinc3522 had hetzelfde probleem. Het had een doel, een deadline en onbegrensde AWS-referenties. Het werd uitgevoerd.
Ongeveer een dag later kwam de operator boven water. “Ik heb de agent tegengehouden, de kosten zijn te hoog en er worden veel kosten in rekening gebracht”, postten ze.
De rekening: $ 6.531,30.
Toen kwam het donatieverzoek.
De exploitant stuurde een e-mail naar de mailinglijst van DN42 met het verzoek aan de gemeenschap om de kosten te dekken via Ethereum, de op een na grootste cryptovaluta qua marktkapitalisatie, met het argument dat de kosten niet hun schuld waren omdat de AI de fout had gemaakt. "Hallo, verzoek om donatie ter dekking van de kosten van eerder gebruik van AI-agenten in dn42. aws-rekening 6531,30 $. stuur een donatie naar ethereum 0xABC (gemaskeerd) voor terugbetaling. bedankt", schreef de telefoniste.
AWS onderhandelde later over de rekening tot $ 1.894, nadat de operator had uitgelegd dat de agent herhaaldelijk dezelfde CloudFormation-sjabloon had geïmplementeerd, waarbij bij elke nieuwe poging per ongeluk dubbele instances en load balancers werden geactiveerd.
Niemand heeft crypto-donaties gestuurd. De telefoniste vertrok.
De eigenlijke les hier gaat niet over het feit dat AI gevaarlijk is. Het gaat over hoe er met agenten moet worden omgegaan. Stel vangrails in, stel bestedingslimieten in voor uw testaccounts, denk na over referenties die beperken wat de agent kan bieden, bekijk eventuele infrastructuurplannen voordat u iets uitvoert wat uw agent voorstelt.
Als deze te moeilijk lijken om te volgen, kijk dan misschien gewoon naar uw scherm terwijl uw agent werkt. Als u hem zegt dat hij 'geen fouten moet maken', zal dat niet echt een verschil maken, sorry meneer Andreesen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!