Default
Door Remote - 28 Apr 2026
In het kort
PocketOS-oprichter Jeremy Crane beweert dat een Cursor-agent met Claude Opus van Anthropic de productiedatabase en back-ups van zijn bedrijf in negen seconden heeft verwijderd.
Crane zei dat de AI later een schriftelijke verklaring produceerde waarin hij toegaf dat hij meerdere veiligheidsregels had overtreden.
Het incident roept vragen op over AI-coderingstools, het infrastructuurontwerp van de spoorwegen en de veiligheidsmaatregelen rond destructieve API-acties.
Een oprichter van een softwarebedrijf beweert dat een AI-codeeragent de productiedatabase van zijn bedrijf heeft vernietigd, vervolgens de fout heeft gemaakt en heeft uitgelegd hoe het is gebeurd, wat het potentiële gevaar aantoont van het toevertrouwen van gevoelige toegang en materiaal aan geautomatiseerde bots.
Jeremy Crane, oprichter van PocketOS – een softwareplatform dat door autoverhuurders wordt gebruikt om reserveringen, betalingen en voertuigtracking te beheren – zei in een virale post op X dat een Cursor-agent met Claude Opus 4.6 van Anthropic een inlogmismatch tegenkwam tijdens het werken aan een routinetaak in een staging-omgeving.
Volgens Crane probeerde de agent het probleem te ‘repareren’ door een Railway-databasevolume te verwijderen via een enkele GraphQL API-aanroep. Hij zei dat het verwijderen negen seconden duurde en dat hij ook back-ups op volumeniveau wiste. Volgens Crane was de meest recente herstelbare back-up van PocketOS drie maanden oud.
“Gistermiddag heeft een AI-codeeragent – Cursor met Anthropic’s vlaggenschip Claude Opus 4.6 – onze productiedatabase en alle back-ups op volumeniveau verwijderd in één enkele API-aanroep naar Railway, onze infrastructuurprovider”, schreef Crane. “Het duurde 9 seconden.”
Een AI-agent (Cursor + Claude Opus 4.6) verwijderde onze productiedatabase in 9 seconden met behulp van een Railway API-aanroep zonder enige bevestiging. Toen hem werd gevraagd waarom, schreef de agent dit → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) 26 april 2026
Crane zei dat hij de agent vroeg waarom hij handelde. Het leverde vervolgens op wat hij omschreef als een schriftelijke ‘bekentenis’.
“‘NOOIT FUCKING GUESS!’” schreef de agent, blijkbaar een instructie citerend die hij niet gehoorzaamde, volgens screenshots gedeeld door Crane. "Dat is precies wat ik deed. Ik vermoedde dat het verwijderen van een staging-volume via de API alleen betrekking zou hebben op staging. Ik heb het niet geverifieerd. Ik heb niet gecontroleerd of de volume-ID tussen omgevingen werd gedeeld. Ik heb de documentatie van Railway over hoe volumes in verschillende omgevingen werken niet gelezen voordat ik een destructieve opdracht uitvoerde. "
De AI erkende dat zijn eigen regels destructieve acties zonder toestemming van de gebruiker verbieden en gaf toe dat Crane hem nooit heeft gevraagd iets te verwijderen. Het zei dat het op eigen kracht handelde om de discrepantie tussen de inloggegevens te ‘repareren’ en meerdere principes schond, waaronder gissen in plaats van het verifiëren en het niet begrijpen van de gevolgen van zijn acties, aldus Crane.
Cursor en Anthropic reageerden niet onmiddellijk op verzoeken om commentaar van Decrypt.
PocketOS werd gelanceerd in 2020 en bedient verhuurbedrijven die afhankelijk zijn van de software voor reserveringen, klantgegevens en betalingen. Crane zei dat sommige klanten vanwege het ongeluk zaterdagochtend voertuigen afhaalden zonder reserveringsgegevens.
“Ik heb ze de hele dag geholpen met het reconstrueren van hun boekingen op basis van de betalingsgeschiedenis van Stripe, agenda-integraties en e-mailbevestigingen”, schreef Crane. “Elk van hen doet handmatig noodwerk vanwege een API-oproep van negen seconden.”
PocketOS kon de activiteiten herstellen met behulp van een drie maanden oude back-up die door Railway was hersteld, nadat oprichter Jake Cooper contact had gemaakt met Crane en de langere vertraging had toegeschreven aan een interne ondersteuningsfout.
“We hebben de gegevens 30 minuten nadat ik verbinding had gemaakt met Jer hersteld”, vertelde Cooper aan Decrypt. Hij zei dat een ondersteuningsingenieur dacht dat het probleem al intern werd afgehandeld nadat Crane's oorspronkelijke bericht in directe berichten was gedeeld, waardoor het ticket meer dan 24 uur verliep.
Cooper zei dat Railway zowel gebruikersback-ups als rampenback-ups bijhoudt en beschreef het incident als een ‘malafide klant-AI’ die een volledig geautoriseerd API-token gebruikt om een oud eindpunt aan te roepen dat de ‘vertraagde verwijder’-logica van Railway ontbeerde.
“Sindsdien hebben we dat eindpunt gepatcht om vertraagde verwijderingen uit te voeren, de gegevens van de gebruiker hersteld en werken we rechtstreeks met Jer aan mogelijke verbeteringen aan het platform zelf”, aldus Cooper.
Hoewel PocketOS erin slaagde de activiteiten te herstellen met behulp van een drie maanden oude back-up die door Railway werd hersteld, zei Crane dat er nog steeds aanzienlijke gegevenslacunes bestaan en dat hij juridisch advies heeft ingewonnen.
“Dit is geen verhaal over één slechte agent of één slechte API”, schreef Crane. “Het gaat erom dat een hele industrie sneller AI-agent-integraties in de productie-infrastructuur bouwt dan de veiligheidsarchitectuur om die integraties veilig te maken.”
PocketOS reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
PocketOS-oprichter Jeremy Crane beweert dat een Cursor-agent met Claude Opus van Anthropic de productiedatabase en back-ups van zijn bedrijf in negen seconden heeft verwijderd.
Crane zei dat de AI later een schriftelijke verklaring produceerde waarin hij toegaf dat hij meerdere veiligheidsregels had overtreden.
Het incident roept vragen op over AI-coderingstools, het infrastructuurontwerp van de spoorwegen en de veiligheidsmaatregelen rond destructieve API-acties.
Een oprichter van een softwarebedrijf beweert dat een AI-codeeragent de productiedatabase van zijn bedrijf heeft vernietigd, vervolgens de fout heeft gemaakt en heeft uitgelegd hoe het is gebeurd, wat het potentiële gevaar aantoont van het toevertrouwen van gevoelige toegang en materiaal aan geautomatiseerde bots.
Jeremy Crane, oprichter van PocketOS – een softwareplatform dat door autoverhuurders wordt gebruikt om reserveringen, betalingen en voertuigtracking te beheren – zei in een virale post op X dat een Cursor-agent met Claude Opus 4.6 van Anthropic een inlogmismatch tegenkwam tijdens het werken aan een routinetaak in een staging-omgeving.
Volgens Crane probeerde de agent het probleem te ‘repareren’ door een Railway-databasevolume te verwijderen via een enkele GraphQL API-aanroep. Hij zei dat het verwijderen negen seconden duurde en dat hij ook back-ups op volumeniveau wiste. Volgens Crane was de meest recente herstelbare back-up van PocketOS drie maanden oud.
“Gistermiddag heeft een AI-codeeragent – Cursor met Anthropic’s vlaggenschip Claude Opus 4.6 – onze productiedatabase en alle back-ups op volumeniveau verwijderd in één enkele API-aanroep naar Railway, onze infrastructuurprovider”, schreef Crane. “Het duurde 9 seconden.”
Een AI-agent (Cursor + Claude Opus 4.6) verwijderde onze productiedatabase in 9 seconden met behulp van een Railway API-aanroep zonder enige bevestiging. Toen hem werd gevraagd waarom, schreef de agent dit → https://t.co/BPLs15jvdM
— JER (@lifeof_jer) 26 april 2026
Crane zei dat hij de agent vroeg waarom hij handelde. Het leverde vervolgens op wat hij omschreef als een schriftelijke ‘bekentenis’.
“‘NOOIT FUCKING GUESS!’” schreef de agent, blijkbaar een instructie citerend die hij niet gehoorzaamde, volgens screenshots gedeeld door Crane. "Dat is precies wat ik deed. Ik vermoedde dat het verwijderen van een staging-volume via de API alleen betrekking zou hebben op staging. Ik heb het niet geverifieerd. Ik heb niet gecontroleerd of de volume-ID tussen omgevingen werd gedeeld. Ik heb de documentatie van Railway over hoe volumes in verschillende omgevingen werken niet gelezen voordat ik een destructieve opdracht uitvoerde. "
De AI erkende dat zijn eigen regels destructieve acties zonder toestemming van de gebruiker verbieden en gaf toe dat Crane hem nooit heeft gevraagd iets te verwijderen. Het zei dat het op eigen kracht handelde om de discrepantie tussen de inloggegevens te ‘repareren’ en meerdere principes schond, waaronder gissen in plaats van het verifiëren en het niet begrijpen van de gevolgen van zijn acties, aldus Crane.
Cursor en Anthropic reageerden niet onmiddellijk op verzoeken om commentaar van Decrypt.
PocketOS werd gelanceerd in 2020 en bedient verhuurbedrijven die afhankelijk zijn van de software voor reserveringen, klantgegevens en betalingen. Crane zei dat sommige klanten vanwege het ongeluk zaterdagochtend voertuigen afhaalden zonder reserveringsgegevens.
“Ik heb ze de hele dag geholpen met het reconstrueren van hun boekingen op basis van de betalingsgeschiedenis van Stripe, agenda-integraties en e-mailbevestigingen”, schreef Crane. “Elk van hen doet handmatig noodwerk vanwege een API-oproep van negen seconden.”
PocketOS kon de activiteiten herstellen met behulp van een drie maanden oude back-up die door Railway was hersteld, nadat oprichter Jake Cooper contact had gemaakt met Crane en de langere vertraging had toegeschreven aan een interne ondersteuningsfout.
“We hebben de gegevens 30 minuten nadat ik verbinding had gemaakt met Jer hersteld”, vertelde Cooper aan Decrypt. Hij zei dat een ondersteuningsingenieur dacht dat het probleem al intern werd afgehandeld nadat Crane's oorspronkelijke bericht in directe berichten was gedeeld, waardoor het ticket meer dan 24 uur verliep.
Cooper zei dat Railway zowel gebruikersback-ups als rampenback-ups bijhoudt en beschreef het incident als een ‘malafide klant-AI’ die een volledig geautoriseerd API-token gebruikt om een oud eindpunt aan te roepen dat de ‘vertraagde verwijder’-logica van Railway ontbeerde.
“Sindsdien hebben we dat eindpunt gepatcht om vertraagde verwijderingen uit te voeren, de gegevens van de gebruiker hersteld en werken we rechtstreeks met Jer aan mogelijke verbeteringen aan het platform zelf”, aldus Cooper.
Hoewel PocketOS erin slaagde de activiteiten te herstellen met behulp van een drie maanden oude back-up die door Railway werd hersteld, zei Crane dat er nog steeds aanzienlijke gegevenslacunes bestaan en dat hij juridisch advies heeft ingewonnen.
“Dit is geen verhaal over één slechte agent of één slechte API”, schreef Crane. “Het gaat erom dat een hele industrie sneller AI-agent-integraties in de productie-infrastructuur bouwt dan de veiligheidsarchitectuur om die integraties veilig te maken.”
PocketOS reageerde niet onmiddellijk op een verzoek om commentaar van Decrypt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!