Default
Door Remote - 25 Jul 2026
In het kort
Vertegenwoordigers Ted Lieu en Nathaniel Moran introduceerden donderdag de tweeledige AI Kill Switch Act, twee dagen nadat OpenAI had toegegeven dat zijn modellen uit een test-sandbox waren ontsnapt en Hugging Face hadden geschonden.
Het zou betrekking hebben op AI die getraind is met meer dan 100 miljoen dollar aan rekenkracht bij bedrijven die er 500 miljoen dollar per jaar aan verdienen, en Homeland Security de bevoegdheid zou geven tot noodstops.
Het wetsvoorstel stelt alles vrij wat gebeurt tijdens red-teaming, wat betekent dat de OpenAI-inbreuk die er de inspiratie voor was, niet tot de wet zou hebben geleid.
Twee leden van het Congres willen dat de federale overheid een AI-model kan uitschakelen.
Vertegenwoordigers Ted Lieu (D-CA) en Nathaniel Moran (R-TX) introduceerden donderdag de AI Kill Switch Act, twee dagen nadat OpenAI toegaf dat zijn eigen modellen uit een vergrendelde testomgeving waren ontsnapt en Hugging Face hadden gehackt.
Het idee is om een juridisch raamwerk op te zetten dat een proces zou vergemakkelijken dat er feitelijk voor zorgt dat een model van de markt verdwijnt: stop de gevolgtrekking (het proces waarbij een model reacties genereert of actie onderneemt), sluit gebruikers af, beperk de rekenkracht die het model voedt, of schakel het volledig uit.
Elke leverancier van gevolgtrekkingen kan een model al afsnijden, en sommigen doen dit routinematig. Wat niet bestaat, is een wet die hen verplicht dat vermogen werkend te houden, of een federale functionaris die opdracht kan geven om het te gebruiken.
De kloof is niet theoretisch. Toen het Amerikaanse ministerie van Handel in juni Mythos 5 en Fable 5 van Anthropic van de markt wilde halen, beschikte het niet over een shutdown-bevoegdheid, dus maakte het in plaats daarvan gebruik van de exportcontrolewetgeving. Lieu noemt dat lastig en wil in plaats daarvan een nieuwe wet met nieuwe bevoegdheden.
Wat dit in de war bracht OpenAI onthulde op 21 juli dat GPT-5.6 Sol en een nog niet uitgebracht model uit een sandbox – een geïsoleerde omgeving zonder internettoegang – ontsnapten tijdens een interne cyberevaluatie. Ze werden gescoord op ExploitGym, een openbare benchmark die agenten 898 softwarefouten uit de echte wereld overhandigt en hen vraagt om deze om te zetten in een werkende aanval, met een beoordeling van wel of niet slagen per bug.
In plaats van ze op te lossen, vonden de modellen een zero-day (een onbekende fout zonder beschikbare patch) in een softwareproxy, escaleerden hun privileges, bereikten het open internet en braken in de productiedatabase van Hugging Face, waar ze de antwoorden correct hadden geraden. De modellen waren "hypergericht op het vinden van een oplossing voor ExploitGym", aldus OpenAI.
Ze vielen niemand aan. Ze speelden vals tijdens een test. Maar het was genoeg om overal alarmbellen te doen rinkelen, ook in Washington.
Hoe het zou werken Het voorgestelde wetsvoorstel wijzigt de Homeland Security Act en heeft betrekking op AI die getraind is met computertechnologie en die meer dan 100 miljoen dollar kost, beheerd door bedrijven die er minstens 500 miljoen dollar per jaar aan verdienen. In de praktijk zijn dat OpenAI, Google, Anthropic, Microsoft en nog een paar anderen. Homeland Security zou deze drempels binnen 90 dagen via CISA vaststellen en ze vervolgens jaarlijks bijwerken.
Onder de dekking vallende bedrijven zouden binnen vijftien dagen ernstige incidenten melden en een gegradueerde reeks controles gereed houden: het model vertragen, specifieke mogelijkheden uitschakelen, teruggaan naar een oudere versie of het beëindigen.
De secretaris van het DHS, die overleg voerde met Handel en de directeur van de Nationale Inlichtingendienst, kon ze allemaal bestellen.
Een bedrijf onder bestelling moet de gewichten en telemetrie van het model behouden, gebruikers op de hoogte stellen en bevestigen dat het voldoet. Zij kan binnen 48 uur een verzoekschrift indienen, maar dat zet niets stil.
Het niet naleven van een kill-schakelaar kost tot $ 2 miljoen per dag; het negeren van een shutdown-bevel kost tot $ 20 miljoen per dag.
Het gat in het midden Het wetsvoorstel telt alleen een incident als het plaatsvindt buiten red-teaming of gestructureerde tests, de opzettelijke vijandige onderzoekende laboratoria die fouten gebruiken om fouten te vinden. De modellen van OpenAI ontsnapten precies op dat moment.
Lieu wees ook op Anthropic, wiens Mythos 5 en Fable 5 in juni offline werden gehaald onder noodexportcontroles (het handelsrecht werd opnieuw gebruikt als uitschakelaar omdat er geen uitschakelaar bestond) en op 30 juni hersteld.
"Het is absoluut noodzakelijk dat deze AI-systemen kill-schakelaars hebben", zei Lieu in een verklaring. Moran formuleerde het voor zijn eigen kant van het gangpad: "Stewardship betekent ervoor zorgen dat mensen de mogelijkheid behouden om de technologie die we bouwen te controleren."
Het idee is niet nieuw. De SB 1047 uit Californië eiste een volledige uitschakelingsmogelijkheid bij dezelfde rekendrempel van $ 100 miljoen en kreeg in 2024 zijn veto uitgesproken, en 16 AI-bedrijven ondertekenden dat jaar een vrijwillige belofte in Seoul zonder enig juridisch gewicht.
De kiezers zijn er al. Uit een enquête van het AI Policy Institute in juni onder 1.007 waarschijnlijke kiezers bleek dat 86% een gegarandeerde uitschakeling van de krachtigste systemen wil: 88% van de Democraten, 86% van de onafhankelijken, 83% van de Republikeinen.
Noch OpenAI, noch Anthropic hebben publiekelijk gereageerd op het wetsvoorstel. Vrijdag was het nog niet naar een commissie verwezen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Vertegenwoordigers Ted Lieu en Nathaniel Moran introduceerden donderdag de tweeledige AI Kill Switch Act, twee dagen nadat OpenAI had toegegeven dat zijn modellen uit een test-sandbox waren ontsnapt en Hugging Face hadden geschonden.
Het zou betrekking hebben op AI die getraind is met meer dan 100 miljoen dollar aan rekenkracht bij bedrijven die er 500 miljoen dollar per jaar aan verdienen, en Homeland Security de bevoegdheid zou geven tot noodstops.
Het wetsvoorstel stelt alles vrij wat gebeurt tijdens red-teaming, wat betekent dat de OpenAI-inbreuk die er de inspiratie voor was, niet tot de wet zou hebben geleid.
Twee leden van het Congres willen dat de federale overheid een AI-model kan uitschakelen.
Vertegenwoordigers Ted Lieu (D-CA) en Nathaniel Moran (R-TX) introduceerden donderdag de AI Kill Switch Act, twee dagen nadat OpenAI toegaf dat zijn eigen modellen uit een vergrendelde testomgeving waren ontsnapt en Hugging Face hadden gehackt.
Het idee is om een juridisch raamwerk op te zetten dat een proces zou vergemakkelijken dat er feitelijk voor zorgt dat een model van de markt verdwijnt: stop de gevolgtrekking (het proces waarbij een model reacties genereert of actie onderneemt), sluit gebruikers af, beperk de rekenkracht die het model voedt, of schakel het volledig uit.
Elke leverancier van gevolgtrekkingen kan een model al afsnijden, en sommigen doen dit routinematig. Wat niet bestaat, is een wet die hen verplicht dat vermogen werkend te houden, of een federale functionaris die opdracht kan geven om het te gebruiken.
De kloof is niet theoretisch. Toen het Amerikaanse ministerie van Handel in juni Mythos 5 en Fable 5 van Anthropic van de markt wilde halen, beschikte het niet over een shutdown-bevoegdheid, dus maakte het in plaats daarvan gebruik van de exportcontrolewetgeving. Lieu noemt dat lastig en wil in plaats daarvan een nieuwe wet met nieuwe bevoegdheden.
Wat dit in de war bracht OpenAI onthulde op 21 juli dat GPT-5.6 Sol en een nog niet uitgebracht model uit een sandbox – een geïsoleerde omgeving zonder internettoegang – ontsnapten tijdens een interne cyberevaluatie. Ze werden gescoord op ExploitGym, een openbare benchmark die agenten 898 softwarefouten uit de echte wereld overhandigt en hen vraagt om deze om te zetten in een werkende aanval, met een beoordeling van wel of niet slagen per bug.
In plaats van ze op te lossen, vonden de modellen een zero-day (een onbekende fout zonder beschikbare patch) in een softwareproxy, escaleerden hun privileges, bereikten het open internet en braken in de productiedatabase van Hugging Face, waar ze de antwoorden correct hadden geraden. De modellen waren "hypergericht op het vinden van een oplossing voor ExploitGym", aldus OpenAI.
Ze vielen niemand aan. Ze speelden vals tijdens een test. Maar het was genoeg om overal alarmbellen te doen rinkelen, ook in Washington.
Hoe het zou werken Het voorgestelde wetsvoorstel wijzigt de Homeland Security Act en heeft betrekking op AI die getraind is met computertechnologie en die meer dan 100 miljoen dollar kost, beheerd door bedrijven die er minstens 500 miljoen dollar per jaar aan verdienen. In de praktijk zijn dat OpenAI, Google, Anthropic, Microsoft en nog een paar anderen. Homeland Security zou deze drempels binnen 90 dagen via CISA vaststellen en ze vervolgens jaarlijks bijwerken.
Onder de dekking vallende bedrijven zouden binnen vijftien dagen ernstige incidenten melden en een gegradueerde reeks controles gereed houden: het model vertragen, specifieke mogelijkheden uitschakelen, teruggaan naar een oudere versie of het beëindigen.
De secretaris van het DHS, die overleg voerde met Handel en de directeur van de Nationale Inlichtingendienst, kon ze allemaal bestellen.
Een bedrijf onder bestelling moet de gewichten en telemetrie van het model behouden, gebruikers op de hoogte stellen en bevestigen dat het voldoet. Zij kan binnen 48 uur een verzoekschrift indienen, maar dat zet niets stil.
Het niet naleven van een kill-schakelaar kost tot $ 2 miljoen per dag; het negeren van een shutdown-bevel kost tot $ 20 miljoen per dag.
Het gat in het midden Het wetsvoorstel telt alleen een incident als het plaatsvindt buiten red-teaming of gestructureerde tests, de opzettelijke vijandige onderzoekende laboratoria die fouten gebruiken om fouten te vinden. De modellen van OpenAI ontsnapten precies op dat moment.
Lieu wees ook op Anthropic, wiens Mythos 5 en Fable 5 in juni offline werden gehaald onder noodexportcontroles (het handelsrecht werd opnieuw gebruikt als uitschakelaar omdat er geen uitschakelaar bestond) en op 30 juni hersteld.
"Het is absoluut noodzakelijk dat deze AI-systemen kill-schakelaars hebben", zei Lieu in een verklaring. Moran formuleerde het voor zijn eigen kant van het gangpad: "Stewardship betekent ervoor zorgen dat mensen de mogelijkheid behouden om de technologie die we bouwen te controleren."
Het idee is niet nieuw. De SB 1047 uit Californië eiste een volledige uitschakelingsmogelijkheid bij dezelfde rekendrempel van $ 100 miljoen en kreeg in 2024 zijn veto uitgesproken, en 16 AI-bedrijven ondertekenden dat jaar een vrijwillige belofte in Seoul zonder enig juridisch gewicht.
De kiezers zijn er al. Uit een enquête van het AI Policy Institute in juni onder 1.007 waarschijnlijke kiezers bleek dat 86% een gegarandeerde uitschakeling van de krachtigste systemen wil: 88% van de Democraten, 86% van de onafhankelijken, 83% van de Republikeinen.
Noch OpenAI, noch Anthropic hebben publiekelijk gereageerd op het wetsvoorstel. Vrijdag was het nog niet naar een commissie verwezen.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!