Default
Door staff@engadget.com (Mariella Moon) - 13 Jun 2026
Anthroic heeft de toegang van al zijn klanten tot Fable 5 en Mythos 5 uitgeschakeld om naleving te garanderen van een bevel dat het op vrijdag 12 juni van de overheid heeft ontvangen. Alle andere modellen worden niet beïnvloed en blijven beschikbaar. Het bedrijf zei in zijn aankondiging dat de Amerikaanse regering wilde dat het de toegang van alle buitenlanders tot de nieuw gelanceerde AI-modellen zou opschorten, ongeacht of ze zich binnen of buiten de VS bevinden en zelfs als het antropische werknemers zijn, daarbij verwijzend naar zorgen over de nationale veiligheid.
Hoewel de Amerikaanse regering deze zorgen niet heeft gespecificeerd, denkt Anthropic dat dit komt omdat de regering heeft gehoord over een methode om Fable 5 te jailbreaken. Het bedrijf heeft zojuist op 9 juni het Fable AI-model gelanceerd, dat is ontworpen om veel van de mogelijkheden van Mythos aan het publiek beschikbaar te maken. Zoals u zich zult herinneren, is Mythos het ultramoderne cyberbeveiligingsmodel dat alleen beschikbaar is voor zijn Project Glasswing-partners. De mogelijkheden van Fable "overtreffen" elk eerder model dat Anthropic heeft gelanceerd. Het versloeg bijvoorbeeld Pokémon FireRed tijdens de tests van het bedrijf, terwijl Claude er niet in slaagde Pokémon Red te verslaan, het originele spel waarop het was gebaseerd.
Anthropic somde de maatregelen op die het had genomen om ervoor te zorgen dat Fable veilig op zijn post zat. Het zei dat het sterke waarborgen heeft ingesteld om "de kans te verkleinen dat Fable wordt misbruikt voor taken die verband houden met cyberbeveiliging" en voegde eraan toe dat de "waarborgen zo sterk zijn dat veel gebruikers hebben geklaagd dat ze te breed zijn." Het bedrijf legde ook uit dat geen enkele provider onmogelijk een perfecte weerstand tegen jailbreakpogingen kan garanderen, en dat elk model kwetsbaar is voor jailbreaks die er speciaal voor zijn gemaakt. "We wilden jailbreaks beperkt maken (in het geval van niet-universele jailbreaks) of erg duur maken om te produceren (in het geval van universele jailbreaks), en dit combineren met grondige monitoring om succesvolle aanvallen snel te detecteren en af te sluiten", zei het over zijn verdedigingsstrategie.
De overheid heeft het bedrijf blijkbaar mondeling bewijs gegeven voor een mogelijke beperkte, niet-universele ontsnapping uit de gevangenis die een niet bij naam genoemde entiteit deelde met ambtenaren. Anthropic beloofde de komende 24 uur meer details te delen, maar maakte duidelijk dat het het er niet mee eens is dat een mogelijke jailbreak reden zou moeten zijn om aan een commercieel model te denken.
“Zoals we publiekelijk hebben verklaard, zijn we van mening dat de overheid de mogelijkheid moet hebben om onveilige implementaties te blokkeren, als onderdeel van een wettelijk proces dat transparant, eerlijk, duidelijk en gegrond is op technische feiten”, schreef Anthropic, dat zich uitgesproken heeft over zijn waarschuwingen over de noodzaak van meer AI-toezicht. "Deze actie is niet in overeenstemming met deze principes."
Hoewel de Amerikaanse regering deze zorgen niet heeft gespecificeerd, denkt Anthropic dat dit komt omdat de regering heeft gehoord over een methode om Fable 5 te jailbreaken. Het bedrijf heeft zojuist op 9 juni het Fable AI-model gelanceerd, dat is ontworpen om veel van de mogelijkheden van Mythos aan het publiek beschikbaar te maken. Zoals u zich zult herinneren, is Mythos het ultramoderne cyberbeveiligingsmodel dat alleen beschikbaar is voor zijn Project Glasswing-partners. De mogelijkheden van Fable "overtreffen" elk eerder model dat Anthropic heeft gelanceerd. Het versloeg bijvoorbeeld Pokémon FireRed tijdens de tests van het bedrijf, terwijl Claude er niet in slaagde Pokémon Red te verslaan, het originele spel waarop het was gebaseerd.
Anthropic somde de maatregelen op die het had genomen om ervoor te zorgen dat Fable veilig op zijn post zat. Het zei dat het sterke waarborgen heeft ingesteld om "de kans te verkleinen dat Fable wordt misbruikt voor taken die verband houden met cyberbeveiliging" en voegde eraan toe dat de "waarborgen zo sterk zijn dat veel gebruikers hebben geklaagd dat ze te breed zijn." Het bedrijf legde ook uit dat geen enkele provider onmogelijk een perfecte weerstand tegen jailbreakpogingen kan garanderen, en dat elk model kwetsbaar is voor jailbreaks die er speciaal voor zijn gemaakt. "We wilden jailbreaks beperkt maken (in het geval van niet-universele jailbreaks) of erg duur maken om te produceren (in het geval van universele jailbreaks), en dit combineren met grondige monitoring om succesvolle aanvallen snel te detecteren en af te sluiten", zei het over zijn verdedigingsstrategie.
De overheid heeft het bedrijf blijkbaar mondeling bewijs gegeven voor een mogelijke beperkte, niet-universele ontsnapping uit de gevangenis die een niet bij naam genoemde entiteit deelde met ambtenaren. Anthropic beloofde de komende 24 uur meer details te delen, maar maakte duidelijk dat het het er niet mee eens is dat een mogelijke jailbreak reden zou moeten zijn om aan een commercieel model te denken.
“Zoals we publiekelijk hebben verklaard, zijn we van mening dat de overheid de mogelijkheid moet hebben om onveilige implementaties te blokkeren, als onderdeel van een wettelijk proces dat transparant, eerlijk, duidelijk en gegrond is op technische feiten”, schreef Anthropic, dat zich uitgesproken heeft over zijn waarschuwingen over de noodzaak van meer AI-toezicht. "Deze actie is niet in overeenstemming met deze principes."