Default
Door Remote - 09 Apr 2026
Anthropic zei deze week dat het de release van zijn nieuwste model, genaamd Mythos, heeft beperkt omdat het te goed in staat is beveiligingslekken te vinden in software waar gebruikers over de hele wereld op vertrouwen.
In plaats van Mythos op het publiek los te laten, zal het frontierlab het delen met een groep grote bedrijven en organisaties die kritische online-infrastructuur exploiteren, van Amazon Web Services tot JPMorgan Chase.
OpenAI overweegt naar verluidt een soortgelijk plan voor zijn volgende cyberbeveiligingstool. Het ogenschijnlijke idee is om deze grote ondernemingen een voorsprong te geven op slechte actoren die geavanceerde LLM's kunnen gebruiken om veilige software binnen te dringen.
Maar het ‘e-woord’ in de zin hierboven is een aanwijzing dat deze releasestrategie wellicht meer inhoudt dan alleen cyberbeveiliging – of het hypen van modelmogelijkheden.
Dan Lahav, de CEO van het AI-cybersecuritylab Irregular, vertelde TechCrunch in maart, vóór de release van Mythos, dat hoewel de ontdekking van kwetsbaarheden door AI-tools van belang is, de specifieke waarde van elke zwakte voor een aanvaller van veel factoren afhangt, waaronder hoe ze in combinatie kunnen worden gebruikt.
“De vraag die ik altijd in mijn hoofd heb,” zei Lahav, “is: hebben ze iets gevonden dat op een zeer zinvolle manier kan worden geëxploiteerd, individueel of als onderdeel van een keten?”
Anthropic zegt dat Mythos kwetsbaarheden veel meer kan misbruiken dan zijn vorige model, Opus. Maar het is niet duidelijk dat Mythos feitelijk het allesomvattende cyberbeveiligingsmodel is. Aisle, een AI-cyberbeveiligingsstartup, zei dat het veel van wat Anthropic zegt dat Mythos heeft bereikt, kon repliceren met behulp van kleinere, open modellen. Het team van Aisle betoogt dat deze resultaten aantonen dat er geen enkel diepgaand leermodel voor cyberbeveiliging bestaat, maar in plaats daarvan afhangt van de taak die moet worden uitgevoerd.
Gegeven het feit dat Opus al werd gezien als een game changer op het gebied van cyberbeveiliging, is er nog een reden waarom grenslaboratoria hun releases zouden willen beperken tot grote organisaties: het creëert een vliegwiel voor grote ondernemingscontracten, terwijl het voor concurrenten moeilijker wordt om hun modellen te kopiëren met behulp van distillatie, een techniek die grensmodellen gebruikt om goedkoop nieuwe LLM's op te leiden.
“Dit is marketingdekking voor het feit dat topmodellen nu zijn vastgelegd in bedrijfsovereenkomsten en niet langer beschikbaar zijn voor kleine laboratoria om te distilleren”, suggereerde David Crawshaw, een software-ingenieur en CEO van de startup exe.dev, in een post op sociale media. "Tegen de tijd dat jij en ik Mythos kunnen gebruiken, zal er een nieuwe top-end-omzet zijn die alleen voor ondernemingen geldt. Die tredmolen helpt de ondernemingsdollars te laten stromen (wat het grootste deel van de dollars is) door distillatiebedrijven naar de tweede rang te degraderen", aldus Crawshaw.
Die analyse komt overeen met wat we zien in het AI-ecosysteem: een race tussen grenslaboratoria die de grootste, meest capabele modellen ontwikkelen, en bedrijven als Aisle die vertrouwen op meerdere modellen en open source LLM’s, vaak uit China en vaak naar verluidt ontwikkeld door middel van distillatie, zien als een weg naar economisch voordeel.
De grenslaboratoria hebben dit jaar een hardere houding aangenomen ten aanzien van destillatie, waarbij Anthropic publiekelijk heeft onthuld wat het zegt dat Chinese bedrijven proberen zijn modellen te kopiëren, en drie toonaangevende laboratoria – Anthropic, Google en OpenAI – die samenwerken om distilleerders te identificeren en te blokkeren, volgens een Bloomberg-rapport.
Distillatie is een bedreiging voor het bedrijfsmodel van grenslaboratoria, omdat het de voordelen elimineert die gepaard gaan met het gebruik van enorme hoeveelheden kapitaal om op te schalen. Het blokkeren van destillatie is dus al een waardevolle onderneming, maar de selectieve vrijgavebenadering om dit te doen geeft de laboratoria ook een manier om hun bedrijfsaanbod te differentiëren naarmate de categorie de sleutel wordt tot winstgevende implementatie.
Of Mythos of welk nieuw model dan ook werkelijk een bedreiging vormt voor de veiligheid van het internet valt nog te bezien, en een zorgvuldige uitrol van de technologie is een verantwoorde weg vooruit.
Anthropic heeft op het moment van schrijven niet gereageerd op onze vragen over de vraag of het besluit ook betrekking heeft op distillatieproblemen, maar het bedrijf heeft mogelijk een slimme aanpak gevonden om het internet – en de bedrijfsresultaten – te beschermen.
In plaats van Mythos op het publiek los te laten, zal het frontierlab het delen met een groep grote bedrijven en organisaties die kritische online-infrastructuur exploiteren, van Amazon Web Services tot JPMorgan Chase.
OpenAI overweegt naar verluidt een soortgelijk plan voor zijn volgende cyberbeveiligingstool. Het ogenschijnlijke idee is om deze grote ondernemingen een voorsprong te geven op slechte actoren die geavanceerde LLM's kunnen gebruiken om veilige software binnen te dringen.
Maar het ‘e-woord’ in de zin hierboven is een aanwijzing dat deze releasestrategie wellicht meer inhoudt dan alleen cyberbeveiliging – of het hypen van modelmogelijkheden.
Dan Lahav, de CEO van het AI-cybersecuritylab Irregular, vertelde TechCrunch in maart, vóór de release van Mythos, dat hoewel de ontdekking van kwetsbaarheden door AI-tools van belang is, de specifieke waarde van elke zwakte voor een aanvaller van veel factoren afhangt, waaronder hoe ze in combinatie kunnen worden gebruikt.
“De vraag die ik altijd in mijn hoofd heb,” zei Lahav, “is: hebben ze iets gevonden dat op een zeer zinvolle manier kan worden geëxploiteerd, individueel of als onderdeel van een keten?”
Anthropic zegt dat Mythos kwetsbaarheden veel meer kan misbruiken dan zijn vorige model, Opus. Maar het is niet duidelijk dat Mythos feitelijk het allesomvattende cyberbeveiligingsmodel is. Aisle, een AI-cyberbeveiligingsstartup, zei dat het veel van wat Anthropic zegt dat Mythos heeft bereikt, kon repliceren met behulp van kleinere, open modellen. Het team van Aisle betoogt dat deze resultaten aantonen dat er geen enkel diepgaand leermodel voor cyberbeveiliging bestaat, maar in plaats daarvan afhangt van de taak die moet worden uitgevoerd.
Gegeven het feit dat Opus al werd gezien als een game changer op het gebied van cyberbeveiliging, is er nog een reden waarom grenslaboratoria hun releases zouden willen beperken tot grote organisaties: het creëert een vliegwiel voor grote ondernemingscontracten, terwijl het voor concurrenten moeilijker wordt om hun modellen te kopiëren met behulp van distillatie, een techniek die grensmodellen gebruikt om goedkoop nieuwe LLM's op te leiden.
“Dit is marketingdekking voor het feit dat topmodellen nu zijn vastgelegd in bedrijfsovereenkomsten en niet langer beschikbaar zijn voor kleine laboratoria om te distilleren”, suggereerde David Crawshaw, een software-ingenieur en CEO van de startup exe.dev, in een post op sociale media. "Tegen de tijd dat jij en ik Mythos kunnen gebruiken, zal er een nieuwe top-end-omzet zijn die alleen voor ondernemingen geldt. Die tredmolen helpt de ondernemingsdollars te laten stromen (wat het grootste deel van de dollars is) door distillatiebedrijven naar de tweede rang te degraderen", aldus Crawshaw.
Die analyse komt overeen met wat we zien in het AI-ecosysteem: een race tussen grenslaboratoria die de grootste, meest capabele modellen ontwikkelen, en bedrijven als Aisle die vertrouwen op meerdere modellen en open source LLM’s, vaak uit China en vaak naar verluidt ontwikkeld door middel van distillatie, zien als een weg naar economisch voordeel.
De grenslaboratoria hebben dit jaar een hardere houding aangenomen ten aanzien van destillatie, waarbij Anthropic publiekelijk heeft onthuld wat het zegt dat Chinese bedrijven proberen zijn modellen te kopiëren, en drie toonaangevende laboratoria – Anthropic, Google en OpenAI – die samenwerken om distilleerders te identificeren en te blokkeren, volgens een Bloomberg-rapport.
Distillatie is een bedreiging voor het bedrijfsmodel van grenslaboratoria, omdat het de voordelen elimineert die gepaard gaan met het gebruik van enorme hoeveelheden kapitaal om op te schalen. Het blokkeren van destillatie is dus al een waardevolle onderneming, maar de selectieve vrijgavebenadering om dit te doen geeft de laboratoria ook een manier om hun bedrijfsaanbod te differentiëren naarmate de categorie de sleutel wordt tot winstgevende implementatie.
Of Mythos of welk nieuw model dan ook werkelijk een bedreiging vormt voor de veiligheid van het internet valt nog te bezien, en een zorgvuldige uitrol van de technologie is een verantwoorde weg vooruit.
Anthropic heeft op het moment van schrijven niet gereageerd op onze vragen over de vraag of het besluit ook betrekking heeft op distillatieproblemen, maar het bedrijf heeft mogelijk een slimme aanpak gevonden om het internet – en de bedrijfsresultaten – te beschermen.