Default
Door Remote - 28 Jul 2026
Anthropic-oprichter en CEO Dario Amodei reageerde maandagmiddag op gemompel in de sector dat zijn bedrijf op de een of andere manier de inspanningen van de Amerikaanse overheid steunt om open-weight Chinese modellen, of mogelijk open-weight-modellen in het algemeen, te verbieden.
“Iedereen die mijn eerdere artikelen heeft gelezen, moet weten dat ik dergelijke verboden niet als een nuttige maatregel beschouw, maar laat me het duidelijk zeggen, zodat er geen twijfel over bestaat: Anthropic heeft nooit gepleit voor een verbod op modellen met open gewichten”, schreef hij, met nadruk op zijn eigen.
Zijn reactie kwam nadat Nvidia-oprichter en CEO Jensen Huang vrijdag naar X (zijn eerste post op het platform) ging om een open brief te delen waarin Nvidia en een lange lijst van andere AI-bedrijven, waaronder Hugging Face, Meta, Microsoft, Mistral en Nvidia, er bij beleidsmakers op aandrongen geen brede “voortijdige beperkingen” op te leggen aan open-weight AI-modellen.
Hoewel China in die brief niet specifiek werd genoemd, concentreerde het debat in de industrie zich op beschuldigingen dat Chinese AI-laboratoria in capaciteit toenemen, vaak door intellectueel eigendom van hun Amerikaanse tegenhangers te stelen. Eén methode is destillatie, waarbij een AI een ander model bombardeert met aanwijzingen om te leren hoe het werkt.
Amodei zei in de maandag gepubliceerde blogpost dat hij van mening is dat modellen met een open gewicht in een andere categorie vallen dan de dreiging die China vormt. “Open-weights-modellen die geen gevaarlijke mogelijkheden hebben, zijn een publiek goed: ze kosten niets anders dan de rekenkracht die nodig is om ze uit te voeren, en ze bieden waarde aan bedrijven, ontwikkelaars en onderzoekers.”
Amodei zei in zijn post dat hij al lang zorgen heeft over AI, maar dat bedrijven die open-weight-modellen gebruiken, zelfs die uit China, daar niet bij horen.
Zijn angst is dat “autoritaire regeringen” modellen zullen bouwen die krachtiger zijn dan die in de VS om “permanente militaire superioriteit” te bereiken en/of AI te gebruiken om hun eigen volk te onderdrukken. Hij zei dat de Chinese Communistische Partij (CCP) niet de enige autoritaire regering is waar hij zich zorgen over maakt, maar wel de ‘meest capabele’.
Amodei zei ook dat hij vreest dat AI “biologische aanvallen” mogelijk zal maken, en niet alleen cyberaanvallen. En volgens hem zijn modellen met een open gewicht in die scenario's gevaarlijker omdat het moeilijk is om er vangrails op aan te brengen of het gebruik ervan te controleren. Hij merkte ook op, onder verwijzing naar een rapport van het Britse AI Security Institute, dat zodra de open gewichten zijn vrijgegeven, deze niet meer kunnen worden ingetrokken
Dit druist in tegen wat voorstanders van open source beweren: dat toegang tot krachtige open modellen die niet door één enkele entiteit worden gecontroleerd, verdedigers helpt zichzelf te beschermen.
Amodei somde acties op die volgens hem China zouden dwarsbomen, waaronder het beperken van de toegang tot krachtige chips (wat al lang een Amerikaans beleid is) en het oproepen tot formeel optreden tegen distillatie. De VS hebben gedreigd met sancties tegen China als het vaststelt dat er sprake is van IP-diefstal waarbij Amerikaanse modellen betrokken zijn.
Interessant genoeg zei Amodei ook dat hij de groeiende inspanningen steunt, waarvan sommige onder leiding van de VS, om een modelorganisatie voor veiligheidstests te creëren, vooral als de hele wereld, inclusief China, ermee instemde zich daaraan te onderwerpen.
“Ik denk dat dit idee eigenlijk dicht bij een consensus ligt: ik ben gesterkt door het feit dat de regering-Trump de afgelopen maanden deze richting is opgegaan, en door recente voorstellen uit de industrie die dergelijke tests zouden toepassen op de meest capabele modellen, ongeacht hun land van herkomst en of ze open of gesloten zijn (terwijl minder capabele modellen, zoals die van startups en de academische wereld, volledig worden uitgesloten)”, schreef Amodei.
"Merk op dat om effectief te zijn," voegde hij eraan toe, "het testen mondiaal zou moeten zijn, wat betekent dat zelfs de CCP mee zou moeten doen. Ik denk dat dit daadwerkelijk mogelijk zou kunnen zijn... beperkte samenwerking rond het voorkomen van biologische AI-wapens zou mogelijk kunnen zijn, omdat dit ook in het belang van China is."
“Iedereen die mijn eerdere artikelen heeft gelezen, moet weten dat ik dergelijke verboden niet als een nuttige maatregel beschouw, maar laat me het duidelijk zeggen, zodat er geen twijfel over bestaat: Anthropic heeft nooit gepleit voor een verbod op modellen met open gewichten”, schreef hij, met nadruk op zijn eigen.
Zijn reactie kwam nadat Nvidia-oprichter en CEO Jensen Huang vrijdag naar X (zijn eerste post op het platform) ging om een open brief te delen waarin Nvidia en een lange lijst van andere AI-bedrijven, waaronder Hugging Face, Meta, Microsoft, Mistral en Nvidia, er bij beleidsmakers op aandrongen geen brede “voortijdige beperkingen” op te leggen aan open-weight AI-modellen.
Hoewel China in die brief niet specifiek werd genoemd, concentreerde het debat in de industrie zich op beschuldigingen dat Chinese AI-laboratoria in capaciteit toenemen, vaak door intellectueel eigendom van hun Amerikaanse tegenhangers te stelen. Eén methode is destillatie, waarbij een AI een ander model bombardeert met aanwijzingen om te leren hoe het werkt.
Amodei zei in de maandag gepubliceerde blogpost dat hij van mening is dat modellen met een open gewicht in een andere categorie vallen dan de dreiging die China vormt. “Open-weights-modellen die geen gevaarlijke mogelijkheden hebben, zijn een publiek goed: ze kosten niets anders dan de rekenkracht die nodig is om ze uit te voeren, en ze bieden waarde aan bedrijven, ontwikkelaars en onderzoekers.”
Amodei zei in zijn post dat hij al lang zorgen heeft over AI, maar dat bedrijven die open-weight-modellen gebruiken, zelfs die uit China, daar niet bij horen.
Zijn angst is dat “autoritaire regeringen” modellen zullen bouwen die krachtiger zijn dan die in de VS om “permanente militaire superioriteit” te bereiken en/of AI te gebruiken om hun eigen volk te onderdrukken. Hij zei dat de Chinese Communistische Partij (CCP) niet de enige autoritaire regering is waar hij zich zorgen over maakt, maar wel de ‘meest capabele’.
Amodei zei ook dat hij vreest dat AI “biologische aanvallen” mogelijk zal maken, en niet alleen cyberaanvallen. En volgens hem zijn modellen met een open gewicht in die scenario's gevaarlijker omdat het moeilijk is om er vangrails op aan te brengen of het gebruik ervan te controleren. Hij merkte ook op, onder verwijzing naar een rapport van het Britse AI Security Institute, dat zodra de open gewichten zijn vrijgegeven, deze niet meer kunnen worden ingetrokken
Dit druist in tegen wat voorstanders van open source beweren: dat toegang tot krachtige open modellen die niet door één enkele entiteit worden gecontroleerd, verdedigers helpt zichzelf te beschermen.
Amodei somde acties op die volgens hem China zouden dwarsbomen, waaronder het beperken van de toegang tot krachtige chips (wat al lang een Amerikaans beleid is) en het oproepen tot formeel optreden tegen distillatie. De VS hebben gedreigd met sancties tegen China als het vaststelt dat er sprake is van IP-diefstal waarbij Amerikaanse modellen betrokken zijn.
Interessant genoeg zei Amodei ook dat hij de groeiende inspanningen steunt, waarvan sommige onder leiding van de VS, om een modelorganisatie voor veiligheidstests te creëren, vooral als de hele wereld, inclusief China, ermee instemde zich daaraan te onderwerpen.
“Ik denk dat dit idee eigenlijk dicht bij een consensus ligt: ik ben gesterkt door het feit dat de regering-Trump de afgelopen maanden deze richting is opgegaan, en door recente voorstellen uit de industrie die dergelijke tests zouden toepassen op de meest capabele modellen, ongeacht hun land van herkomst en of ze open of gesloten zijn (terwijl minder capabele modellen, zoals die van startups en de academische wereld, volledig worden uitgesloten)”, schreef Amodei.
"Merk op dat om effectief te zijn," voegde hij eraan toe, "het testen mondiaal zou moeten zijn, wat betekent dat zelfs de CCP mee zou moeten doen. Ik denk dat dit daadwerkelijk mogelijk zou kunnen zijn... beperkte samenwerking rond het voorkomen van biologische AI-wapens zou mogelijk kunnen zijn, omdat dit ook in het belang van China is."