Default
Door Remote - 10 Jun 2026
In het kort
Amodei zegt dat het tijdperk van op transparantie gerichte AI-regulering voorbij is en dat de VS nu FAA-achtige testvereisten voor grensmodellen nodig hebben.
Het essay roept op tot verplichte tests door derden in vier risicocategorieën: cyberbeveiliging, biowapens, verlies van AI-controle en geautomatiseerde R&D.
Anthropic brengt naast het essay een wetgevingsvoorstel uit over het testen van grensmodellen en een beleidskader voor het vervangen van banen.
Anthropic CEO Dario Amodei zei woensdag dat regeringen AI-regulering niet langer kunnen beschouwen als een probleem dat moet worden bestudeerd en dat de Verenigde Staten bindende veiligheidseisen nodig hebben voor de krachtigste AI-modellen.
In het essay, getiteld ‘Policy on the AI Exponential’, betoogt Amodei dat transparantie-eisen niet langer voldoende zijn en roept hij op tot bindende regulering van grensverleggende AI-systemen.
“AI ontwikkelt zich razendsnel: in slechts vier jaar tijd zijn AI-modellen van amper in staat zijn om een coherente regel code te schrijven, uitgegroeid tot het schrijven van het grootste deel van de code bij grote AI-bedrijven”, schreef Amodei.
Het essay van Amodei komt terwijl Anthropic de toegang tot Claude Mythos uitbreidt met de lancering van Mythos 5 op dinsdag, het beperkte AI-model voor cyberbeveiligingsorganisaties en overheidspartners. Onderzoekers, waaronder het Britse AI Security Institute, hebben ontdekt dat het autonoom complexe cyberaanvallen kan uitvoeren.
Volgens Amodei leent zijn voorstel van de regelgevingsstructuur die wordt gebruikt door de Federal Aviation Administration.
“Frontier AI-modellen moeten, net als vliegtuigen, technische tests en audits ondergaan, en de vrijgave ervan moet worden geblokkeerd of teruggedraaid als een bedreiging voor de openbare veiligheid als ze niet aan hoge veiligheidsnormen voldoen”, schreef hij. “Ik ben dankbaar om te zien dat het Executive Order van de regering-Trump stapsgewijs evolueert naar een grotere rol voor de overheid op het gebied van AI, hoewel het voorstel van Anthropic nog verdere actie aanbeveelt.”
Vandaag publiceer ik een nieuw essay, Policy on the AI Exponential. AI ontwikkelt zich extreem snel – veel sneller dan waarvoor het beleidsproces is gebouwd. Het essay zet uiteen waar de technologie volgens mij nu staat en welke actie nodig is om de kloof te dichten: https://t.co/Lh6PWae178
— Dario Amodei (@DarioAmodei) 10 juni 2026
Volgens het voorstel van Amodei zou een regelgevingskader verplichte tests van geavanceerde AI-modellen door derden vereisen, overheidsgezag om onveilige implementaties te blokkeren, en vereisten dat bedrijven de modelgewichten veiligstellen, veiligheidstests uitvoeren en ernstige incidenten melden. Hij roept regeringen ook op zich voor te bereiden op door AI veroorzaakte banenverdringing en vooruitgang in de ontwikkeling van geneesmiddelen, het toezicht en de autonome wapens bij de binnenlandse wetshandhaving te beperken, en de samenwerking tussen democratische landen op het gebied van cruciale AI-technologieën te versterken.
“Ten eerste is het blijvend verdwijnen van banen onwenselijk en gevaarlijk, en we moeten er alles aan doen om dit te minimaliseren of te voorkomen, en niet om het te bewerkstelligen”, schreef hij, wijzend op eerdere gevallen waarin hij waarschuwde voor het verdwijnen van banen. “Ten tweede moet elke reactie op de door AI veroorzaakte banenverplaatsing zowel tegemoetkomen aan de noodzaak om economisch voor iedereen te zorgen, als aan de behoefte van mensen om betekenis, doel en keuzevrijheid te vinden.”
Het essay komt ook in dezelfde week dat Anthropic Claude Fable 5 lanceerde, een openbare versie van Claude Mythos 5, die bepaalde verzoeken met betrekking tot cyberbeveiliging, biologie, chemie en AI-ontwikkeling doorstuurt naar de minder capabele Claude Opus 4.8 als bescherming tegen misbruik. De lancering lokte kritiek uit van ontwikkelaars en onderzoekers over het hogere tokengebruik van Fable, de verplichte vereisten voor het bewaren van gegevens van 30 dagen en waarborgen die de mogelijkheden van het model kunnen verminderen zonder gebruikers hiervan op de hoogte te stellen.
Amodei’s oproep tot beleidsveranderingen rond de ontwikkeling van AI komt ook terwijl Anthropic zich voorbereidt om naar de beurs te gaan. Eerder deze maand diende het bedrijf papierwerk in bij de Amerikaanse Securities and Exchange Commission voor een beursintroductie, nadat het een Series H-ronde van $65 miljard had opgehaald tegen een gerapporteerde waardering van $965 miljard.
Terwijl Amodei de kwestie omschreef als een race tussen technologische vooruitgang en openbaar beleid, hebben critici zich afgevraagd of de roep om strengere AI-regulering daadwerkelijk het algemeen belang dient. In april beschuldigde Sam Altman, CEO van OpenAI, Anthropic ervan ‘op angst gebaseerde marketing’ te gebruiken om Claude Mythos te promoten, met het argument dat zorgen over geavanceerde AI kunnen worden gebruikt om de concentratie van de controle over de technologie bij een klein aantal bedrijven te rechtvaardigen.
“Je kunt dat op veel verschillende manieren rechtvaardigen, en een deel ervan is reëel, alsof er legitieme veiligheidsproblemen zullen zijn”, zei Altman. “Maar als je wilt dat we controle hebben over AI, alleen wij, omdat wij de betrouwbare mensen zijn”, dan denk ik dat op angst gebaseerde marketing waarschijnlijk de meest effectieve manier is om dat te rechtvaardigen.”
Amodei verwierp het idee dat zorgen over geavanceerde AI in de eerste plaats een PR-probleem zijn, en voerde in plaats daarvan aan dat de angsten over de technologie legitieme zorgen weerspiegelen die moeten worden aangepakt.
“Mensen maken zich zorgen over AI omdat ze terecht inzien dat de risico’s ervan reëel zijn, niet omdat AI-CEO’s onvoldoende Panglossiaans zijn geweest”, zei hij, verwijzend naar de fictieve filosoof Pangloss uit Voltaire’s Candide, die bekend staat om zijn onwrikbare optimisme dat alles het beste is, ongeacht de omstandigheden.
“Ik geloof dat het mijn plicht als AI-leider is om transparant te blijven over deze risico’s, en de publieke bezorgdheid als reactie op deze transparantie betekent dat democratische verantwoording werkt zoals het hoort”, zei hij.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!
Amodei zegt dat het tijdperk van op transparantie gerichte AI-regulering voorbij is en dat de VS nu FAA-achtige testvereisten voor grensmodellen nodig hebben.
Het essay roept op tot verplichte tests door derden in vier risicocategorieën: cyberbeveiliging, biowapens, verlies van AI-controle en geautomatiseerde R&D.
Anthropic brengt naast het essay een wetgevingsvoorstel uit over het testen van grensmodellen en een beleidskader voor het vervangen van banen.
Anthropic CEO Dario Amodei zei woensdag dat regeringen AI-regulering niet langer kunnen beschouwen als een probleem dat moet worden bestudeerd en dat de Verenigde Staten bindende veiligheidseisen nodig hebben voor de krachtigste AI-modellen.
In het essay, getiteld ‘Policy on the AI Exponential’, betoogt Amodei dat transparantie-eisen niet langer voldoende zijn en roept hij op tot bindende regulering van grensverleggende AI-systemen.
“AI ontwikkelt zich razendsnel: in slechts vier jaar tijd zijn AI-modellen van amper in staat zijn om een coherente regel code te schrijven, uitgegroeid tot het schrijven van het grootste deel van de code bij grote AI-bedrijven”, schreef Amodei.
Het essay van Amodei komt terwijl Anthropic de toegang tot Claude Mythos uitbreidt met de lancering van Mythos 5 op dinsdag, het beperkte AI-model voor cyberbeveiligingsorganisaties en overheidspartners. Onderzoekers, waaronder het Britse AI Security Institute, hebben ontdekt dat het autonoom complexe cyberaanvallen kan uitvoeren.
Volgens Amodei leent zijn voorstel van de regelgevingsstructuur die wordt gebruikt door de Federal Aviation Administration.
“Frontier AI-modellen moeten, net als vliegtuigen, technische tests en audits ondergaan, en de vrijgave ervan moet worden geblokkeerd of teruggedraaid als een bedreiging voor de openbare veiligheid als ze niet aan hoge veiligheidsnormen voldoen”, schreef hij. “Ik ben dankbaar om te zien dat het Executive Order van de regering-Trump stapsgewijs evolueert naar een grotere rol voor de overheid op het gebied van AI, hoewel het voorstel van Anthropic nog verdere actie aanbeveelt.”
Vandaag publiceer ik een nieuw essay, Policy on the AI Exponential. AI ontwikkelt zich extreem snel – veel sneller dan waarvoor het beleidsproces is gebouwd. Het essay zet uiteen waar de technologie volgens mij nu staat en welke actie nodig is om de kloof te dichten: https://t.co/Lh6PWae178
— Dario Amodei (@DarioAmodei) 10 juni 2026
Volgens het voorstel van Amodei zou een regelgevingskader verplichte tests van geavanceerde AI-modellen door derden vereisen, overheidsgezag om onveilige implementaties te blokkeren, en vereisten dat bedrijven de modelgewichten veiligstellen, veiligheidstests uitvoeren en ernstige incidenten melden. Hij roept regeringen ook op zich voor te bereiden op door AI veroorzaakte banenverdringing en vooruitgang in de ontwikkeling van geneesmiddelen, het toezicht en de autonome wapens bij de binnenlandse wetshandhaving te beperken, en de samenwerking tussen democratische landen op het gebied van cruciale AI-technologieën te versterken.
“Ten eerste is het blijvend verdwijnen van banen onwenselijk en gevaarlijk, en we moeten er alles aan doen om dit te minimaliseren of te voorkomen, en niet om het te bewerkstelligen”, schreef hij, wijzend op eerdere gevallen waarin hij waarschuwde voor het verdwijnen van banen. “Ten tweede moet elke reactie op de door AI veroorzaakte banenverplaatsing zowel tegemoetkomen aan de noodzaak om economisch voor iedereen te zorgen, als aan de behoefte van mensen om betekenis, doel en keuzevrijheid te vinden.”
Het essay komt ook in dezelfde week dat Anthropic Claude Fable 5 lanceerde, een openbare versie van Claude Mythos 5, die bepaalde verzoeken met betrekking tot cyberbeveiliging, biologie, chemie en AI-ontwikkeling doorstuurt naar de minder capabele Claude Opus 4.8 als bescherming tegen misbruik. De lancering lokte kritiek uit van ontwikkelaars en onderzoekers over het hogere tokengebruik van Fable, de verplichte vereisten voor het bewaren van gegevens van 30 dagen en waarborgen die de mogelijkheden van het model kunnen verminderen zonder gebruikers hiervan op de hoogte te stellen.
Amodei’s oproep tot beleidsveranderingen rond de ontwikkeling van AI komt ook terwijl Anthropic zich voorbereidt om naar de beurs te gaan. Eerder deze maand diende het bedrijf papierwerk in bij de Amerikaanse Securities and Exchange Commission voor een beursintroductie, nadat het een Series H-ronde van $65 miljard had opgehaald tegen een gerapporteerde waardering van $965 miljard.
Terwijl Amodei de kwestie omschreef als een race tussen technologische vooruitgang en openbaar beleid, hebben critici zich afgevraagd of de roep om strengere AI-regulering daadwerkelijk het algemeen belang dient. In april beschuldigde Sam Altman, CEO van OpenAI, Anthropic ervan ‘op angst gebaseerde marketing’ te gebruiken om Claude Mythos te promoten, met het argument dat zorgen over geavanceerde AI kunnen worden gebruikt om de concentratie van de controle over de technologie bij een klein aantal bedrijven te rechtvaardigen.
“Je kunt dat op veel verschillende manieren rechtvaardigen, en een deel ervan is reëel, alsof er legitieme veiligheidsproblemen zullen zijn”, zei Altman. “Maar als je wilt dat we controle hebben over AI, alleen wij, omdat wij de betrouwbare mensen zijn”, dan denk ik dat op angst gebaseerde marketing waarschijnlijk de meest effectieve manier is om dat te rechtvaardigen.”
Amodei verwierp het idee dat zorgen over geavanceerde AI in de eerste plaats een PR-probleem zijn, en voerde in plaats daarvan aan dat de angsten over de technologie legitieme zorgen weerspiegelen die moeten worden aangepakt.
“Mensen maken zich zorgen over AI omdat ze terecht inzien dat de risico’s ervan reëel zijn, niet omdat AI-CEO’s onvoldoende Panglossiaans zijn geweest”, zei hij, verwijzend naar de fictieve filosoof Pangloss uit Voltaire’s Candide, die bekend staat om zijn onwrikbare optimisme dat alles het beste is, ongeacht de omstandigheden.
“Ik geloof dat het mijn plicht als AI-leider is om transparant te blijven over deze risico’s, en de publieke bezorgdheid als reactie op deze transparantie betekent dat democratische verantwoording werkt zoals het hoort”, zei hij.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer. Uw e-mail Download het! Download het!