Default
Door staff@engadget.com (Mariella Moon) - 05 Jun 2026
Anthropic zegt dat AI zich zo snel ontwikkelt, dat de trend erop wijst dat systemen hun eigen opvolger kunnen ontwikkelen. We zijn er nog niet, maar men gelooft dat dit ‘eerder kan gebeuren dan waar de meeste instellingen op voorbereid zijn’. In een blogpost legt Anthropic uit dat AI die zichzelf kan bouwen “enorm veel goeds voor de wereld kan brengen” op het gebied van onder meer wetenschap en gezondheidszorg. Het zou echter ook “het risico kunnen vergroten dat mensen de controle over AI-systemen verliezen.” Dus hoe kan de mensheid voorkomen dat Skynet werkelijkheid wordt? Anthropic suggereert dat het antwoord de mondiale vertraging of de tijdelijke pauze van de AI-ontwikkeling is “om maatschappelijke structuren en afstemmingsonderzoek in staat te stellen gelijke tred te houden met de vooruitgang van de technologie.”
Het bedrijf is momenteel een van de leidende namen in de AI-race, en in tegenstelling tot zijn concurrenten die nog geen geld moeten verdienen, ligt het naar verluidt op koers om zijn eerste winstgevende kwartaal te hebben. Het heeft onlangs papierwerk ingediend bij de SEC om naar de beurs te gaan, waarschijnlijk vóór het einde van het jaar. Zoals The Wall Street Journal opmerkt, suggereren critici dat de waarschuwingen van Anthropic over zijn eigen technologie een marketingtruc zijn, misschien in een poging om het de minst flagrante van alle AI-bedrijven te laten lijken of om het te laten lijken alsof zijn producten de beste zijn die er zijn.
Critici wijzen specifiek op de beperkte release van haar cybersecurity AI-model Mythos als voorbeeld. Anthropic zei dat het Mythos beschikbaar stelt aan een selecte groep partners vanwege de potentiële schade die het vermogen om snel kwetsbaarheden te identificeren in verkeerde handen zou kunnen veroorzaken. Maar mensen denken dat het slechts een truc is om het product een hype te geven of om het feit te verdoezelen dat Anthropic het alleen aan de grootste bedrijven wil verkopen.
Het is echter vermeldenswaard dat de suggestie van het bedrijf gebaseerd is op de bevindingen van het Anthropic Institute, een onderzoeksafdeling die het in maart heeft opgericht. Anthropic zei destijds dat het de rol van het instituut is om ‘de wereld te vertellen’ wat het leert over de uitdagingen die zich voordoen als AI-bedrijven geavanceerdere AI-systemen ontwikkelen. Het instituut zal samen met medewerkers onderzoek doen naar wat er nodig is om “de systemen te bouwen die een geloofwaardige vertraging of pauze nodig zou hebben.”
Als AI-bedrijven akkoord gaan met een vertraging, moeten er mechanismen aanwezig zijn om te verifiëren dat ze allemaal de ontwikkeling van AI daadwerkelijk hebben gestopt of vertraagd. Anders zouden sommigen een voorsprong kunnen nemen op de rest nadat ze hun technologie in het geheim hadden ontwikkeld. “Een betekenisvolle vertraging of pauze zou vereisen dat meerdere goed uitgeruste laboratoria aan of nabij de grens, in meerdere landen, zouden overeenkomen om onder dezelfde omstandigheden te stoppen”, schrijft Anthropic. "Het zou ook vereisen dat iedereen kan verifiëren dat de anderen daadwerkelijk zijn gestopt."
Deze suggestie zou alleen werkelijkheid worden als alle AI-bedrijven over de hele wereld samen kunnen komen en beloven de ontwikkeling van AI een tijdje stop te zetten. Anthropic zegt dat dit niet onmogelijk is en noemt als voorbeeld kernwapenverdragen, hoewel het toegeeft dat die overeenkomsten al tientallen jaren in de maak waren. Zo lang hebben we niet, aangezien de ontwikkeling van AI in een snel tempo vordert. Het bedrijf is van plan de komende maanden over dit onderwerp gesprekken te voeren met beleidsmakers, onderzoekers en andere AI-bedrijven en zal de resultaten van die gesprekken publiceren.
Het bedrijf is momenteel een van de leidende namen in de AI-race, en in tegenstelling tot zijn concurrenten die nog geen geld moeten verdienen, ligt het naar verluidt op koers om zijn eerste winstgevende kwartaal te hebben. Het heeft onlangs papierwerk ingediend bij de SEC om naar de beurs te gaan, waarschijnlijk vóór het einde van het jaar. Zoals The Wall Street Journal opmerkt, suggereren critici dat de waarschuwingen van Anthropic over zijn eigen technologie een marketingtruc zijn, misschien in een poging om het de minst flagrante van alle AI-bedrijven te laten lijken of om het te laten lijken alsof zijn producten de beste zijn die er zijn.
Critici wijzen specifiek op de beperkte release van haar cybersecurity AI-model Mythos als voorbeeld. Anthropic zei dat het Mythos beschikbaar stelt aan een selecte groep partners vanwege de potentiële schade die het vermogen om snel kwetsbaarheden te identificeren in verkeerde handen zou kunnen veroorzaken. Maar mensen denken dat het slechts een truc is om het product een hype te geven of om het feit te verdoezelen dat Anthropic het alleen aan de grootste bedrijven wil verkopen.
Het is echter vermeldenswaard dat de suggestie van het bedrijf gebaseerd is op de bevindingen van het Anthropic Institute, een onderzoeksafdeling die het in maart heeft opgericht. Anthropic zei destijds dat het de rol van het instituut is om ‘de wereld te vertellen’ wat het leert over de uitdagingen die zich voordoen als AI-bedrijven geavanceerdere AI-systemen ontwikkelen. Het instituut zal samen met medewerkers onderzoek doen naar wat er nodig is om “de systemen te bouwen die een geloofwaardige vertraging of pauze nodig zou hebben.”
Als AI-bedrijven akkoord gaan met een vertraging, moeten er mechanismen aanwezig zijn om te verifiëren dat ze allemaal de ontwikkeling van AI daadwerkelijk hebben gestopt of vertraagd. Anders zouden sommigen een voorsprong kunnen nemen op de rest nadat ze hun technologie in het geheim hadden ontwikkeld. “Een betekenisvolle vertraging of pauze zou vereisen dat meerdere goed uitgeruste laboratoria aan of nabij de grens, in meerdere landen, zouden overeenkomen om onder dezelfde omstandigheden te stoppen”, schrijft Anthropic. "Het zou ook vereisen dat iedereen kan verifiëren dat de anderen daadwerkelijk zijn gestopt."
Deze suggestie zou alleen werkelijkheid worden als alle AI-bedrijven over de hele wereld samen kunnen komen en beloven de ontwikkeling van AI een tijdje stop te zetten. Anthropic zegt dat dit niet onmogelijk is en noemt als voorbeeld kernwapenverdragen, hoewel het toegeeft dat die overeenkomsten al tientallen jaren in de maak waren. Zo lang hebben we niet, aangezien de ontwikkeling van AI in een snel tempo vordert. Het bedrijf is van plan de komende maanden over dit onderwerp gesprekken te voeren met beleidsmakers, onderzoekers en andere AI-bedrijven en zal de resultaten van die gesprekken publiceren.