Default
Door Remote - 15 Oct 2026
In het kort
Google DeepMind vond geen statistisch significante versnelling in het tempo van zijn AI-vooruitgang na 1 april 2026; de capaciteitenindex is gestaag met 0,1 punt per maand gestegen.
De meeste productiecode in het laboratorium is nu voor meer dan 75% door AI geschreven, maar voor ongeveer 88% van de codewijzigingen zijn nog steeds mensen nodig die de AI aansturen of zelf code schrijven.
Gemini 4 Argon loste ongeveer de helft van de interne onderzoekstechnische taken op, ver onder de score van 90% die DeepMind beschouwt als een alarmsignaal voor volledige automatisering.
Google DeepMind ging op zoek naar bewijs dat AI de ontwikkeling van AI zelf versnelt. Het heeft er geen gevonden.
In het veiligheidsrapport voor Gemini 4 Argon, het krachtigste model, concludeerde het laboratorium dat het AI-onderzoek niet sneller gaat, ook al schrijft AI nu het grootste deel van de code die de ingenieurs van DeepMind verzenden.
Myriad: Welk bedrijf zal het beste AI-model hebben? Klik om uw voorspelling te doen. De bevinding gaat in tegen het scenario dat AI-managers ertoe heeft aangezet om op te roepen tot een vertraging. Het wordt recursieve zelfverbetering genoemd: een AI bouwt een slimmere versie van zichzelf, die een nog slimmere versie bouwt, totdat de vooruitgang het vermogen van iemand om deze te testen, te reguleren of uit te schakelen te boven gaat – wat het rapport ‘een situatie noemt waarin de bestaande vangrails ernstig ontoereikend zijn’.
“Er is momenteel geen significante end-to-end versnelling van ML R&D, AI-gedreven of anderszins”, schreef Haydn Belfield, een Google DeepMind-onderzoeker die aan de beoordeling werkte, in een thread op X. “We concluderen daarom dat het risico van AI-gedreven ML R&D momenteel laag is.”
ML R&D is een afkorting voor onderzoek en ontwikkeling op het gebied van machine learning, het werk dat gepaard gaat met het bouwen van nieuwe AI-modellen.
1/9
In het Gemini 4 Argon Safety & Security Report publiceerden we onze eerste holistische empirische beoordeling van ML R&D-automatisering en -versnelling binnen Google DeepMind – waarbij capaciteitsbenchmarks, een macrocapaciteitsindex, gegevens over door AI geschreven code en trajectresultaten werden gecombineerd, en... pic.twitter.com/Vr8Q5Obbsp
— Haydn Belfield (@HaydnBelfield) 14 oktober 2026
DeepMind volgt het probleem omdat “AI de vooruitgang op het gebied van grenscapaciteit sneller zou kunnen versnellen dan veiligheid, bestuur en maatschappelijke aanpassing gelijke tred kunnen houden”, schreef Belfield. Meer automatisering betekent ook dat AI-agenten bredere toegang krijgen tot bedrijfssystemen, en dat er meer ruimte is voor een model dat niet goed op elkaar is afgestemd (een model dat doelen nastreeft die de makers nooit hebben bedoeld) om problemen te veroorzaken.
Om de voortgang te meten heeft het team GCI v1 gebouwd, een interne index die de scores van 123 AI-modellen uit 92 benchmarks samenvoegt tot één getal per model. Zie het als een IQ-score voor AI. “De mogelijkheden van Frontier Gemini zijn verbeterd in een opmerkelijk gestaag tempo van ~0,1 GCI-punten/maand”, schreef Belfield.
In de grafiek van die index in het rapport staat Gemini 1.5 Pro eind 2024 op bijna 0,5 punten en in september 2026 ligt Gemini 3.8 Flash net boven de 2,9, waarbij bijna elke release in een rechte lijn ligt. Argon is het enige puntje dat erboven steekt, op ongeveer 3,3, hoewel de foutbalk (het bereik waarin de werkelijke score plausibel zou kunnen vallen) laag genoeg is om de trend te raken.
“Hoewel Gemini 4 Argon boven de trend uitstijgt, herleiden we dit tot toegenomen computer- en organisatie-investeringen in plaats van een weerspiegeling van AI-gedreven versnelling”, schreef Belfield. Google onthulde Gemini 4 Argon op 30 september.
De meeste productiecode bij DeepMind is nu voor meer dan 75% door AI geschreven, en het aandeel volledig gedelegeerde pull-requests (bundels van codewijzigingen die ter beoordeling zijn ingediend voordat ze live gaan) is tussen april en september gestegen van 7,5% naar 11,9%. Maar “~88% van de pull-aanvragen vereisen nog steeds menselijke sturing in meerdere stappen of het auteurschap van menselijke code – en codewijzigingen blijven onderworpen aan menselijke beoordeling voordat ze worden ingediend”, schreef Belfield.
Uit een onderzoek onder twaalf senior DeepMind-leiders en onderzoekers bleek dat automatisering het hoogst is in “goed gespecificeerde, verifieerbare uitvoeringstaken en het laagst in wetenschappelijke ideevorming met een open einde, nieuw experimenteel ontwerp, het diagnosticeren van subtiele trainingsinstabiliteiten en onderzoekssmaak met een lange horizon.” Simpel gezegd: AI is goed in het uitvoeren van instructies en slecht in het beslissen welke ideeën de moeite waard zijn om na te jagen.
DeepMind heeft ook 1.389 logboeken beoordeeld waarin Argon als agent binnen het bedrijf werkte. Hoe groter de taak, hoe kleiner de kans dat het model deze alleen afmaakte en hoe vaker een mens tussenbeide kwam.
Het rapport verscheen een maand nadat Dario Amodei, CEO van Anthropic, betoogde dat de recursieve zelfverbetering al aan het versnellen is, een waarschuwing die Sam Altman en Elon Musk onderschreven en die de chipaandelen met bijna 6% deed dalen. Dagen eerder had voormalig antropisch ingenieur Jacob Coxon de industrie verlaten, met de waarschuwing dat AI ‘ons allemaal tegen het einde van het decennium zou kunnen doden’.
De cijfers van DeepMind hebben alleen betrekking op het eigen laboratorium, en hetzelfde rapport zegt dat het niet kan uitsluiten dat een onbeperkte Argon de gevarendrempel voor cyberaanvallen en informatie over biowapens overschrijdt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer.
E-mailadres Word gratis lid Sluit u aan bij meer dan 72.000 lezers
Maak een account aan om uw artikelen op te slaan. Voeg toe op Google Voeg Decrypt toe als uw favoriete bron om meer van onze verhalen op Google te zien.
Google DeepMind vond geen statistisch significante versnelling in het tempo van zijn AI-vooruitgang na 1 april 2026; de capaciteitenindex is gestaag met 0,1 punt per maand gestegen.
De meeste productiecode in het laboratorium is nu voor meer dan 75% door AI geschreven, maar voor ongeveer 88% van de codewijzigingen zijn nog steeds mensen nodig die de AI aansturen of zelf code schrijven.
Gemini 4 Argon loste ongeveer de helft van de interne onderzoekstechnische taken op, ver onder de score van 90% die DeepMind beschouwt als een alarmsignaal voor volledige automatisering.
Google DeepMind ging op zoek naar bewijs dat AI de ontwikkeling van AI zelf versnelt. Het heeft er geen gevonden.
In het veiligheidsrapport voor Gemini 4 Argon, het krachtigste model, concludeerde het laboratorium dat het AI-onderzoek niet sneller gaat, ook al schrijft AI nu het grootste deel van de code die de ingenieurs van DeepMind verzenden.
Myriad: Welk bedrijf zal het beste AI-model hebben? Klik om uw voorspelling te doen. De bevinding gaat in tegen het scenario dat AI-managers ertoe heeft aangezet om op te roepen tot een vertraging. Het wordt recursieve zelfverbetering genoemd: een AI bouwt een slimmere versie van zichzelf, die een nog slimmere versie bouwt, totdat de vooruitgang het vermogen van iemand om deze te testen, te reguleren of uit te schakelen te boven gaat – wat het rapport ‘een situatie noemt waarin de bestaande vangrails ernstig ontoereikend zijn’.
“Er is momenteel geen significante end-to-end versnelling van ML R&D, AI-gedreven of anderszins”, schreef Haydn Belfield, een Google DeepMind-onderzoeker die aan de beoordeling werkte, in een thread op X. “We concluderen daarom dat het risico van AI-gedreven ML R&D momenteel laag is.”
ML R&D is een afkorting voor onderzoek en ontwikkeling op het gebied van machine learning, het werk dat gepaard gaat met het bouwen van nieuwe AI-modellen.
1/9
In het Gemini 4 Argon Safety & Security Report publiceerden we onze eerste holistische empirische beoordeling van ML R&D-automatisering en -versnelling binnen Google DeepMind – waarbij capaciteitsbenchmarks, een macrocapaciteitsindex, gegevens over door AI geschreven code en trajectresultaten werden gecombineerd, en... pic.twitter.com/Vr8Q5Obbsp
— Haydn Belfield (@HaydnBelfield) 14 oktober 2026
DeepMind volgt het probleem omdat “AI de vooruitgang op het gebied van grenscapaciteit sneller zou kunnen versnellen dan veiligheid, bestuur en maatschappelijke aanpassing gelijke tred kunnen houden”, schreef Belfield. Meer automatisering betekent ook dat AI-agenten bredere toegang krijgen tot bedrijfssystemen, en dat er meer ruimte is voor een model dat niet goed op elkaar is afgestemd (een model dat doelen nastreeft die de makers nooit hebben bedoeld) om problemen te veroorzaken.
Om de voortgang te meten heeft het team GCI v1 gebouwd, een interne index die de scores van 123 AI-modellen uit 92 benchmarks samenvoegt tot één getal per model. Zie het als een IQ-score voor AI. “De mogelijkheden van Frontier Gemini zijn verbeterd in een opmerkelijk gestaag tempo van ~0,1 GCI-punten/maand”, schreef Belfield.
In de grafiek van die index in het rapport staat Gemini 1.5 Pro eind 2024 op bijna 0,5 punten en in september 2026 ligt Gemini 3.8 Flash net boven de 2,9, waarbij bijna elke release in een rechte lijn ligt. Argon is het enige puntje dat erboven steekt, op ongeveer 3,3, hoewel de foutbalk (het bereik waarin de werkelijke score plausibel zou kunnen vallen) laag genoeg is om de trend te raken.
“Hoewel Gemini 4 Argon boven de trend uitstijgt, herleiden we dit tot toegenomen computer- en organisatie-investeringen in plaats van een weerspiegeling van AI-gedreven versnelling”, schreef Belfield. Google onthulde Gemini 4 Argon op 30 september.
De meeste productiecode bij DeepMind is nu voor meer dan 75% door AI geschreven, en het aandeel volledig gedelegeerde pull-requests (bundels van codewijzigingen die ter beoordeling zijn ingediend voordat ze live gaan) is tussen april en september gestegen van 7,5% naar 11,9%. Maar “~88% van de pull-aanvragen vereisen nog steeds menselijke sturing in meerdere stappen of het auteurschap van menselijke code – en codewijzigingen blijven onderworpen aan menselijke beoordeling voordat ze worden ingediend”, schreef Belfield.
Uit een onderzoek onder twaalf senior DeepMind-leiders en onderzoekers bleek dat automatisering het hoogst is in “goed gespecificeerde, verifieerbare uitvoeringstaken en het laagst in wetenschappelijke ideevorming met een open einde, nieuw experimenteel ontwerp, het diagnosticeren van subtiele trainingsinstabiliteiten en onderzoekssmaak met een lange horizon.” Simpel gezegd: AI is goed in het uitvoeren van instructies en slecht in het beslissen welke ideeën de moeite waard zijn om na te jagen.
DeepMind heeft ook 1.389 logboeken beoordeeld waarin Argon als agent binnen het bedrijf werkte. Hoe groter de taak, hoe kleiner de kans dat het model deze alleen afmaakte en hoe vaker een mens tussenbeide kwam.
Het rapport verscheen een maand nadat Dario Amodei, CEO van Anthropic, betoogde dat de recursieve zelfverbetering al aan het versnellen is, een waarschuwing die Sam Altman en Elon Musk onderschreven en die de chipaandelen met bijna 6% deed dalen. Dagen eerder had voormalig antropisch ingenieur Jacob Coxon de industrie verlaten, met de waarschuwing dat AI ‘ons allemaal tegen het einde van het decennium zou kunnen doden’.
De cijfers van DeepMind hebben alleen betrekking op het eigen laboratorium, en hetzelfde rapport zegt dat het niet kan uitsluiten dat een onbeperkte Argon de gevarendrempel voor cyberaanvallen en informatie over biowapens overschrijdt.
Dagelijkse debriefing NieuwsbriefBegin elke dag met de belangrijkste nieuwsverhalen van dit moment, plus originele artikelen, een podcast, video's en meer.
E-mailadres Word gratis lid Sluit u aan bij meer dan 72.000 lezers
Maak een account aan om uw artikelen op te slaan. Voeg toe op Google Voeg Decrypt toe als uw favoriete bron om meer van onze verhalen op Google te zien.