Default
Door Remote - 14 May 2026
Richard Socher is al geruime tijd een belangrijke figuur op het gebied van AI, vooral bekend door het oprichten van de vroege chatbot-startup You.com en daarvoor zijn werk aan ImageNet. Nu sluit hij zich aan bij de huidige generatie onderzoeksgerichte AI-startups met Recursive Superintelligence, een in San Francisco gevestigde startup die woensdag uit de stealth kwam met $ 650 miljoen aan financiering.
Socher wordt in de nieuwe onderneming vergezeld door een groep vooraanstaande AI-onderzoekers, waaronder Peter Norvig en mede-oprichter van Cresta, Tim Shi. Samen werken ze aan het creëren van een recursief, zichzelf verbeterend AI-model, een model dat autonoom zijn eigen zwakke punten kan identificeren en zichzelf opnieuw kan ontwerpen om ze op te lossen, zonder menselijke tussenkomst – een al lang bestaande heilige graal van hedendaags AI-onderzoek.
Ik sprak met hem op Zoom na de lancering, waarbij ik dieper inging op de unieke technische aanpak van Recursive en waarom hij dit nieuwe project niet als een neolab beschouwt, de informele term voor een nieuwe generatie AI-startups die onderzoek voorrang geven boven het bouwen van producten.
Dit interview is aangepast voor lengte en duidelijkheid.
We horen tegenwoordig veel over recursie! Het voelt als een heel gemeenschappelijk doel in verschillende laboratoria. Wat zie jij als jouw unieke aanpak?
Onze unieke aanpak is het gebruik van een open einde om tot recursieve zelfverbetering te komen, wat nog niemand heeft bereikt. Voor veel mensen een ongrijpbaar doel. Veel mensen gaan er al van uit dat dit gebeurt als je alleen maar auto-onderzoek doet. Weet je, je kunt AI nemen en het vragen om iets anders beter te maken, wat een machine learning-systeem zou kunnen zijn, of gewoon een brief die je schrijft, of, weet je, wat het ook mag zijn, toch? Maar dat is geen recursieve zelfverbetering. Dat is gewoon verbetering.
Onze belangrijkste focus is het bouwen van echt recursieve, zelfverbeterende superintelligentie op schaal, wat betekent dat het hele proces van ideevorming, implementatie en validatie van onderzoeksideeën automatisch zou verlopen.
Ten eerste zou het AI-onderzoeksideeën automatiseren, uiteindelijk alle soorten onderzoeksideeën, uiteindelijk zelfs in de fysieke domeinen. Maar het is vooral krachtig als het AI is die aan zichzelf werkt en een nieuw soort gevoel van zelfbewustzijn van zijn eigen tekortkomingen ontwikkelt.
U gebruikte de term open einde – heeft dat een specifieke technische betekenis?
Dat doet het. Tim Rocktäschel, een van onze medeoprichters, leidde zelfs de teams voor openheid en zelfverbetering bij Google DeepMind en werkte vooral aan het wereldmodel Genie 3, dat een geweldig voorbeeld is van openheid. Je kunt het elk concept, elke wereld, elke agent vertellen, en het creëert het gewoon, en het is interactief.
In de biologische evolutie passen dieren zich aan de omgeving aan, en vervolgens passen anderen zich aan die aanpassingen aan. Het is gewoon een proces dat miljarden jaren kan evolueren, en er blijven interessante dingen gebeuren, toch? Dat is hoe we ogen in ons [hoofd] ontwikkelden.
Een ander voorbeeld is Rainbow Teaming, uit een ander artikel van Tim. Heb jij al gehoord van redteaming?
Op het gebied van cyberbeveiliging betekent dit:
Red teaming moet dus ook in een LLM-context plaatsvinden. Eigenlijk probeer je de LLM zover te krijgen dat hij je vertelt hoe je een bom moet bouwen, en je wilt er zeker van zijn dat hij dat niet doet.
Nu kunnen mensen daar een hele tijd blijven zitten en met interessante voorbeelden komen van wat de AI niet zou moeten zeggen. Maar wat als je deze eerste AI zou testen met een tweede AI, en die tweede AI nu de taak heeft om de eerste AI alle mogelijke slechte dingen te laten zeggen. En dan kunnen ze miljoenen iteraties heen en weer gaan.
Je kunt feitelijk toestaan dat twee AI’s samen evolueren. De een blijft de ander aanvallen en komt dan niet met slechts één invalshoek, maar met veel verschillende invalshoeken op de proppen, en vandaar de regenbooganalogie. En dan kun je de eerste AI inenten, en word je steeds veiliger. Dit was een idee van Tim Rocktaeschel en wordt nu in alle grote laboratoria gebruikt.
Hoe weet je wanneer het klaar is? Ik veronderstel dat het nooit gedaan is.
Sommige van deze dingen zullen nooit gedaan worden. Intelligenter kun je altijd worden. Je kunt altijd beter worden in programmeren, rekenen, enzovoort. Er zijn enkele grenzen aan intelligentie; Ik probeer die nu eigenlijk te formaliseren, maar ze zijn astronomisch. We zijn nog ver verwijderd van die grenzen.
Als neolab voelt het alsof je iets moet doen wat de grote labs niet doen. Een deel van de implicatie hier is dus dat je niet denkt dat de grote laboratoria RSI (recursieve zelfverbetering) zullen bereiken door te doen wat ze doen. Is dat eerlijk om te zeggen?
Ik kan niet echt zeggen wat ze doen, maar ik denk wel dat we het anders benaderen. We omarmen het concept van openheid echt en ons team is volledig gefocust op die visie. En het team heeft dit de afgelopen tien jaar onderzocht en papieren op dit gebied gedaan. En het team heeft een staat van dienst als het gaat om het aanzienlijk vooruitbrengen van het vakgebied en het verzenden van echte producten. Weet je, Tim Shi heeft Cresta omgebouwd tot een eenhoorn. Josh Tobin was een van de eerste mensen bij OpenAI en leidde uiteindelijk hun Codex-teams en de diepgaande onderzoeksteams.
Ik heb eigenlijk soms een beetje moeite met deze neolab-categorie. Ik heb het gevoel dat we niet zomaar een laboratorium zijn. Ik wil dat we een echt levensvatbaar bedrijf worden, dat we echt geweldige producten hebben die mensen graag gebruiken en die een positieve impact hebben op de mensheid.
Wanneer bent u van plan uw eerste product te verzenden?
Ik heb daar veel over nagedacht. Het team heeft zoveel vooruitgang geboekt dat we de tijdlijnen wellicht kunnen achterhalen van wat we aanvankelijk hadden aangenomen. Maar ja, er zullen producten zijn, en je zult kwartalen moeten wachten, geen jaren.
Een van de ideeën rond recursieve zelfverbetering is dat, zodra we dit soort systemen hebben, computergebruik de enige belangrijke hulpbron wordt. Hoe sneller je het systeem laat draaien, hoe sneller het zal verbeteren, en er is geen menselijke activiteit van buitenaf die echt een verschil zal maken. Dus de race wordt gewoon: hoeveel verwerkingskracht kunnen we hierop inzetten? Denk je dat dit de wereld is waar we naartoe gaan?
Computing is niet te onderschatten. Ik denk dat in de toekomst een heel belangrijke vraag zal zijn: hoeveel rekenkracht wil de mensheid uitgeven om welke problemen op te lossen? Hier is deze kanker en hier is dat virus – welke wil je als eerste oplossen? Hoeveel rekenkracht wil je eraan geven? Uiteindelijk wordt het een kwestie van toewijzing van middelen. Het wordt een van de grootste vragen ter wereld.
Socher wordt in de nieuwe onderneming vergezeld door een groep vooraanstaande AI-onderzoekers, waaronder Peter Norvig en mede-oprichter van Cresta, Tim Shi. Samen werken ze aan het creëren van een recursief, zichzelf verbeterend AI-model, een model dat autonoom zijn eigen zwakke punten kan identificeren en zichzelf opnieuw kan ontwerpen om ze op te lossen, zonder menselijke tussenkomst – een al lang bestaande heilige graal van hedendaags AI-onderzoek.
Ik sprak met hem op Zoom na de lancering, waarbij ik dieper inging op de unieke technische aanpak van Recursive en waarom hij dit nieuwe project niet als een neolab beschouwt, de informele term voor een nieuwe generatie AI-startups die onderzoek voorrang geven boven het bouwen van producten.
Dit interview is aangepast voor lengte en duidelijkheid.
We horen tegenwoordig veel over recursie! Het voelt als een heel gemeenschappelijk doel in verschillende laboratoria. Wat zie jij als jouw unieke aanpak?
Onze unieke aanpak is het gebruik van een open einde om tot recursieve zelfverbetering te komen, wat nog niemand heeft bereikt. Voor veel mensen een ongrijpbaar doel. Veel mensen gaan er al van uit dat dit gebeurt als je alleen maar auto-onderzoek doet. Weet je, je kunt AI nemen en het vragen om iets anders beter te maken, wat een machine learning-systeem zou kunnen zijn, of gewoon een brief die je schrijft, of, weet je, wat het ook mag zijn, toch? Maar dat is geen recursieve zelfverbetering. Dat is gewoon verbetering.
Onze belangrijkste focus is het bouwen van echt recursieve, zelfverbeterende superintelligentie op schaal, wat betekent dat het hele proces van ideevorming, implementatie en validatie van onderzoeksideeën automatisch zou verlopen.
Ten eerste zou het AI-onderzoeksideeën automatiseren, uiteindelijk alle soorten onderzoeksideeën, uiteindelijk zelfs in de fysieke domeinen. Maar het is vooral krachtig als het AI is die aan zichzelf werkt en een nieuw soort gevoel van zelfbewustzijn van zijn eigen tekortkomingen ontwikkelt.
U gebruikte de term open einde – heeft dat een specifieke technische betekenis?
Dat doet het. Tim Rocktäschel, een van onze medeoprichters, leidde zelfs de teams voor openheid en zelfverbetering bij Google DeepMind en werkte vooral aan het wereldmodel Genie 3, dat een geweldig voorbeeld is van openheid. Je kunt het elk concept, elke wereld, elke agent vertellen, en het creëert het gewoon, en het is interactief.
In de biologische evolutie passen dieren zich aan de omgeving aan, en vervolgens passen anderen zich aan die aanpassingen aan. Het is gewoon een proces dat miljarden jaren kan evolueren, en er blijven interessante dingen gebeuren, toch? Dat is hoe we ogen in ons [hoofd] ontwikkelden.
Een ander voorbeeld is Rainbow Teaming, uit een ander artikel van Tim. Heb jij al gehoord van redteaming?
Op het gebied van cyberbeveiliging betekent dit:
Red teaming moet dus ook in een LLM-context plaatsvinden. Eigenlijk probeer je de LLM zover te krijgen dat hij je vertelt hoe je een bom moet bouwen, en je wilt er zeker van zijn dat hij dat niet doet.
Nu kunnen mensen daar een hele tijd blijven zitten en met interessante voorbeelden komen van wat de AI niet zou moeten zeggen. Maar wat als je deze eerste AI zou testen met een tweede AI, en die tweede AI nu de taak heeft om de eerste AI alle mogelijke slechte dingen te laten zeggen. En dan kunnen ze miljoenen iteraties heen en weer gaan.
Je kunt feitelijk toestaan dat twee AI’s samen evolueren. De een blijft de ander aanvallen en komt dan niet met slechts één invalshoek, maar met veel verschillende invalshoeken op de proppen, en vandaar de regenbooganalogie. En dan kun je de eerste AI inenten, en word je steeds veiliger. Dit was een idee van Tim Rocktaeschel en wordt nu in alle grote laboratoria gebruikt.
Hoe weet je wanneer het klaar is? Ik veronderstel dat het nooit gedaan is.
Sommige van deze dingen zullen nooit gedaan worden. Intelligenter kun je altijd worden. Je kunt altijd beter worden in programmeren, rekenen, enzovoort. Er zijn enkele grenzen aan intelligentie; Ik probeer die nu eigenlijk te formaliseren, maar ze zijn astronomisch. We zijn nog ver verwijderd van die grenzen.
Als neolab voelt het alsof je iets moet doen wat de grote labs niet doen. Een deel van de implicatie hier is dus dat je niet denkt dat de grote laboratoria RSI (recursieve zelfverbetering) zullen bereiken door te doen wat ze doen. Is dat eerlijk om te zeggen?
Ik kan niet echt zeggen wat ze doen, maar ik denk wel dat we het anders benaderen. We omarmen het concept van openheid echt en ons team is volledig gefocust op die visie. En het team heeft dit de afgelopen tien jaar onderzocht en papieren op dit gebied gedaan. En het team heeft een staat van dienst als het gaat om het aanzienlijk vooruitbrengen van het vakgebied en het verzenden van echte producten. Weet je, Tim Shi heeft Cresta omgebouwd tot een eenhoorn. Josh Tobin was een van de eerste mensen bij OpenAI en leidde uiteindelijk hun Codex-teams en de diepgaande onderzoeksteams.
Ik heb eigenlijk soms een beetje moeite met deze neolab-categorie. Ik heb het gevoel dat we niet zomaar een laboratorium zijn. Ik wil dat we een echt levensvatbaar bedrijf worden, dat we echt geweldige producten hebben die mensen graag gebruiken en die een positieve impact hebben op de mensheid.
Wanneer bent u van plan uw eerste product te verzenden?
Ik heb daar veel over nagedacht. Het team heeft zoveel vooruitgang geboekt dat we de tijdlijnen wellicht kunnen achterhalen van wat we aanvankelijk hadden aangenomen. Maar ja, er zullen producten zijn, en je zult kwartalen moeten wachten, geen jaren.
Een van de ideeën rond recursieve zelfverbetering is dat, zodra we dit soort systemen hebben, computergebruik de enige belangrijke hulpbron wordt. Hoe sneller je het systeem laat draaien, hoe sneller het zal verbeteren, en er is geen menselijke activiteit van buitenaf die echt een verschil zal maken. Dus de race wordt gewoon: hoeveel verwerkingskracht kunnen we hierop inzetten? Denk je dat dit de wereld is waar we naartoe gaan?
Computing is niet te onderschatten. Ik denk dat in de toekomst een heel belangrijke vraag zal zijn: hoeveel rekenkracht wil de mensheid uitgeven om welke problemen op te lossen? Hier is deze kanker en hier is dat virus – welke wil je als eerste oplossen? Hoeveel rekenkracht wil je eraan geven? Uiteindelijk wordt het een kwestie van toewijzing van middelen. Het wordt een van de grootste vragen ter wereld.