Default
Door Remote - 24 Jun 2026
Woensdag onthulde OpenAI zijn eerste op maat gemaakte inferentieprocessor, ontworpen en vervaardigd in samenwerking met Broadcom. De nieuwe processor, genaamd Jalapeño, is speciaal ontworpen voor de unieke behoeften van de inferentiesystemen van OpenAI. OpenAI’s eigen AI-modellen hebben geholpen bij de ontwikkeling van de chip, aldus het bedrijf.
Terwijl de chip nog steeds wordt getest, zegt OpenAI dat de eerste resultaten aanzienlijk betere prestaties per watt laten zien dan de huidige state-of-the-art alternatieven.
De samenwerking werd officieel aangekondigd in oktober, maar er gaan al geruime tijd geruchten dat de chipplannen van OpenAI een manier zijn om de afhankelijkheid van het bedrijf van de GPU's van Nvidia te verminderen. Google en Amazon hebben allebei aangepaste chips gebouwd voor een soortgelijk doel, vaak ‘AI-accelerators’ genoemd: silicium dat speciaal is ontworpen om de werklast van machine learning te versnellen.
OpenAI-president Greg Brockman legde de aanpak van het bedrijf ten aanzien van chipontwikkeling uit op zijn interne podcast, kort nadat het Broadcom-partnerschap was aangekondigd.
“We hebben een diep inzicht in de werkdruk”, zei Brockman in de aflevering. “We zijn echt op zoek geweest naar specifieke werklasten die onvoldoende worden bediend, [en vragen] hoe we iets kunnen bouwen dat in staat zal zijn om te versnellen wat mogelijk is?”
Jalapeño is speciaal ontworpen voor gevolgtrekking, het proces waarbij vooraf gebouwde AI-modellen worden uitgevoerd als reactie op gebruikersopdrachten. In de aankondiging benadrukt OpenAI de lage bedrijfskosten van de chip bij het uitvoeren van real-time codeermodellen. Het is waarschijnlijk dat meer prestatie-intensieve taken zoals pre-training nog steeds afhankelijk zullen zijn van Nvidia-hardware, maar zelfs kleine verlagingen van de gevolgtrekkingskosten zouden veel kunnen doen om de bedrijfsresultaten te verbeteren.
Het optimaliseren van dat gevolgtrekkingssysteem kan in de toekomst een cruciale factor blijken te zijn in de economie van AI – en het zal waarschijnlijk op elk niveau van de stapel plaatsvinden. OpenAI bouwt al agentische producten zoals Codex en de modellen die deze aandrijven, evenals datacentra om die modellen uit te voeren. Door over te stappen op speciaal gebouwde chips kan het bedrijf nog verder gaan in dat proces, zoals het bedrijf in zijn aankondiging uitlegde.
“OpenAI ontwikkelt niet alleen grensmodellen of bouwt er producten bovenop; het ontwerpt ook de infrastructuur daaronder: chiparchitectuur, kernels, geheugensystemen, netwerken, planning, implementatiesystemen en productervaring”, schrijft het bedrijf. “Omdat OpenAI over de hele stapel heen werkt, kan elke laag worden geoptimaliseerd rond hetzelfde doel: de modellen sneller, betrouwbaarder en betaalbaarder maken voor gebruikers.”
Terwijl de chip nog steeds wordt getest, zegt OpenAI dat de eerste resultaten aanzienlijk betere prestaties per watt laten zien dan de huidige state-of-the-art alternatieven.
De samenwerking werd officieel aangekondigd in oktober, maar er gaan al geruime tijd geruchten dat de chipplannen van OpenAI een manier zijn om de afhankelijkheid van het bedrijf van de GPU's van Nvidia te verminderen. Google en Amazon hebben allebei aangepaste chips gebouwd voor een soortgelijk doel, vaak ‘AI-accelerators’ genoemd: silicium dat speciaal is ontworpen om de werklast van machine learning te versnellen.
OpenAI-president Greg Brockman legde de aanpak van het bedrijf ten aanzien van chipontwikkeling uit op zijn interne podcast, kort nadat het Broadcom-partnerschap was aangekondigd.
“We hebben een diep inzicht in de werkdruk”, zei Brockman in de aflevering. “We zijn echt op zoek geweest naar specifieke werklasten die onvoldoende worden bediend, [en vragen] hoe we iets kunnen bouwen dat in staat zal zijn om te versnellen wat mogelijk is?”
Jalapeño is speciaal ontworpen voor gevolgtrekking, het proces waarbij vooraf gebouwde AI-modellen worden uitgevoerd als reactie op gebruikersopdrachten. In de aankondiging benadrukt OpenAI de lage bedrijfskosten van de chip bij het uitvoeren van real-time codeermodellen. Het is waarschijnlijk dat meer prestatie-intensieve taken zoals pre-training nog steeds afhankelijk zullen zijn van Nvidia-hardware, maar zelfs kleine verlagingen van de gevolgtrekkingskosten zouden veel kunnen doen om de bedrijfsresultaten te verbeteren.
Het optimaliseren van dat gevolgtrekkingssysteem kan in de toekomst een cruciale factor blijken te zijn in de economie van AI – en het zal waarschijnlijk op elk niveau van de stapel plaatsvinden. OpenAI bouwt al agentische producten zoals Codex en de modellen die deze aandrijven, evenals datacentra om die modellen uit te voeren. Door over te stappen op speciaal gebouwde chips kan het bedrijf nog verder gaan in dat proces, zoals het bedrijf in zijn aankondiging uitlegde.
“OpenAI ontwikkelt niet alleen grensmodellen of bouwt er producten bovenop; het ontwerpt ook de infrastructuur daaronder: chiparchitectuur, kernels, geheugensystemen, netwerken, planning, implementatiesystemen en productervaring”, schrijft het bedrijf. “Omdat OpenAI over de hele stapel heen werkt, kan elke laag worden geoptimaliseerd rond hetzelfde doel: de modellen sneller, betrouwbaarder en betaalbaarder maken voor gebruikers.”