Site-urile NoaMedia
Cipul AI OpenAI Jalapeño redefinește eficiența consumului de energie în domeniul inteligenței artificiale. Lansat în 2024, acest accelerator cu memorie HBM4 depășește performanțele sistemelor Nvidia în centrele de date ale companiei. Această inovație marchează un pas important în autonomia hardware a OpenAI.
Pe scurt:
- OpenAI a dezvoltat cipul AI Jalapeño cu memorie HBM4, oferind o eficiență energetică de 1,5-1,9 ori mai bună decât sistemele Nvidia GB200 și GB300.
- Cipul Jalapeño consumă 700 W nominal, comparativ cu 1.400 W la Nvidia GB300, și reduce latența inferenței între 1,7 și 3,6 ori în testele pe modele AI mari.
- Memoria HBM4 integrată totalizează 216 GB cu o lățime de bandă de 15,4 TB/s, optimizată pentru eficiență, ceea ce poate intensifica competiția pentru aprovizionarea cu HBM4.
- OpenAI pregătește deja a doua și a treia generație de cipuri AI, marcând o strategie de dezvoltare hardware proprie pentru centrele sale de date până în 2026.
cip AI OpenAI cu memorie HBM4 și eficiență consum energie superioară
OpenAI a dezvoltat cipul AI Jalapeño, care integrează memorie HBM4 și oferă o eficiență a consumului de energie semnificativ mai bună față de sistemele Nvidia GB200 și GB300. Acceleratorul, creat împreună cu Broadcom, atinge între 1,5 și 1,9 ori mai multă performanță per kilowatt consumat în testele de inferență.
Jalapeño este un ASIC dedicat inferenței, cu un consum nominal de 700 W, comparativ cu 1.400 W pentru acceleratorul GB300 folosit în comparații. OpenAI plănuiește să instaleze aceste cipuri în centrele sale de date până la sfârșitul anului 2026, reducând astfel dependența de acceleratoarele Nvidia pentru anumite sarcini.
Performanțe și teste pe modele AI diverse
Testele prezentate la conferința Hot Chips au folosit suita InferenceX de la SemiAnalysis și au vizat trei modele AI: GPT-OSS 120B, DeepSeek R1 670B și Kimi K2.5, cu aproximativ un trilion de parametri. Jalapeño a demonstrat o latență end-to-end între 1,7 și 3,6 ori mai mică față de sistemele Nvidia GB200 și GB300 în scenarii cu latență redusă.
În anumite condiții, cipul a atins un avantaj de până la 8,6-104,3 ori în performanța raportată la consum, comparativ cu cele mai rapide setări ale GB300. Consumul efectiv în timpul testelor a fost de aproximativ 550 W, iar o comparație bazată pe consumul total al sistemului indică 1,18 kW pentru Jalapeño versus 2,55 kW pentru GB300.
Memoria HBM4 și avantajele arhitecturale ale cipului AI OpenAI
Fiecare pachet Jalapeño integrează cipul de calcul cu șase stive de memorie HBM4, totalizând 216 GB și o lățime de bandă de 15,4 TB/s. În comparație, GB300 dispune de 288 GB HBM3E și un consum nominal de 1.400 W, ceea ce face ca Jalapeño să ofere o memorie mai eficientă raportată la consum.
Arhitectura cipului este optimizată pentru utilizarea eficientă a întregii lățimi de bandă a memoriei HBM, nu doar pentru creșterea capacității. Memoria HBM rămâne o componentă dificilă de procurat, iar extinderea producției Jalapeño ar putea intensifica competiția cu Nvidia pentru aprovizionarea cu HBM4.
Strategia OpenAI pentru viitoarele generații de cipuri AI
Jalapeño marchează începutul dezvoltării hardware proprii de către OpenAI pentru inteligență artificială. Primul cip a trecut de la etapa RTL la tapeout în aproximativ nouă luni. Compania lucrează deja la a doua generație, care se apropie de tapeout, și pregătește conceptele pentru o a treia generație.
Noa Insight
OpenAI a dezvoltat cipul AI Jalapeño, care integrează memorie HBM4 și oferă o eficiență energetică superioară față de sistemele Nvidia GB200 și GB300. Cipul este un ASIC dedicat inferenței, creat împreună cu Broadcom, și urmează să fie instalat în centrele de date OpenAI până la sfârșitul anului 2026.
Implicații
Jalapeño reduce consumul energetic și latența în procesarea AI, ceea ce poate diminua dependența OpenAI de acceleratoarele Nvidia și poate influența aprovizionarea cu memorie HBM4 pe piață.
Elemente-cheie
- Memoria HBM4 integrată în cip oferă o lățime de bandă de 15,4 TB/s, optimizată pentru eficiență, nu doar capacitate.
- Cipul Jalapeño consumă nominal 700 W, comparativ cu 1.400 W pentru acceleratorul Nvidia GB300 folosit în testele de referință.
- Dezvoltarea hardware a cipului a trecut de la RTL la tapeout în aproximativ nouă luni, iar a doua generație este aproape de tapeout.
Sursa originală a acestui articol este https://playtech.ro/2026/openai-isi-face-propriile-cipuri-ai-si-spune-ca-unul-dintre-ele-depaseste-nvidia-la-eficienta/ (link)
