Sari la conținut

Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

perspectiva aiqbenchCipuri & infrastructură

analiza aiqbench

OpenAI's Jalapeño chip demonstrates a significant efficiency leap in AI inference by optimizing data movement and reducing latency bottlenecks compared to current Nvidia Blackwell systems. Developed jointly with Broadcom, the hardware aims to serve more tokens per user while maintaining low power consumption, though full-scale deployment is not expected until 2027.
Surse care acoperăTechCrunch, Interconnects, Latent Space, InfoQ
Ce este aceastaLectura unui model asupra articolului și a acoperirii conexe, scrisă pentru aiqbench. Nu sunt cuvintele publicației.

OpenAI’s Jalapeño chip is built for fast inference at scale, benchmarks show

TechCrunch2 min de cititArticolul și perspectiva sunt în engleză.

Tested on SemiAnalysis’ InferenceX benchmark, Jalapeño registered both more tokens per user and more throughput per kilowatt than the currently available state-of-the art.

At the Hot Chips conference on Tuesday, OpenAI shared a more detailed look at Jalapeño, including the first batch of benchmark results for the new system. Tested on Semianalysis’s InferenceX benchmark, Jalapeño registered both more tokens per…

Extras afișat conform termenilor RSS ai publicației · 37 cuvinte · textul integral și figurile sunt pe site-ul publicației

Subiecte conexe