aiqbenchInformații despre AI & calcul cuantic

...

Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

perspectiva aiqbenchCipuri & infrastructură

OpenAI's custom Jalapeño chip demonstrates a significant architectural breakthrough by unifying high throughput and low latency within a single design, eliminating traditional hardware trade-offs. By integrating silicon with memory and networking specifically for modern language models, the chip reduces data movement bottlenecks to deliver up to 1.9x more work per watt across diverse open-source models. This holistic stack optimization sets a new benchmark for efficient AI inference, directly addressing the industry's need to scale capable agents without prohibitive energy costs.

Sursă care acoperăQuantum Zeitgeist

Ce este aceastaLectura unui model asupra articolului și a acoperirii conexe, scrisă pentru aiqbench. Nu sunt cuvintele publicației.

OpenAI’s Jalapeño chip boosts AI speed and cuts power use

Quantum Zeitgeist26 august 20265 min de cititArticolul și perspectiva sunt în engleză.

OpenAI’s Jalapeño inference chip delivers industry-leading speed and efficiency, serving up to 1.9x more AI work per watt.

OpenAI reports its first custom inference chip, Jalapeño, can serve more AI work per unit of power while also returning responses more quickly. Jalapeño delivers both higher throughput and lower latency with one architecture, a feature often requiring tradeoffs in existing hardware systems. The chip achieves this efficiency across GPT‑OSS 120B, DeepSeek R1, and Kimi K2.5 1T, delivering 1.5 to 1.9 times more AI work per watt at peak throughput and 1.7 to 3.6 times lower end-to-end latency than comparison systems. For highly interactive workloads, it delivered 2.1 to 4.1 times higher performance. OpenAI…

Extras afișat conform termenilor RSS ai publicației · 94 cuvinte · textul integral și figurile sunt pe site-ul publicației

Citește pe Quantum Zeitgeist ↗Întreabă despre acest articol