aiqbenchInformații despre AI & calcul cuantic

...

Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

perspectiva aiqbenchProduse AI

Thinking Machines Lab's release of Inkling-Slow demonstrates a significant shift in accessibility for large-scale Mixture-of-Experts models by enabling inference on consumer-grade hardware like the NVIDIA B300 via specialized NVFP4 quantization. This architecture allows startups and regulated industries to self-host 276B parameter multimodal systems without relying solely on frontier data center clusters, effectively lowering the barrier to entry for advanced reasoning tasks across text, audio, and vision.

Sursă care acoperăMarkTechPost

Ce este aceastaLectura unui model asupra articolului și a acoperirii conexe, scrisă pentru aiqbench. Nu sunt cuvintele publicației.

Thinking Machines Lab Releases Inkling-Small: A 276B Total, 12B Active Open Weights Multimodal MoE Model

MarkTechPost2 august 20264 min de cititArticolul și perspectiva sunt în engleză.

Inkling-Small matches Inkling at a quarter the size, and its NVFP4 checkpoint runs on one NVIDIA B300 GPU The post Thinking Machines Lab Releases Inkling-Small: A 276B Total, 12B Active Open Weights Multimodal MoE Model appeared first on MarkTechPost.

Thinking Machines Lab has released Inkling-Small, an open weights Mixture-of-Experts model with 276B total parameters and 12B active. That is about a quarter the size of Inkling, which carries 975B total and 41B active parameters. The model was trained on NVIDIA GB300 NVL72 systems. It reasons natively over text, images and audio. The context window reaches 1M tokens, and thinking effort is adjustable. Weights ship under Apache 2.0 on Hugging Face. Yes, and the quantized checkpoint is why. Per the model card,…

Extras afișat conform termenilor RSS ai publicației · 82 cuvinte · textul integral și figurile sunt pe site-ul publicației

Citește pe MarkTechPost ↗Întreabă despre acest articol