Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

Meta · pașaport de model

Llama 3 1 405b Instruct Fp8

llama-3-1-405b-instruct-fp8

Ponderi deschise
Licență Llama 3.1 Community
405.9B parametri
Lansat 2024-07-23(curatoriat)

General · LMArena: 1,334#224 din 396
Cea mai bună percentilă: 43.7General
Poziția în cohortă: 46.0mediană 36.3

Ce spun datele

Evaluat pe 4 din 27 axe urmărite. Fiecare cifră de mai jos este rezultatul publicat al modelului pe acel clasament.

Neuniform: 1,2 puncte de percentilă între cea mai bună și cea mai slabă axă a sa — 43.7 pct pe General față de 42.5 pct pe Programare.

General43.7 pct1,334Verifică →
Urmarea instrucțiunilor43.4 pct1,315Verifică →
Prompturi dificile42.7 pct1,337Verifică →
Programare42.5 pct1,369Verifică →
WebDev ArenaNeevaluat
Vision ArenaNeevaluat
Factuality ArenaNeevaluat
Search ArenaNeevaluat
Document ArenaNeevaluat
Agent ArenaNeevaluat
GPQA DiamondNeevaluat
AIME (matematică)Neevaluat
FrontierMathNeevaluat
SimpleQA VerifiedNeevaluat
ARC-AGI-2Neevaluat
Humanity's Last ExamNeevaluat
SimpleBenchNeevaluat
LiveBenchNeevaluat
BFCL v4 (apelare de funcții)Neevaluat
SWE-bench Verified (clasament live)Neevaluat
Terminal-Bench 4.0Neevaluat
MMLU-Pro (Artificial Analysis)Neevaluat
LiveCodeBench (Artificial Analysis)Neevaluat
IFBench (Artificial Analysis)Neevaluat
Halucinații HHEM (Vectara)Neevaluat
SWE-bench VerifiedNeevaluat
Terminal-BenchNeevaluat

Percentilele reprezintă poziția modelului în populația proprie a fiecărui clasament. Axele marcate „neevaluat” nu au niciun rezultat publicat pentru acest model — este o absență a datelor, nu un scor mic.

Cum îl rulezi

Rulează-l singur

Repositorymeta-llama/Llama-3.1-405B-Instruct-FP8

Parametri405.9B

ArhitecturăLlamaForCausalLM

LicențăLlama 3.1 Community

AccesRestricționat — trebuie să accepți termenii repository-ului înainte de descărcare

Transformers

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "meta-llama/Llama-3.1-405B-Instruct-FP8"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

Ollama

Nu sincronizăm tag-urile Ollama, așa că nu afișăm o comandă pe care nu o putem verifica — una greșită ar descărca modelul greșit. Caută în biblioteca Ollama →

Rețetele de fine-tuning Unsloth sunt specifice fiecărui model și nu le derivăm aici. Documentația Unsloth →

Identificatorii, limitele și prețurile sunt sincronizate din sursa upstream afișată mai sus. Orice câmp nesincronizat este omis complet, nu ghicit.

llama-3.1-405b-instruct-fp8 stands at 46 (raw mean 43.1) — measured on 4 of 27 axes.
pozițieșablonVerifică →
llama-3.1-405b-instruct-fp8 stands at 46 versus a cohort median of 36.3 across 131 models released within 180 days — above the peer median.
cohortășablonVerifică →

Fiecare afirmație este un fapt calculat din datele actuale ale clasamentului, formulat de un apel de model la temperatură scăzută și respins de o poartă de validare dacă vreun număr nu se află în rândul sursă. Cum funcționează clasamentele →