Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

Meta · pașaport de model

Meta: Llama 3.1 70B Instruct

llama-3-1-70b-instruct

Ponderi deschise
Licență Llama 3.1 Community
70.6B parametri
131,072 context
Lansat 2024-07-23(curatoriat)

General · LMArena: 1,293#269 din 396
Cea mai bună percentilă: 32.3General
Poziția în cohortă: 34.9mediană 36.6

Ce spun datele

Evaluat pe 6 din 27 axe urmărite. Fiecare cifră de mai jos este rezultatul publicat al modelului pe acel clasament.

Cele mai slabe axe

12.5 pct — AIME (matematică) (3.6%)

Neuniform: 19,8 puncte de percentilă între cea mai bună și cea mai slabă axă a sa — 32.3 pct pe General față de 12.5 pct pe AIME (matematică).

General32.3 pct1,293Verifică →
Programare32.2 pct1,333Verifică →
Urmarea instrucțiunilor31.3 pct1,273Verifică →
Prompturi dificile30.8 pct1,299Verifică →
GPQA Diamond25.3 pct44.2%Verifică →
AIME (matematică)12.5 pct3.6%Verifică →
WebDev ArenaNeevaluat
Vision ArenaNeevaluat
Factuality ArenaNeevaluat
Search ArenaNeevaluat
Document ArenaNeevaluat
Agent ArenaNeevaluat
FrontierMathNeevaluat
SimpleQA VerifiedNeevaluat
ARC-AGI-2Neevaluat
Humanity's Last ExamNeevaluat
SimpleBenchNeevaluat
LiveBenchNeevaluat
BFCL v4 (apelare de funcții)Neevaluat
SWE-bench Verified (clasament live)Neevaluat
Terminal-Bench 4.0Neevaluat
MMLU-Pro (Artificial Analysis)Neevaluat
LiveCodeBench (Artificial Analysis)Neevaluat
IFBench (Artificial Analysis)Neevaluat
Halucinații HHEM (Vectara)Neevaluat
SWE-bench VerifiedNeevaluat
Terminal-BenchNeevaluat

Percentilele reprezintă poziția modelului în populația proprie a fiecărui clasament. Axele marcate „neevaluat” nu au niciun rezultat publicat pentru acest model — este o absență a datelor, nu un scor mic.

Cum îl rulezi

Rulează-l singur

Repositorymeta-llama/Meta-Llama-3.1-70B-Instruct

Parametri70.6B

ArhitecturăLlamaForCausalLM

LicențăLlama 3.1 Community

AccesRestricționat — trebuie să accepți termenii repository-ului înainte de descărcare

Transformers

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "meta-llama/Meta-Llama-3.1-70B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

Ollama

Nu sincronizăm tag-urile Ollama, așa că nu afișăm o comandă pe care nu o putem verifica — una greșită ar descărca modelul greșit. Caută în biblioteca Ollama →

Rețetele de fine-tuning Unsloth sunt specifice fiecărui model și nu le derivăm aici. Documentația Unsloth →

Folosește-l găzduit

ID de model APImeta-llama/llama-3.1-70b-instruct

Lungime context131,072 tokeni

Ieșire maximă16,384 tokeni

Preț intrare$0.40 per 1M tokeni

Preț ieșire$0.40 per 1M tokeni

Parametri API acceptați de acest endpoint

Frequency penaltyLogit biasMax tokensMin-pPresence penaltyRepetition penaltyResponse formatSeedStop sequencesStructured outputsTemperatureTool choiceTool callingTop-kTop-p

Exemplu de cerere

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-70b-instruct","messages":[{"role":"user","content":"Hello"}]}'

Vezi pe OpenRouter →

Identificatorii, limitele și prețurile sunt sincronizate din sursa upstream afișată mai sus. Orice câmp nesincronizat este omis complet, nu ghicit.

llama-3.1-70b-instruct stands at 34.9 (raw mean 27.4) — measured on 6 of 27 axes.
pozițieșablonVerifică →
llama-3.1-70b-instruct stands at 34.9 versus a cohort median of 36.6 across 131 models released within 180 days — below the peer median.
cohortășablonVerifică →

Fiecare afirmație este un fapt calculat din datele actuale ale clasamentului, formulat de un apel de model la temperatură scăzută și respins de o poartă de validare dacă vreun număr nu se află în rândul sursă. Cum funcționează clasamentele →