Sari la conținut

Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

Meta · pașaport de model

Meta: Llama 3.1 8B Instruct

llama-3-1-8b-instruct
  • Ponderi deschise
  • Licență Llama 3.1 Community
  • 8.0B parametri
  • 131,072 context
  • Lansat 2024-07-23(curatoriat)
7/27axe acoperite
General · LMArena
1,211#323 din 396
Cea mai bună percentilă
24.4BFCL v4 (apelare de funcții)
Poziția în cohortă
26.2mediană 36.6

Ce spun datele

Evaluat pe 7 din 27 axe urmărite. Fiecare cifră de mai jos este rezultatul publicat al modelului pe acel clasament.

Cele mai slabe axe

  • 6.3 pct — GPQA Diamond (27.0%)
  • 6.5 pct — AIME (matematică) (1.7%)

Neuniform: 18,1 puncte de percentilă între cea mai bună și cea mai slabă axă a sa — 24.4 pct pe BFCL v4 (apelare de funcții) față de 6.3 pct pe GPQA Diamond.

  • BFCL v4 (apelare de funcții)Clasament inactiv24.4 pct25.8%Verifică →
  • Programare19.2 pct1,260Verifică →
  • General18.7 pct1,211Verifică →
  • Prompturi dificile18.7 pct1,222Verifică →
  • Urmarea instrucțiunilor18.4 pct1,191Verifică →
  • AIME (matematică)6.5 pct1.7%Verifică →
  • GPQA Diamond6.3 pct27.0%Verifică →
  • WebDev ArenaNeevaluat
  • Vision ArenaNeevaluat
  • Factuality ArenaNeevaluat
  • Search ArenaNeevaluat
  • Document ArenaNeevaluat
  • Agent ArenaNeevaluat
  • FrontierMathNeevaluat
  • SimpleQA VerifiedNeevaluat
  • ARC-AGI-2Neevaluat
  • Humanity's Last ExamNeevaluat
  • SimpleBenchNeevaluat
  • LiveBenchNeevaluat
  • SWE-bench Verified (clasament live)Neevaluat
  • Terminal-Bench 4.0Neevaluat
  • MMLU-Pro (Artificial Analysis)Neevaluat
  • LiveCodeBench (Artificial Analysis)Neevaluat
  • IFBench (Artificial Analysis)Neevaluat
  • Halucinații HHEM (Vectara)Neevaluat
  • SWE-bench VerifiedNeevaluat
  • Terminal-BenchNeevaluat

Percentilele reprezintă poziția modelului în populația proprie a fiecărui clasament. Axele marcate „neevaluat” nu au niciun rezultat publicat pentru acest model — este o absență a datelor, nu un scor mic.

Cum îl rulezi

Rulează-l singur

Parametri8.0B
ArhitecturăLlamaForCausalLM
LicențăLlama 3.1 Community
AccesRestricționat — trebuie să accepți termenii repository-ului înainte de descărcare

Transformers

from transformers import AutoModelForCausalLM, AutoTokenizer

model_id = "meta-llama/Meta-Llama-3.1-8B-Instruct"
tokenizer = AutoTokenizer.from_pretrained(model_id)
model = AutoModelForCausalLM.from_pretrained(model_id)

Ollama

Nu sincronizăm tag-urile Ollama, așa că nu afișăm o comandă pe care nu o putem verifica — una greșită ar descărca modelul greșit. Caută în biblioteca Ollama →

Rețetele de fine-tuning Unsloth sunt specifice fiecărui model și nu le derivăm aici. Documentația Unsloth →

Folosește-l găzduit

ID de model APImeta-llama/llama-3.1-8b-instruct
Lungime context131,072 tokeni
Ieșire maximă117,964 tokeni
Preț intrare$0.05 per 1M tokeni
Preț intrare din cache$0.03 per 1M tokeni
Preț ieșire$0.08 per 1M tokeni

Parametri API acceptați de acest endpoint

Frequency penaltyLogit biasLogprobsMax tokensMin-pPresence penaltyRepetition penaltyResponse formatSeedStop sequencesStructured outputsTemperatureTool choiceTool callingTop-kTop logprobsTop-p

Exemplu de cerere

curl https://openrouter.ai/api/v1/chat/completions \
  -H "Authorization: Bearer $OPENROUTER_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"meta-llama/llama-3.1-8b-instruct","messages":[{"role":"user","content":"Hello"}]}'

Vezi pe OpenRouter →

Identificatorii, limitele și prețurile sunt sincronizate din sursa upstream afișată mai sus. Orice câmp nesincronizat este omis complet, nu ghicit.

  • llama-3.1-8b-instruct stands at 26.2 (raw mean 16) — measured on 7 of 27 axes.

    pozițieșablonVerifică →
  • llama-3.1-8b-instruct stands at 26.2 versus a cohort median of 36.6 across 131 models released within 180 days — below the peer median.

    cohortășablonVerifică →

Fiecare afirmație este un fapt calculat din datele actuale ale clasamentului, formulat de un apel de model la temperatură scăzută și respins de o poartă de validare dacă vreun număr nu se află în rândul sursă. Cum funcționează clasamentele →