Română · beta. Traducerea a fost făcută automat și este încă în curs de revizuire. Citește pagina în engleză

Google · pașaport de model

Gemini Pro Dev API

gemini-pro-dev-api

Doar în cloud
Licență Proprietary
Lansat 2023-12-13(curatoriat)

General · LMArena: 1,237#307 din 396
Cea mai bună percentilă: 22.7General
Poziția în cohortă: 32.9mediană 28.9

Ce spun datele

Evaluat pe 4 din 27 axe urmărite. Fiecare cifră de mai jos este rezultatul publicat al modelului pe acel clasament.

Neuniform: 7,1 puncte de percentilă între cea mai bună și cea mai slabă axă a sa — 22.7 pct pe General față de 15.6 pct pe Programare.

General22.7 pct1,237Verifică →
Urmarea instrucțiunilor21.2 pct1,210Verifică →
Prompturi dificile21 pct1,232Verifică →
Programare15.6 pct1,240Verifică →
WebDev ArenaNeevaluat
Vision ArenaNeevaluat
Factuality ArenaNeevaluat
Search ArenaNeevaluat
Document ArenaNeevaluat
Agent ArenaNeevaluat
GPQA DiamondNeevaluat
AIME (matematică)Neevaluat
FrontierMathNeevaluat
SimpleQA VerifiedNeevaluat
ARC-AGI-2Neevaluat
Humanity's Last ExamNeevaluat
SimpleBenchNeevaluat
LiveBenchNeevaluat
BFCL v4 (apelare de funcții)Neevaluat
SWE-bench Verified (clasament live)Neevaluat
Terminal-Bench 4.0Neevaluat
MMLU-Pro (Artificial Analysis)Neevaluat
LiveCodeBench (Artificial Analysis)Neevaluat
IFBench (Artificial Analysis)Neevaluat
Halucinații HHEM (Vectara)Neevaluat
SWE-bench VerifiedNeevaluat
Terminal-BenchNeevaluat

Percentilele reprezintă poziția modelului în populația proprie a fiecărui clasament. Axele marcate „neevaluat” nu au niciun rezultat publicat pentru acest model — este o absență a datelor, nu un scor mic.

gemini-pro-dev-api stands at 32.9 (raw mean 20.1) — measured on 4 of 27 axes.
pozițieșablonVerifică →
gemini-pro-dev-api stands at 32.9 versus a cohort median of 28.9 across 82 models released within 180 days — above the peer median.
cohortășablonVerifică →

Fiecare afirmație este un fapt calculat din datele actuale ale clasamentului, formulat de un apel de model la temperatură scăzută și respins de o poartă de validare dacă vreun număr nu se află în rândul sursă. Cum funcționează clasamentele →