NVIDIA-in GB300 NVL72 postavio je rekord u novom AA-AgentPerf benchmarku koji meri performanse u Agentic AI okruženjima. Rezultati pokazuju dramatičan napredak u poređenju sa starijom Hopper generacijom.
Šta meri AA-AgentPerf?
Artificial Analysis razvio je AA-AgentPerf benchmark kako bi simulirao realne Agentic AI radne scenarije. Benchmark prati tri ključne metrike: vreme do prvog tokena (TTFT), brzinu generisanja tokena i ukupni sistemski protok. Za razliku od sintetičkih testova, AA-AgentPerf koristi višeturne sesije kodiranja sa preklopljenim zaključivanjem i pozivima alata.
60.000 agenata po megavatu
NVIDIA je objavio prve rezultate koristeći DeepSeek V4 Pro model na GB300 NVL72 platformi. GB300 može da podrži do 60.000 paralelnih agenata po megavatu, što predstavlja prednost od 20x u poređenju sa starijim HGX H200 sistemom zasnovanim na Hopper arhitekturi. Ovo je posebno značajno za kompanije koje grade velike infrastrukture za AI agente.
Rubin na vidiku
NVIDIA već gleda napred. Sledeća generacija pod nazivom Rubin trebalo bi da donese do 50 PFLOPS računarske snage kroz NVFP4 preciznost. U kombinaciji sa Vera CPU-om, očekuju se dodatna poboljšanja u end-to-end performansama i efikasnosti pri izvršavanju LLM alata.
GB300 trenutno prednjači na AA-AgentPerf lestvici, ali konkurencija ne miruje — AMD već tvrdi da EPYC Turin nadmašuje Rubin platformu u sličnim scenarijima.
