Kompanija Modal zabeležila je duplo veće performanse nakon prelaska sa x86 procesora na NVIDIA Vera CPU u Agentic AI okruženju. Prelazak nije bio jednostavan – sistem je prethodno u potpunosti oslonjen na AMD i Intel čipove, što je zahtevalo opsežne izmene infrastrukture.
Vera se ne usporava pod opterećenjem
Ključna prednost NVIDIA Vera procesora leži u ponašanju pod velikim opterećenjem. Dok Intel i AMD čipovi usporavaju kako se zadaci nagomilavaju, Vera obrađuje svaki zadatak originalnom brzinom. Rezultati su impresivni:
– 2x veći zadatni throughput po jezgru u poređenju sa Intel Xeon \“Granite Rapids\“
– Više od 6x veći throughput u poređenju sa AMD EPYC pri 150 istovremenih kontejnera
Modal je za testiranje razvio sopstveni benchmark pod nazivom \“Agentless Agent Bench\“, koji sadrži 50 Terminal-Bench rešenja i verifikatora. Rezultati pokazuju da Vera ne dostiže plafon performansi tamo gde alternativni procesori staju, već nastavlja da raste.
Visoka memorijska propusnost kao ključ
Vera-in adut je visoka memorijska propusnost koja omogućava pakovanje većeg broja kontejnerskih zadataka po jezgru bez CPU throttlinga. Dok Intel i AMD procesori pri većem broju jezgara brzo dostižu granicu propusnosti, Vera nastavlja da linearno skalira.
Uprkos neophodnim izmenama infrastrukture koje prelazak na ARM arhitekturu zahteva, Modal ocenjuje NVIDIA Vera kao „izuzetno ubedljivu opciju“ za Agentic AI radne tokove.
