AMD je predstavio MEXT, softversko rešenje koje koristi Flash memoriju kako bi smanjilo zavisnost od sve skupljeg i sve deficitarnijeg DRAM-a u serverskim sistemima. DRAM trenutno čini čak 75% ukupnih troškova servera, a cene nastavljaju da rastu uprkos istorijskom padu tokom prethodnih decenija.
Zašto je DRAM problem?
Istraživanja Microsoft Azure i Meta pokazuju da se 50% DRAM kapaciteta u proseku nikad ne iskoristi unutar virtuelnih mašina. Dodatnih 25% ostaje „zaglavljeno“ unutar instanci, dok je 50–80% ukupnog DRAM-a nedovoljno iskorišćeno jer memorijske stranice postaju „hladne“. AMD je osnovan MEXT još 2022. godine upravo kako bi rešio ovaj problem.
Kako MEXT funkcioniše?
MEXT softver koristi veštačku inteligenciju da prebaci hladne memorijske stranice na Flash storage, dok AI algoritmi unapred vraćaju „skoro potrebne“ stranice nazad u DRAM. Flash je 50% jeftiniji od DRAM-a i troši 30 puta manje energije, mada je i 500 puta sporiji — upravo taj problem MEXT rešava.
Sistem se sastoji od tri komponente: Linux drajvera, AI Engine-a baziranog na transformer modelima i RAM View platforme za praćenje memorije u realnom vremenu. AI Engine trenira za manje od jedne sekunde i radi na samo jednom EPYC jezgru, bez potrebe za GPU-om.
Performanse i uštede
U EDA radnim opterećenjima (Synopsys PrimeTime na EPYC 6. generacije), MEXT zadržava do 95% DRAM performansi uz 50% manji DRAM, sa omjerom perf/$ od 1,9x. U agentskim AI scenarijima, kombinacija 25% DRAM i 75% MEXT donosi 3,4x bolji perf/$. Na Azure VM-ovima sa Spark TPC-DS radnim opterećenjem, postiže se 99% performansi uz podeljenu konfiguraciju.
AMD procenjuje uštede od 83% u poređenju sa čistim DRAM rešenjem, što na inicijalnom rasporedu od 145 servera iznosi 4,9 miliona dolara manje potrošnje na DRAM. MEXT je trenutno u Fazi 1 i spreman za primenu na EPYC serverima sa NVMe diskovima. Kompanija je nagovestila i mogućnost primene van data centara, u potrošačkim segmentima.
