ASUS je predstavio UGen300 USB AI Accelerator, kompaktan uređaj koji donosi napredne AI mogućnosti direktno na bilo koji računar putem USB-C konekcije. U pitanju je prvi ASUS-ov AI akcelerator ovog tipa, namenjen lokalnom pokretanju AI modela bez potrebe za cloud servisima.
UGen300 dolazi sa Hailo-10H AI procesorom koji isporučuje do 40 AI TOPS performansi, što je dovoljno za rad sa velikim modelima poput LLM i VLM sistema. Uređaj poseduje i 8GB LPDDR4 memorije, čime se rasterećuje sistem i omogućava stabilno izvršavanje AI zadataka.
Jedna od ključnih prednosti je jednostavna upotreba. Zahvaljujući plug-and-play USB-C povezivanju, uređaj radi na Windows, Linux i Android platformama, uz podršku za popularne AI frameworke kao što su TensorFlow, PyTorch i ONNX.
Za razliku od cloud AI rešenja, UGen300 omogućava lokalno procesiranje podataka, što donosi nižu latenciju, veću privatnost i eliminiše troškove pretplate. ASUS navodi da uređaj može pokretati zadatke poput generisanja teksta, video analize, glasovnih komandi i real-time AI obrade.
Zanimljivo je i da uređaj troši svega 2.5W energije, što ga čini efikasnim rešenjem za edge AI primenu, uključujući razvoj, edukaciju i industrijske projekte.
Pored USB verzije, dostupna je i M.2 varijanta, što dodatno proširuje mogućnosti integracije u različite sisteme.
UGen300 pokazuje kako AI sve više prelazi na lokalne uređaje, umesto da zavisi od cloud infrastrukture.