Asus, “dünyanın birinci USB tabanlı edge AI hızlandırıcısı” olarak tanımladığı UGen300 modelini resmen tanıttı. USB 3.1 Gen 2 üzerinden bağlanan aygıt, rastgele bir PCIe yuvasına muhtaçlık duymadan hem klasik hem de üretken yapay zekâ uygulamalarına donanımsal hızlandırma sağlamayı amaçlıyor.

Dünyanın birinci USB temelli AI hızlandırıcısını duyurdu

UGen300’ün merkezinde Hailo-10H NPU yer alıyor. Asus’un paylaştığı bilgilere nazaran bu yonga, INT4 hassasiyetinde 40 TOPS seviyesinde süreç gücü sunuyor. Tipik güç tüketimi ise sadece 2,5 watt. Bu da eseri daima çalışan, düşük güç tüketimi gerektiren senaryolar için uygun hale getiriyor. Aygıt üzerinde 8GB LPDDR4 bellek bulunuyor, bu kapasite büyük lisan modelleri için sonlu olsa da imaj tanıma ve çıkarım odaklı iş yükleri için kâfi görülüyor.

Asus, UGen300’ün x86 ve ARM tabanlı sistemlerle uyumlu olduğunu belirtiyor. Windows, Linux ve Android dayanağı sunan eser, TensorFlow, PyTorch ve ONNX üzere yaygın yapay zekâ çerçeveleriyle çalışabiliyor. Ayrıyeten geliştiriciler için 100’den fazla evvelce eğitilmiş modele erişim sağlandığı söz ediliyor. Bu da aygıtın daha çok “tak-çalıştır” biçimi edge AI uygulamalarını hedeflediğini gösteriyor.

Genel tabloya bakıldığında UGen300, çağdaş APU’larda yer alan NPU’ların yerini almaktan çok, mevcut sistemlerin yapay zekâ kapasitesini düşük maliyet ve zahmetsiz heyetimle artırmayı hedefliyor. Asus şimdi fiyat ve çıkış tarihi paylaşmış değil, lakin eser, bilhassa kurumsal edge AI ve hafif geliştirici senaryolarında alternatif olabilir.