Qualcomm, raf ölçeğine kadar büyüyebilen yeni yapay zeka hızlandırıcılarını duyurdu. Asıl dikkat çeken nokta, bu sistemlerde geleneksel HBM yerine doğrudan kart üzerinde mobil odaklı LPDDR bellek kullanılması. Amaç, çıkarım (inference) iş yüklerinde daha düşük güç, daha düşük maliyet ve yüksek bellek kapasitesiyle verim almak.
Qualcomm, HBM yerine LPDDR’ye yöneliyor: hedef verimli çıkarım yükleri
Mobil kökenli bir şirket olmaktan çıkan Qualcomm, tüketici bilgisayarları ve yapay zeka altyapısına hızla yatırım yapıyor. Yeni AI200 ve AI250 hızlandırıcıları, raf düzeyinde ölçeklenmeye uygun tasarlanmış. Böylece NVIDIA ve AMD’nin baskın olduğu alana farklı bir yaklaşımla dahil oluyor: paket üzerinde 768 GB’a kadar LPDDR bellek. Bu “belleğe yakın” yaklaşım, veriyi daha kısa mesafede tutarak enerji tüketimini ve maliyeti düşürüyor.
LPDDR ile HBM arasındaki farklara kısaca bakalım. Qualcomm’un tercihi şu avantajları öne çıkarıyor:
- Daha iyi güç verimliliği (bit başına daha düşük tüketim)
- Güncel HBM modüllerine kıyasla daha düşük maliyet
- Yüksek bellek yoğunluğu (çıkarım için ideal)
- Daha az ısı ürettiği için termal açıdan daha avantajlı
Elbette bu seçim bazı tavizler getiriyor. HBM’den vazgeçince bellek bant genişliği düşüyor. Arayüz daha dar olduğu için gecikme artıyor. Ayrıca LPDDR’nin 7/24, yüksek ısıdaki sunucu ortamlarında olgunluğu HBM kadar kanıtlanmış değil. Qualcomm’un hedefi ise eğitimden çok çıkarım odaklı, yani verimlilik isteyen iş yükleri. Bu da raf ölçeğindeki sistemleri belirli kullanım alanlarıyla sınırlıyor.
Donanım tarafında AI200 ve AI250; doğrudan sıvı soğutma, PCIe/Ethernet bağlantıları ve raf başına 160 kW düzeyinde toplam güç tüketimiyle geliyor. Çiplerin kalbinde, gelişen veri biçimlerini ve çıkarım odaklı özellikleri destekleyen Hexagon NPU’lar var.
Pazardaki eğilim de bu yöne kayıyor. Intel’in “Crescent Island” çözümü ve NVIDIA’nın Rubin CPX yongası gibi örnekler, eğitim devlerinden ziyade verimli çıkarım tarafının konuşulduğunu gösteriyor. Qualcomm’un AI200 ve AI250 hamlesi bu tabloya uyuyor. Yine de güncel, dev eğitim modelleri için bu rafların ilk tercih olması beklenmez.
Kısacası rekabet kızışıyor ve görünüşe bakılırsa pazar bu duyuruyu umutla karşıladı.
Kaynak: wccftech.com
