Yapay zeka işlemlerinde bellek hızı ve bellek miktarı çok önem arz ediyor. HBM bellekler çok yüksek kapasitede belleğin GPU'ya doğrudan takılmasını sağlıyor. GDDR belleklere göre doğrudan çipin yanında olduğu için gecikme azalıyor ve bant genişliği artıyor. Bununla beraber de bellek ve GPU'nun kapladığı toplam alan azalarak daha küçük PCB'lerde saklanabilir. Bu GPU'larla oluşturulacak sunucu kümeleri ise daha az alanda daha fazla GPU'yu saklayabilir hale gelecek. Çok pahalı olmasına rağmen performans için anladığım kadarıyla AI temelli GPU'lar için üretim sağlayacaklar.