Yapay zekâ hızlandırıcıları için bellek bant genişliğini artırmaya odaklanan d-Matrix, Hot Chips 2026 etkinliğinde Raptor adlı yeni hızlandırıcı mimarisini tanıttı. Şirket, Raptor’da TSMC’nin N4 üretim süreciyle hazırlanan mantık (logic) yongasını özel DRAM’in doğrudan üzerine yerleştiriyor. Face-to-face istifleme yöntemiyle gerçekleştirilen bu tasarımın, işlemci ile bellek arasındaki bağlantıyı kısaltarak daha yüksek bant genişliği ve daha düşük güç tüketimi sağlaması hedefleniyor.
Raptor 3D-DRAM, 32GB Kapasiteyi 100 TB/s’nin Üzerinde Bant Genişliğiyle Birleştiriyor
Raptor mimarisinin merkezinde 32GB 3D-DRAM bulunuyor. d-Matrix, bu belleğin 100 TB/s’nin üzerinde bant genişliği sunabildiğini belirtiyor. Şirketin karşılaştırmasına göre 192GB kapasiteli bir HBM4 yapılandırması yaklaşık 18 TB/s bant genişliği sağlıyor. Ancak 3D-DRAM’in HBM4’e kıyasla çok daha düşük kapasite sunduğu görülüyor. Raptor’ın temel amacı büyük miktarda veriyi depolamak yerine daha küçük bir veri havuzuna çok daha yüksek hızlarda erişim sağlamak. Bu nedenle teknoloji özellikle yapay zekâ iş yüklerine odaklanıyor.
d-Matrix, Raptor’ın özellikle büyük dil modellerinin decode (kod çözme) aşamasında avantaj sağlayabileceğini düşünüyor. Bu aşamada üretilen her yeni token için model verilerine ve anahtar-değer önbelleğine (KV cache) tekrar tekrar erişilmesi gerektiğinden, bellek bant genişliği önemli bir darboğaz oluşturabiliyor. Şirket, 3D-DRAM ile mantık yongası arasındaki dikey bağlantının 0.37 pJ/bit enerji tükettiğini belirtiyor. d-Matrix’in karşılaştırmasında HBM4 için bu değer yaklaşık 2 ila 3 pJ/bit seviyesinde bulunuyor.
Ayrıca 100 TB/s’nin üzerindeki bant genişliğinin önemli bir güç tüketimi oluşturduğu da belirtiliyor. Raptor’ın yalnızca bellek giriş-çıkışı için yaklaşık 296 W güç tükettiği ifade ediliyor. Bu durum, çok yüksek bant genişliklerine ulaşmak için verinin taşınmasının ne kadar ciddi bir enerji maliyeti oluşturabildiğini gösteriyor.
d-Matrix, ayrıca Raptor’ın NVIDIA Rubin R200’ün HBM4 tabanlı yapılandırmasına kıyasla mm² başına yaklaşık 20 kat daha fazla bant genişliği ve bant genişliği başına 13.5 kat daha düşük güç tüketimi sunduğunu iddia ediyor. Fakat bu değerlerin şirketin kendi silikon alanı hesaplamalarına dayandığını ve bağımsız performans testleri olmadığını belirtmekte fayda var.
Öte yandan DRAM’in yüksek güç tüketen mantık yongasının hemen üzerine yerleştirilmesi, beraberinde bazı teknik zorluklar getiriyor. Isı yönetimi, bellek yenileme işlemleri ve güvenilirlik, bu mimarinin çözmesi gereken temel problemler arasında bulunuyor. Raptor’ın 32GB’lık kapasitesi de günümüzdeki HBM tabanlı yapay zekâ hızlandırıcılarının sunduğu kapasitenin oldukça gerisinde kalıyor. d-Matrix, bu sınırlamaları aşmak için daha hızlı yenileme, ECC ve yedek bellek kümeleri gibi çözümler geliştirdiğini belirtiyor. Bu nedenle Raptor, yalnızca HBM’nin daha hızlı bir versiyonu olarak değil; kapasite yerine bant genişliğini önceliklendiren farklı bir bellek mimarisi olarak konumlandırılıyor.
Son olarak Raptor şu anda tamamlanmış bir ticari ürün konumunda değil. Hot Chips 2026 sunumunda hızlandırıcının planlanan ticari yapısı ve hedeflenen teknik özellikleri açıklandı. Bu kapsamda d-Matrix’in 3D-DRAM teknolojisi, Pavehawk adlı test çipi üzerinde gösterildi. Şirketin Raptor ile hedefi, veri erişiminin yoğun olduğu iş yüklerinde çok yüksek bellek bant genişliğini daha verimli bir şekilde sunabilmek olarak öne çıkıyor.
Kaynak: videocardz.com