AMD, yapay zekâ altyapılarında enerji verimliliğini artırmaya yönelik çalışmalarının sonuçlarını paylaştı. Şirketin hesaplamalarına göre 2024 ile 2026 arasında yapay zekâ iş yüklerinin enerji verimliliği yaklaşık dört kat yükseldi.
Değerlendirme; hızlandırıcı, işlemci, bellek, ağ ve sistem yazılımı dahil olmak üzere raf ölçeğindeki altyapının tamamını kapsıyor. AMD, tek bir yonganın performansına odaklanmak yerine aynı iş yükünü daha az enerjiyle tamamlayan bütünleşik sistemler geliştirmeyi hedefliyor.
Hedef 2030’a Kadar 20 Kat Verimlilik
Şirket, 2030 yılına kadar raf ölçeğindeki yapay zekâ sistemlerinde 20 kat enerji verimliliği artışı hedefliyor. Bu yaklaşım; yeni nesil Instinct hızlandırıcıları, EPYC sunucu işlemcileri, yüksek hızlı bağlantılar ve ROCm yazılım ekosisteminin birlikte geliştirilmesini gerektiriyor.
Yapay zekâ modellerinin boyutu ve kullanım alanı büyüdükçe veri merkezlerinin elektrik tüketimi de yükseliyor. Enerji verimliliğindeki gelişmeler, aynı güç bütçesi içinde daha fazla model eğitimi veya çıkarım işi çalıştırılmasını sağlayabilir. Bununla birlikte gerçek tüketim; model türüne, yazılım optimizasyonuna, soğutmaya ve sistem kullanım oranına göre değişiyor.
Raf Ölçeğinde Ölçüm Öne Çıkıyor
AMD, verimlilik karşılaştırmalarında yalnızca teorik işlem gücünün yeterli olmadığını savunuyor. Hızlandırıcıların yanı sıra ana işlemciler, bellek, ağ bileşenleri ve soğutma altyapısı da toplam enerji maliyetini belirliyor.
Raf ölçeğindeki yaklaşım, yüzlerce hızlandırıcının birlikte çalıştığı büyük modellerde iletişim kayıplarını ve boşta geçen süreyi de hesaba katıyor. Yüksek bant genişlikli ara bağlantılar ile yazılım zamanlayıcılarındaki iyileştirmeler, donanımın daha yüksek kullanım oranında çalışmasına yardımcı olabiliyor.
Enerji verimliliği yalnızca işletme maliyetini değil, veri merkezlerinin kurulabileceği bölgeleri ve güç altyapısı gereksinimlerini de etkiliyor. Aynı performansı daha düşük güçle sunan sistemler, soğutma yükünü ve ek altyapı ihtiyacını azaltabilir.
AMD’nin 20 kat hedefi gelecekteki ürün yol haritasına ve tahmini sistem geliştirmelerine dayanıyor. Bu nedenle rakam, bugün satın alınabilen tek bir ürünün garanti edilen performansı olarak değerlendirilmemeli. Gerçek sonuçların standartlaştırılmış ve bağımsız testlerle karşılaştırılması gerekecek.
Şirketin açıkladığı dört katlık artış, belirli referans sistemler ve iş yükleri üzerinden yapılan tahminlere dayanıyor. Bağımsız sistemlerde elde edilen sonuçlar farklılık gösterebilir. AMD’nin yapay zekâ ve sürdürülebilirlik çalışmalarına ilişkin ayrıntılar şirketin haber merkezinde yer alıyor.