NVIDIA ve AMD, en yeni yapay zekâ hızlandırıcılarını MLPerf Inference v5.0 testlerine dâhil etti. NVIDIA’nın Blackwell B200 modeli, performans açısından rakiplerinin çok önüne geçerken AMD’nin Instinct MI325X modeli ise bellek kapasitesiyle dikkat çekti. Test sonrasında paylaşılan veriler, yapay zekâ odaklı donanım rekabetinde NVIDIA’nın büyük bir avantaj yakaladığını ortaya koydu.
NVIDIA Blackwell B200, Llama 3.1 405B Testinde Rekor Kırdı
NVIDIA, GB200 NVL72 sistemiyle toplam 72 Blackwell B200 GPU’yu bir araya getirerek Llama 3.1 405B benchmark testinde önceki nesil H200 NVL8 sistemine göre 30 kat daha yüksek bir işlem hacmi sunmayı başardı. Elde edilen başarı tek bir GPU’da sağlanan üç katlık performans artışı ve 9 kat büyütülen NVLink bağlantı alanıyla elde edildi.
MLPerf testlerinde sistemlerin sadece gücüne bakılmadı. Bu testlerde yazılım desteği, model uyumluluğu ve düşük gecikme süreleri de elde edilen sonuçlar için büyük bir önem taşıyor. Tüm kriterler göz önüne alındığında, Blackwell mimarisi hem yazılım hem donanım tarafında üstünlük sağlamayı başardı.
NVIDIA’nın 8 B200’den oluşan DGX B200 sistemi, Llama 2 70B Interactive testinde H200’den 3 kat daha hızlı sonuç verdi. Ayrıca B200’de, TPOT (her çıktı için geçen süre) ve TTFT (ilk cevabın gelme süresi) sonuçlarında da ciddi iyileştirmeler görüldü.
Testte görülen sonuçlar, Blackwell mimarili sistemlerin yalnızca yüksek performans değil, aynı zamanda daha hızlı ve verimli kullanıcı deneyimleri sunduğunu gösteriyor.
AMD ise yeni Instinct MI325X GPU’suyla MLPerf testlerine katıldı. Sekiz adet MI325X GPU’nun bulunduğu sistem, Llama 2 70B testinde Hopper H200 ile benzer bir performans sergiledi. Ancak MI325X, güç tüketiminde Blackwell B200’den oldukça geri kaldı. MI325X, Stable Diffusion XL testinde de benzer sonuçlar gösterdi. Sekizli MI325X konfigürasyonunda sistem 17.10 puan alırken, Blackwell B200 30.38 puanla zirvede yer aldı. Hopper H200 ise 19.45 puanla AMD’nin az farkla önüne geçmeyi başardı.
Yayınlanan MLPerf verileri, NVIDIA’nın donanım ve yazılım çözümleriyle ne kadar güçlü olduğunu kanıtladı. Özellikle Blackwell mimarili sistemlerdeki NVLink altyapısı, işlem verimliliğini belirgin biçimde artırmayı başardı. Yüksek performansın yanı sıra daha hızlı yanıt süreleri sunan bu sistemler, üretim seviyesindeki yapay zekâ uygulamaları için tercih sebebi hâline geldi.
AMD cephesi ise MI325X ile büyük modeller için yeterli bellek desteği sunabildiğini gösterdi; ancak genel işlem gücü açısından Blackwell B200’ün oldukça gerisinde kaldı.
Kaynak: wccftech.com