Google’ın 10. nesil TPU (Tensör İşlem Birimi) ailesi üzerinde AMD ile birlikte çalıştığı iddia edildi. SemiAnalysis tarafından paylaşılan bir analist notuna göre AMD, Google’ın TPU v10 neslindeki projelerden birinde görev alıyor olabilir. İddia doğruysa bu iş birliği, AMD’nin özel bir yapay zekâ ASIC (Uygulamaya Özel Entegre Devre) projesindeki ilk önemli rolü olacak.
Google, TPU’larda CPU Kaynaklarını Artırmayı Planlıyor Olabilir
SemiAnalysis’in değerlendirmesine göre Google’ın AMD ile çalışmasının arkasında, geleneksel bir TPU tasarımından farklı bir ihtiyaç bulunuyor olabilir. Şirketin, özellikle pekiştirmeli öğrenme (RL) ve CPU kaynaklarına daha fazla ihtiyaç duyan iş yükleri için paket üzerinde CPU çekirdekleri bulunan TPU’lar geliştirmeyi değerlendirdiği belirtiliyor.
Google’ın hâlihazırda kendi yapay zekâ hızlandırıcılarının geliştirilmesi konusunda önemli bir deneyime sahip olması, AMD’nin geleneksel bir TPU tasarlaması ihtimalini düşük gösteriyor. Bu nedenle AMD’nin CPU IP’si, programlanabilir mantık, bağlantı teknolojileri veya gelişmiş paketleme konusundaki yeteneklerinden yararlanılması ihtimaller arasında değerlendiriliyor.
Özellikle CPU tarafı dikkat çekiyor. Büyük dil modellerinin geleneksel eğitim süreçleri ağırlıklı olarak yapay zekâ hızlandırıcıları tarafından gerçekleştirilirken akıl yürütme ve ajan tabanlı modellerde kullanılan pekiştirmeli öğrenme süreçleri hızlandırıcıların çevresinde daha fazla genel amaçlı işlem gücü gerektirebiliyor.
Google’ın son nesil TPU sistemlerinde CPU kaynaklarını artırmaya başladığı da belirtiliyor. Çıkarım, akıl yürütme ve pekiştirmeli öğrenme iş yükleri için geliştirilen TPU 8i sistemlerinde her iki TPU için bir Google Axion CPU bulunuyor. Google’ın 7. nesil TPU’larını kullanan sunucularda ise her dört TPU için bir Intel Xeon Emerald Rapids işlemci kullanılıyordu. Bazı iş yüklerinde CPU ve yapay zekâ hızlandırıcılarının bire bir oranının daha verimli olabileceği de değerlendiriliyor.
CPU çekirdeklerinin doğrudan TPU paketine dahil edilmesi, genel amaçlı işlem ile tensör hesaplama arasındaki fiziksel mesafeyi azaltabilir. Bu yaklaşım, veri aktarımını hızlandırmanın yanı sıra güç tüketimini de azaltma potansiyeline sahip.
AMD’nin bu alanda önemli bir deneyimi bulunuyor. Şirketin veri merkezi için geliştirdiği Instinct MI300A, x86 CPU çekirdekleri ile yapay zekâ hızlandırıcı çipletlerini aynı pakette bir araya getiriyor. Olası bir Google tasarımında da Google tarafından geliştirilen TPU hesaplama çipletlerinin AMD’nin CPU teknolojisi ve HBM (Yüksek Bant Genişlikli Bellek) bellekleriyle daha sıkı şekilde entegre edilmesi söz konusu olabilir.
Öte yandan Google’ın TPU v10 ailesindeki hangi ürün üzerinde AMD ile çalıştığı belirsizliğini koruyor. Google’ın çıkarım için geliştirdiği TPU v10i veya eğitim odaklı TPU v10t modellerinden hangisinin bu iş birliğinin kapsamında olduğu doğrulanmış değil. SemiAnalysis’in iddiasının şu aşamada kesinleşmiş bir bilgi olmadığı da özellikle vurgulanıyor.
Ancak iddianın doğru olması durumunda asıl dikkat çekici gelişme, AMD’nin yeni bir TPU’nun geliştirilmesine yardımcı olması değil; Google’ın pekiştirmeli öğrenme ve ajan tabanlı iş yükleri için CPU kaynakları daha yüksek bir TPU ailesi geliştirmeyi değerlendiriyor olması olacak.
Kaynak: tomshardware.com