Hocam zaten 5070 Ti var VRAM kötü durumda sayılmaz.
Deneyip başarısız olunursa zarar etmeden satmak tek yol o halde. Zaten fiyatı düşmüyor.
Bana 24 GB VRAM yetmiyor, daha büyük modeller kullanmak istediğim için. Tabi kişiye bağlı, 30B modelleri karta sığdırmak güzel olay.
Quantize edilmiş hallerini kullanıyorum LLM için Q6, image için FP8/NVFP4 gibi. NVFP4 50 serisinde hızlı çalışıyor ve daha optimize.
Daha fazla zam gelmeyecek ztn. Ben öyle tahmin ediyorum sonuçta normal kullanıcı talebi baya bı artınca illaki bir firma büyük bir arz yapar.
Doğrudur, tabii bir şey diyemem; 4 bit üstü iyi performans verebiliyor modeller.
Bana da korkutmak için söylüyorlar gibi geliyor. Yeni işlemcilerde IMC daha iyi gelirse belki 4 bellek kullanımı bu kadar korkutmaz.
Siz LLM mi kullanıyorsunuz sadece?
Karışık Comfui'da var, ses resim üretmede kullanıyorum ama çok sık değil.
Tamam vazgeçiyorum. Gözü OLED'e çevireyim bari.
