AI training için RTX 5060 Ti 16 GB vs RTX 5070 12 GB

THESANASATS · Dün 15:08

Arkadaşlar selam.

AI training ve yazılım işlerim için toplayacağım sistemde bu 2 karttan hangisini tercih etmemi önerirsiniz?

Öte yandan GPU için marka çok önemli mi? Mesela ASUS, MSI dışında Gainward gibi markalar da alınabilir mi çok farkı var mı? Ne gibi sorunlarla karşılaşılabilir.

Utku92 · Dün 15:11

VRAM önemli, lokal düşünüyorsanız.

Sensei · Dün 15:36

Marka önemli değil, 5060 Ti 16 GB al. Bellek daha önemli.

shruux · Dün 15:50

Marka çok aşırı önemli değil, sadece soğutmayı etkiliyor. Bazı modellerde sıkıntılar olabiliyor ufak ufak. Bütçe var ise daha iyi modeller tercih edilebilir.

Yakuza · Dün 23:06

İkisi de önemli, CUDA+VRAM istiyor bunlar. Eğitim esnasında CUDA düşük diye zaman maliyeti yükselir ama iş bitince VRAM'den hızlı hızlı çalışır.

RAM'e ne kadar çok taşarsa o kadar çok az tokenle iş yapıyor. En vahim kısmı burada eğittin mesela iyi hoş 12 GB'den taşması var bir de 16 GB'den taşması var.

Yanıt alma süresi bu işte önemli.

5080 16 GB VRAM Qwen 3.6 27B 4BIT'e yetmiyor %75 kadarı GPU'da %25 kadarı RAM'e taşıyor, bir soru soruyorum ortalama yanıt süresi 2 dakika. Bunu 5070'e koysan bir soru 4 dakika bekle babam bekle. 2 dakika en azından tolere edilebilir ağır soru soruyorsun diye, iyice düşünüyor thinking modunda vs görüyorsun İngilizce ne düşündüğünü de, güzel yapmışlar vesselam.

Utku92 · 55 dakika önce

Yakuza dedi:
İkisi de önemli, CUDA+VRAM istiyor bunlar. Eğitim esnasında CUDA düşük diye zaman maliyeti yükselir ama iş bitince VRAM'den hızlı hızlı çalışır.

RAM'e ne kadar çok taşarsa o kadar çok az tokenle iş yapıyor. En vahim kısmı burada eğittin mesela iyi hoş 12 GB'den taşması var bir de 16 GB'den taşması var.

Yanıt alma süresi bu işte önemli.

5080 16 GB VRAM qwen 3.6 27b 4bıt'e yetmiyor %75 kadarı GPU'da %25 kadarı RAM'e taşıyor, bir soru soruyorum ortalama yanıt süresi 2 dakika. Bunu 5070'e koysan bir soru 4 dakika bekle babam bekle. 2 dakika en azından tolere edilebilir ağır soru soruyorsun diye, iyice düşünüyor thinking modunda vs görüyorsun İngilizce ne düşündüğünü de, güzel yapmışlar vesselam.

4 bit de çöp bu arada sonra da bilmeyenler modeli kötülüyor. 5 ve üzeri fena değil 8 bit çok iyi ama. Yani en az 24 GB VRAM olmalı.

Yakuza · 35 dakika önce

Utku92 dedi:
4 bit de çöp bu arada sonra da bilmeyenler modeli kötülüyor. 5 ve üzeri fena değil 8 bit çok iyi ama. Yani en az 24 GB VRAM olmalı.

FP4 16 GB'ye sığmıyor işte 20GB civarı VRAM istiyor, 8bite 24 GB de yetmeyebilir.

Utku92 · 17 dakika önce

Yakuza dedi:
F/P4 16 GB'ye sığmıyor işte 20GB civarı VRAM istiyor, 8bite 24 GB de yetmeyebilir.

Evet yetmiyor zaten 8 bit için. 48 GB gibi VRAM gerekir 2 ekran kartı ile ama çok iyi yatırım olur.

Yakuza · 2 dakika önce

Utku92 dedi:
Evet yetmiyor zaten 8 bit için. 48 GB gibi VRAM gerekir 2 ekran kartı ile ama çok iyi yatırım olur.

Şirkette yazılımcı çalıştıracak veya finansal analiz için güzel, pazarlama alanında nasıldır bilemem de bizim ülkede pek ihtiyaç yok ona kafa-kol ilişkisi ile yürüyor hiç işte.

AI training için RTX 5060 Ti 16 GB vs RTX 5070 12 GB

Detaylar

THESANASATS 2

Uzman

Utku92 40

Üstün

Sensei 3

Üstün

shruux 48

Yetkin

Yakuza 56

Uzman

Utku92 40

Üstün

Yakuza 56

Uzman

Utku92 40

Üstün

Yakuza 56

Uzman

Benzer konular

Yeni konular

Yeni mesajlar