Aşağıdaki sistemde hangi model daha verimli çalışır? Genel kullanım ve görsel oluşturma için ayrı ayrı modeller önerirseniz sevinirim. Bir de hangi platform kullanılmalı?
Sistem:
Ryzen 7 5700X.
32 GB RAM.
Axle 2070 ITX (2060 Super gücünde sayabilirsiniz).
1 TB SSD.
Alacağımdan değil de yapay zekâ için gereken donanım özelliklerini anlamak için açtım konuyu. Şu an en ucuz sıfır RTX 5090 parasına 3 tane RTX 5080 ve 1 tane RTX 5060 Ti 8 GB geliyor. Tek bir büyük model çalıştırmak için veya yapay zekâ eğitimi için hangisi daha avantajlı? Bu soruyu RTX 5080 vs...
Kimi K3 local LLM modeli indirilebilir olarak eklenmiş. Ve devasa büyük normal kullanıcı için yerelde çalıştırması çok zor olacak. 2 bit hali 1 TB yer kaplıyor. Kısacası haber vermek istedim.