KS
KS
Player
Becerikli
- Katılım
- 27 Nisan 2026
- Mesajlar
- 67
- Çözümler
- 1
- Beğeniler
- 18
Content büyüklüğü çok önemli ama hız çok önemli değil.
Content büyüklüğü çok önemli ama hız çok önemli değil.
- Katılım
- 22 Aralık 2023
- Mesajlar
- 187
- Beğeniler
- 170
Qwen2.5-Coder 7B q4 olabilir ama önermem daha büyük modeller bile işe yaramıyır hobi olarak denemek istiyorsanız deneyin ama işe yaramıyorlar
babyYoda
Gelişen
5060 da calistirdim 8gb vram icin en iyisi bu bence. Tabi yine mal oldugu gercegini degistirmiyor daha zeki modeller daha fazla vram ve gpu gucu istiyor .8GB VRAM de daha pazla parametreli AI kullanirsin calisir basta vram kaplar yer kalmazsa ram kullanir harf harf cikti alirsin yani cok yavas olur diyorum.
VRAM miktarına göre en fazla 9B civarı LLM kullanmanı öneririm. Modeller GPU yerine sistem RAM'ine daha fazla yüklenirse token üretme hızı saç baş yolduruyor. VSC kur ve eklenti olarak Zoo Code'yi kurarsan yerelde agent şeklinde kullanım sağlarsın.
LLM modelleri olarak şunları deneyebilirsin: Gemma4:12B, qwen3.5:9B, qwen2.5-coder:14B.
LLM modelleri olarak şunları deneyebilirsin: Gemma4:12B, qwen3.5:9B, qwen2.5-coder:14B.
Benzer konular
