- Katılım
- 22 Aralık 2023
- Mesajlar
- 4.735
- Makaleler
- 4
- Çözümler
- 90
- Beğeniler
- 6.820
RAM ve VRAM'ınız kaç GB?
KS
KS
Ratchet
Yetkin
- Katılım
- 26 Mayıs 2024
- Mesajlar
- 709
- Çözümler
- 1
- Beğeniler
- 359
16 ve 12.
Son düzenleyen: Moderatör:
- Katılım
- 22 Aralık 2023
- Mesajlar
- 4.735
- Makaleler
- 4
- Çözümler
- 90
- Beğeniler
- 6.820
GPT-OSS(OpenAI) 20B ve Gemma 3(Google) 12B kullanabilirsiniz. İkisinin de Türkçesi iyi ve VRAM'ınıza tam sığacağı için hızlı çalışırlar. Biraz daha zeki bir şey istiyorsanız Gemma 3 27B'ye bakabilirsiniz ama VRAM'ınıza sığmayacağı için RAM'a swap yapacağından yavaş çalışacaktır. Bu modellerin hiçbiri internetten kullanabileceğiniz modeller kadar iyi değil. DeepSeek, LLama ve Qwen'in Türkçesi kötü, o yüzden onları önermiyorum.
Bu tuşa basarak bu modellerin adını aratıp rahatlıkla indirebilirsiniz.
Bu tuşa basarak bu modellerin adını aratıp rahatlıkla indirebilirsiniz.
Commander Shepard
Uzman
- Katılım
- 24 Haziran 2024
- Mesajlar
- 287
- Çözümler
- 2
- Beğeniler
- 103
Ne içİn kullanacağına bağlı ama çalıştırabileceğin en iyileri bunlar:
https://huggingface.co/bartowski/Qwen_Qwen3-VL-32B-Instruct-GGUF Qwen3-VL-32B-Instruct-Q4_K_M.gguf
https://huggingface.co/MaziyarPanahi/Qwen3-14B-GGUF/tree/main Qwen3-14B.Q6_K.gguf
https://huggingface.co/lm-kit/qwen-3-14b-instruct-gguf/tree/main Qwen3-14B-Q8_0.gguf
https://huggingface.co/MaziyarPanahi/Qwen3-30B-A3B-GGUF/tree/main Qwen3-30B-A3B.Q4_K_M.gguf
Ben 8 GB vram ile 30B olanının vision modelini kullanıyorum off layer ile. Korece ve Japonca`da aşırı iyi ki zaten 119 tane dil destekliyormuş Qwen3 modelleri dene kendin gör. Sana önerim ama 30B modeli. Şimdi test ettim de en az hatayı o yaptı. 32B modelini test etmedim sistem yetmediği için ama açık ara en iyi model. Yavaşlığa katlanırım diyorsan ilk onu dene
https://huggingface.co/bartowski/Qwen_Qwen3-VL-32B-Instruct-GGUF Qwen3-VL-32B-Instruct-Q4_K_M.gguf
https://huggingface.co/MaziyarPanahi/Qwen3-14B-GGUF/tree/main Qwen3-14B.Q6_K.gguf
https://huggingface.co/lm-kit/qwen-3-14b-instruct-gguf/tree/main Qwen3-14B-Q8_0.gguf
https://huggingface.co/MaziyarPanahi/Qwen3-30B-A3B-GGUF/tree/main Qwen3-30B-A3B.Q4_K_M.gguf
Ben 8 GB vram ile 30B olanının vision modelini kullanıyorum off layer ile. Korece ve Japonca`da aşırı iyi ki zaten 119 tane dil destekliyormuş Qwen3 modelleri dene kendin gör. Sana önerim ama 30B modeli. Şimdi test ettim de en az hatayı o yaptı. 32B modelini test etmedim sistem yetmediği için ama açık ara en iyi model. Yavaşlığa katlanırım diyorsan ilk onu dene
Son düzenleme:
Benzer konular
Yeni konular
-
RTX 3060 sistemde CoD Warzone'da görüntünün çamur gibi olması sorunu- Daryl Dixon
- Mesaj: 0
-
-
-
-
-
30.000 TL bütçe ile ders ve günlük kullanım için tablet önerisi
- White Dragon
- Mesaj: 9
-
-
-
