Hevesinizi kirmak istemem ancak bu sistemle kodlama odakli hatri sayilir bir local LLM calistirmaniz bile cok zor, Gemini cok ucmus gitmis. Calissa bile sistem RAM'ine sizma olacagi icin token/s oraniniz cok dusuk olacaktir. Gemma 4 E2B Q8 bile 4GB'in ustunde VRAM kullanmakta.
GLM ve Qwen modellerini cloudda da kullanabiliyorsunuz. Z.ai ve Qwen Chat'in free tierinda kullanim limitleri de oldukca bonkor, Z.ai'in ayni Deepseek gibi limitsiz tarzi bir sey hatta. Onlari onerebilirim, local LLM'in gizlilik avantajindan feragat edecekseniz tabii.