Utku92 tarafından yazılan makaleler

Arkadaşlar Ollama ile yerel LLM kullanıyorsanız genelde kendi sitesindeki modelleri kullanırsınız veya kullanıyorsunuzdur. Fakat buradaki modeller tek quantization sıkıştırma boyutunda olur. Üstteki resimde de gördüğünüz üzere Q4_k_m olarak quantization sıkıştırması yapılmış ancak başka...