quantization

Kimi K3 Huggingface'e Geldi

Kimi K3 local LLM modeli indirilebilir olarak eklenmiş. Ve devasa büyük normal kullanıcı için yerelde çalıştırması çok zor olacak. 2 bit hali 1 TB yer kaplıyor. Kısacası haber vermek istedim.
- Utku92
- Konu
- Bugün 02:15
- huggingface kimi kimi k3 llm local local llm quantization
- Mesaj: 9
- Forum: Yapay Zekâ