Ben de bu modeli denedim, LMStudio ile ayarlar doğru mu, hız falan olması gerektiği gibi mi? @Utku92 45.85 tok/sec galiba

1791401994746.webp



1791402039892.webp
 

Benzer konular

T
Local LLM için model önerisi
2
Mesaj
14
Görüntüleme
267
ggbye
ggbye
Utku92
Local LLM olarak hangi modeli kullanıyorsunuz?
2
Mesaj
17
Görüntüleme
406
Utku92
Utku92
T
Local LLM için 3 tane RTX 5080 ve RTX 5060 Ti 8 GB vs 1 tane RTX 5090
Mesaj
7
Görüntüleme
125
TÜRK GAMBİTİ
TÜRK GAMBİTİ
Utku92
Kimi K3 Huggingface'e Geldi
Mesaj
9
Görüntüleme
158
Utku92
Utku92
Nikki Freeman
Matematik için Local AI tavsiyesi
Mesaj
8
Görüntüleme
86
Çapsız Abidin
Çapsız Abidin
dombikpanda
Kodlama için localde çalışan en iyi LLM nedir?
Mesaj
1
Görüntüleme
67
vanillamint
vanillamint
oğuz sasi
Kodlama için en iyi local AI hangisidir?
Mesaj
6
Görüntüleme
159
Shuichi Tatsuo
Shuichi Tatsuo

Yeni konular

Yeni mesajlar