Muhakeme modelleri, zincirleme düşünme (CoT) yöntemiyle karmaşık görevleri çözmek için tasarlanmış yeni bir büyük dil modeli (LLM) sınıfında bulunurlar. Bu modeller, daha uzun yanıt süresi karşılığında derin analiz yapma yeteneğine sahipler. DeepSeek R1, yeni çıkan bir “muhakeme” modeli olup, oldukça yetenekli daha küçük modellere dönüştürülmüştür. Bu DeepSeek R1 distill modellerini AMD Ryzen™ AI işlemcileri ve Radeon™ ekran kartları üzerinde çalıştırmak son derece kolay ve şu anda LM Studio aracılığıyla kullanılabilir.
Muhakeme modelleri, cevap vermeden önce bir “düşünme” aşaması ekler – bunu, model nihai cevabını vermeden önce “düşünme” penceresini genişleterek görebilirsiniz. Geleneksel LLM’ler doğrudan yanıt üretirken, CoT LLM’ler önce derin bir analiz gerçekleştirir. Modelin yaptığı varsayımlar ve öz değerlendirme süreci kullanıcıya açık bir şekilde sunulur, böylece modelin analiz ve muhakeme yeteneği gelişir – ancak bunun karşılığında ilk yanıt süresi önemli ölçüde uzar.
Bir muhakeme modeli, son yanıtı vermeden önce binlerce token harcayabilir (ve bu düşünme sürecini görebilirsiniz!). Bu durum, modelin matematik ve bilim gibi alanlardaki karmaşık problem çözme görevlerinde mükemmel olmasını sağlar. Sorunu her açıdan ele aldıktan sonra bir yanıt üretir. AMD donanımınıza bağlı olarak, bu modeller AMD Ryzen™ AI işlemciniz veya Radeon™ ekran kartınızı kullanarak en iyi muhakeme yeteneklerini kullanımınıza sunar.
DeepSeek R1 Distilled ‘Muhakeme’ Modellerini AMD Ryzen™ AI ve Radeon™ Ekran Kartlarında Çalıştırma
Aşağıdaki adımları takip ederek DeepSeek R1 distill modellerini sadece birkaç dakika içinde çalıştırabilirsiniz (indirme hızınıza bağlı olarak değişebilir).
Lütfen Adrenalin 25.1.1 opsiyonel sürücüsünü kullandığınızdan emin olun. Bu sürücüyü doğrudan bu bağlantıdan indirebilirsiniz.
- Adım 1: 25.1.1 veya daha yeni bir Adrenalin sürücüsü kullandığınızdan emin olun.
- Adım 2: LM Studio 0.3.8 veya üstünü lmstudio.ai/ryzenai adresinden indirin.
- Adım 3: LM Studio’yu kurun ve tanıtım ekranını atlayın.
- Adım 4: Keşfet sekmesine tıklayın.
- Adım 5: DeepSeek R1 Distill modelinizi seçin. Qwen 1.5B gibi daha küçük modeller, daha yüksek hızlar sunar (ve başlangıç için önerilir), daha büyük modeller ise daha iyi muhakeme yeteneği sağlar. Tüm modeller boyutu farketmeksizin oldukça güçlüler. Aşağıdaki tablo, maksimum önerilen DeepSeek R1 Distill model boyutlarını listeler:
İşlemci | DeepSeek R1 Distill* (Maksimum Desteklenen) |
|---|---|
| AMD Ryzen™ AI Max+ 395 32GB1, 64GB2 ve 128GB | DeepSeek-R1-Distill-Llama-70B (64GB ve 128GB için) DeepSeek-R1-Distill-Qwen-32B |
| AMD Ryzen™ AI HX 370 ve 365 24GB ve 32GB | DeepSeek-R1-Distill-Qwen-14B |
| AMD Ryzen™ 8040 ve Ryzen™ 7040 32GB | DeepSeek-R1-Distill-Llama-14B |
1=Değişken Grafik Belleği “Özel: 24GB” olarak ayarlanmalı.
2=Değişken Grafik Belleğinin Yüksek olarak ayarlanmalı.
| Ekran Kartı | DeepSeek R1 Distill* (Maksimum Desteklenen1) |
|---|---|
| AMD Radeon™ RX 7900 XTX | DeepSeek-R1-Distill-Qwen-32B |
| AMD Radeon™ RX 7900 XT | DeepSeek-R1-Distill-Qwen-14B |
| AMD Radeon™ RX 7900 GRE | DeepSeek-R1-Distill-Qwen-14B |
| AMD Radeon™ RX 7800 XT | DeepSeek-R1-Distill-Qwen-14B |
| AMD Radeon™ RX 7700 XT | DeepSeek-R1-Distill-Qwen-14B |
| AMD Radeon™ RX 7600 XT | DeepSeek-R1-Distill-Qwen-14B |
| AMD Radeon™ RX 7600 | DeepSeek-R1-Distill-Llama-8B |
1=Kısmi Ekran Kartı yük devri olmadan desteklenen maksimum Distill’i temsil eder.
- Adım 6: Sağ tarafta “Q4 K M” kuantizasyonunun seçili olduğundan emin olun ve “İndir” butonuna tıklayın.
- Adım 7: İndirme tamamlandıktan sonra sohbet sekmesine geri dönün, açılır menüden DeepSeek R1 distill modelinizi seçin ve “parametreleri elle seç” seçeneğinin işaretli olduğundan emin olun.
- Adım 8: GPU yük devri katmanlarında kaydırıcıyı en son seviyeye kadar çekin.
- Adım 9: Model yükle butonuna tıklayın.
- Adım 10: Tamamen yerel AMD donanımınızda çalışan bir muhakeme modelinizi kullanmaya başlayın!