Selam arkadaşlar, ben Ollama'da model indirmek için sabah bilgisayarı açtım, baktım karşıma Deepseek-r1 çıktı. Aman Allah'ım dedim hemen modelin 7B parametreye sahip bir modelini indirdim. Sizlerede bu makalede Deepseek-r1 ve diğer deepseek modellerini nasıl bilgisayarınıza kurup tamamen lokal bir şekilde çalıştırabileceğinizi anlatacağım. Hazırsanız başlayalım.
Eğer sisteminiz kaldırmaz ise zaten web arayüzüde var: https://www.deepseek.com/

ChatGPT o1'e kafa tutuyor :D

e44d096e-fa46-4cae-b2f2-53991e8c8da0.webp

Ollama'yı bilgisayarınıza kurun
Arkadaşlar Ollama'nın kendi web sitesine giriş yaparak işletim sisteminize uygun olan sürümü yükleyin.


Model yükleme:
Arkadaşlar Ollama'yı arka planda başlattıktan sonra web sitesindeki Models bölümüne geliyoruz.
Biz burada Deepseek-r1 modelini indireceğimiz için ilgili modelin üstüne tıklıyoruz.

Ekran görüntüsü 2025-01-27 214123.webp


Burada bilgisayarımıza uygun parametreye sahip bir model indirmemiz lazım. Mesela ben 8 GB RAM'e sahibim fakat 4 GB Windows kullanıyor. Bana kalan ise 4 GB bu nedenle en fazla 8B parametreye sahip bir modeli zorlanmadan çalıştırabilirim. Bu yüzden 7B parametrelik sürümü indireceğim. Modelin parametresini seçtikten sonra sağ kutucuktaki yer alan komutu kopyalıyoruz.

Ekran görüntüsü 2025-01-27 214532.webp


Arkadaşlar kopyaladığımız kodu terminale yapıştırıp yükleme işlemini başlatıyoruz.

Ekran görüntüsü 2025-01-27 214801.webp




Başlatma:
Arkadaşlar eğer kurulum kazasız belasız gerçekleştirildiyse artık modeli başlatabiliriz. :D

Deepseek-r1 için başlatma kodu:
ollama run deepseek-r1

Deepseek-r1 için durdurma kodu:
ollama stop deepseek-r1

Örnek başlatma kodu:
ollama run (model-adı)

Örnek durdurma kodu:
ollama stop (model-adı)


Terminal üzerinden mesajlaşabilirsiniz. Eğer ChatGPT gibi bir arayüz ile yapmak istiyorsanız OpenWEB UI kullanabilirsiniz.
Mesela hello deepseek-r1 diyelim:

Ekran görüntüsü 2025-01-27 215323.webp




Not:
Eğer benim sistemim kaldırmaz diye üzülüyorsanız üzülmeyin! 1.5b parametreye sahip model çok hızlı çalışıyor. Onu kurabilirsiniz.

Diğer Deepseek modelleri:
Arkadaşlar Deepseek her ne kadar açık kaynak kodlu ve ücretsiz bir yapay zeka olsa da bayağı güçlü sistem istiyor. Hele deepseek v3'ten hiç bahsetmiyorum bile! En az 671b parametrelik model gözüküyor. Evinizde NASA PC varsa rahatlıkla kullanabilirsiniz :D

Ekran görüntüsü 2025-01-27 215622.webp


Ekran görüntüsü 2025-01-27 215629.webp


Umarım bu rehber hoşunuza gitmiştir. iyi günler dilerim :D
 
Son düzenleme:
O nasıl olabilir hocam imkansız. Ben bilgisyarıma 16 milyar parametreli modeli kurmuştum sistem özelliklerim 4060 Ti, 16 GB 3200MHz RAM, 1TB SSD, Ryzen 5 5600'dü ve inanılmaz derecede yavaş yazıyordu ayrıca yazarken yazım yanlışları yapmaya başladığını fark etmiştim. Bu nasıl model böyle deyip sildim ardından da lokalde çalıştırdığım R1 modelini ve programlarını.

Ayrıyeten bu konuya bir soru da sormak istiyorum firmalar özel kurumlar, şirketler için modellerinin daha fazla geliştirilmiş, daha akıllı versiyonlarını fazla kullanılan sağlayıcılara satar mı? Kurumsal model adı altında 671 milyar parametre yerine 1 trilyon parametre kullanan bir deepseek R1 modeli sağladıklarını iddia ediyorlar benim yapay zeka teknolojilerini kullandığım site. Bu konuda hala emin değilim.

Öncelikle Deepseek tamamen açık kaynak kodlu bir proje. Projelerin arasında 1 trilyon parametreye sahip bir model olduğunu belirtmemişler. Benim sistemim 10bin TL'lik bir laptoptan ibaret: i5-1135G7 2.42GHz, 8 GB DDR4 RAM, Intel Iris Xe (4 GB), 500GB Samsung SSD'den ibaret bir şey fakat 7 milyar parametreye sahip model çalışıyor. Çok hzlı değil fakat çok yavaşta değil, orta hızda. Aynı zamanda Deepseek'in 32 milyar parametre ve üstü modelleri iyi bir şekilde Türkçe konuşuyor diye biliyorum.

Ekran görüntüsü 2025-01-28 184454.webp


Eğer Türkçe konuşmasına takıntılıysan gemma 2 ve llama3.1 kullanabilirsin.

Not: Deepseek'in düşük parametreye sahip modelleri İngilizce'ye ayarlı fakat Türkçeyi de yarım yamalak da olsa konuşuyor ve anlıyor.

Ayrıyetten bu konuya bir soru da sormak istiyorum firmalar özel kurumlar, şirketler için modellerinin daha fazla geliştirilmiş, daha akıllı versiyonlarını fazla kullanılan sağlayıcılara satar mı? Kurumsal model adı altında 671 milyar parametre yerine 1 trilyon parametre kullanan bir Deepseek R1 modeli sağladıklarını iddia ediyorlar benim yapay zeka teknolojilerini kullandığım site. Bu konuda hala emin değilim.
Orasını bilemem, kendilerine kalmış. Fakat şu anda sunucularında kullandığı modeller en son yayınladıkları modellerin aynısı. Zaten yeni bir model yaptıklarında direk yayınlıyorlar.
 
Son düzenleme:
Öncelikle Deepseek tamamen açık kaynak kodlu bir proje. Projelerin arasında 1 trilyon parametreye sahip bir model olduğunu belirtmemişler. Benim sistemim 10bin TL'lik bir laptoptan ibaret: i5-1135G7 2.42GHz, 8 GB DDR4 RAM, Intel Iris Xe (4 GB), 500GB Samsung SSD'den ibaret bir şey fakat 7 milyar parametreye sahip model çalışıyor. Çok hzlı değil fakat çok yavaşta değil, orta hızda. Aynı zamanda Deepseek'in 32 milyar parametre ve üstü modelleri iyi bir şekilde Türkçe konuşuyor diye biliyorum.

Eki Görüntüle 119371

Eğer Türkçe konuşmasına takıntılıysan gemma 2 ve llama3.1 kullanabilirsin.

Not: Deepseek'in düşük parametreye sahip modelleri İngilizce'ye ayarlı fakat Türkçeyi de yarım yamalak da olsa konuşuyor ve anlıyor.


Orasını bilemem, kendilerine kalmış. Fakat şu anda sunucularında kullandığı modeller en son yayınladıkları modellerin aynısı. Zaten yeni bir model yaptıklarında direk yayınlıyorlar.
Gemma 2 9B'yi indiriyorum.