Selam arkadaşlar, ben Ollama'da model indirmek için sabah bilgisayarı açtım, baktım karşıma Deepseek-r1 çıktı. Aman Allah'ım dedim hemen modelin 7B parametreye sahip bir modelini indirdim. Sizlerede bu makalede Deepseek-r1 ve diğer deepseek modellerini nasıl bilgisayarınıza kurup tamamen lokal bir şekilde çalıştırabileceğinizi anlatacağım. Hazırsanız başlayalım.
Eğer sisteminiz kaldırmaz ise zaten web arayüzüde var: https://www.deepseek.com/

ChatGPT o1'e kafa tutuyor :D

e44d096e-fa46-4cae-b2f2-53991e8c8da0.webp

Ollama'yı bilgisayarınıza kurun
Arkadaşlar Ollama'nın kendi web sitesine giriş yaparak işletim sisteminize uygun olan sürümü yükleyin.


Model yükleme:
Arkadaşlar Ollama'yı arka planda başlattıktan sonra web sitesindeki Models bölümüne geliyoruz.
Biz burada Deepseek-r1 modelini indireceğimiz için ilgili modelin üstüne tıklıyoruz.

Ekran görüntüsü 2025-01-27 214123.webp


Burada bilgisayarımıza uygun parametreye sahip bir model indirmemiz lazım. Mesela ben 8 GB RAM'e sahibim fakat 4 GB Windows kullanıyor. Bana kalan ise 4 GB bu nedenle en fazla 8B parametreye sahip bir modeli zorlanmadan çalıştırabilirim. Bu yüzden 7B parametrelik sürümü indireceğim. Modelin parametresini seçtikten sonra sağ kutucuktaki yer alan komutu kopyalıyoruz.

Ekran görüntüsü 2025-01-27 214532.webp


Arkadaşlar kopyaladığımız kodu terminale yapıştırıp yükleme işlemini başlatıyoruz.

Ekran görüntüsü 2025-01-27 214801.webp




Başlatma:
Arkadaşlar eğer kurulum kazasız belasız gerçekleştirildiyse artık modeli başlatabiliriz. :D

Deepseek-r1 için başlatma kodu:
ollama run deepseek-r1

Deepseek-r1 için durdurma kodu:
ollama stop deepseek-r1

Örnek başlatma kodu:
ollama run (model-adı)

Örnek durdurma kodu:
ollama stop (model-adı)


Terminal üzerinden mesajlaşabilirsiniz. Eğer ChatGPT gibi bir arayüz ile yapmak istiyorsanız OpenWEB UI kullanabilirsiniz.
Mesela hello deepseek-r1 diyelim:

Ekran görüntüsü 2025-01-27 215323.webp




Not:
Eğer benim sistemim kaldırmaz diye üzülüyorsanız üzülmeyin! 1.5b parametreye sahip model çok hızlı çalışıyor. Onu kurabilirsiniz.

Diğer Deepseek modelleri:
Arkadaşlar Deepseek her ne kadar açık kaynak kodlu ve ücretsiz bir yapay zeka olsa da bayağı güçlü sistem istiyor. Hele deepseek v3'ten hiç bahsetmiyorum bile! En az 671b parametrelik model gözüküyor. Evinizde NASA PC varsa rahatlıkla kullanabilirsiniz :D

Ekran görüntüsü 2025-01-27 215622.webp


Ekran görüntüsü 2025-01-27 215629.webp


Umarım bu rehber hoşunuza gitmiştir. iyi günler dilerim :D
 
Son düzenleme:
Rehber güzel olmuş ama bu kadar uğraşmanıza gerek yok. Ollama yerine LM Studio programını kullanabilirsiniz. Sadece yazılımı indirip direkt kullanıyorsunuz, başka bir şey yapmanıza gerek kalmıyor.

 
Selam arkadaşlar, ben Ollama'da model indirmek için sabah bilgisayarı açtım, baktım karşıma Deepseek-r1 çıktı. Aman Allah'ım dedim hemen modelin 7B parametreye sahip bir modelini indirdim. Sizlerede bu makalede Deepseek-r1 ve diğer deepseek modellerini nasıl bilgisayarınıza kurup tamamen lokal bir şekilde çalıştırabileceğinizi anlatacağım. Hazırsanız başlayalım.
Eğer sisteminiz kaldırmaz ise zaten web arayüzüde var: https://www.deepseek.com/

ChatGPT o1'e kafa tutuyor :D

Eki Görüntüle 119126

Ollama'yı bilgisayarınıza kurun
Arkadaşlar Ollama'nın kendi web sitesine giriş yaparak işletim sisteminize uygun olan sürümü yükleyin.


Model yükleme:
Arkadaşlar Ollama'yı arka planda başlattıktan sonra web sitesindeki Models bölümüne geliyoruz.
Biz burada Deepseek-r1 modelini indireceğimiz için ilgili modelin üstüne tıklıyoruz.

Eki Görüntüle 119097

Burada bilgisayarımıza uygun parametreye sahip bir model indirmemiz lazım. Mesela ben 8 GB RAM'e sahibim fakat 4 GB Windows kullanıyor. Bana kalan ise 4 GB bu nedenle en fazla 8B parametreye sahip bir modeli zorlanmadan çalıştırabilirim. Bu yüzden 7B parametrelik sürümü indireceğim. Modelin parametresini seçtikten sonra sağ kutucuktaki yer alan komutu kopyalıyoruz.

Eki Görüntüle 119105

Arkadaşlar kopyaladığımız kodu terminale yapıştırıp yükleme işlemini başlatıyoruz.

Eki Görüntüle 119108




Başlatma:
Arkadaşlar eğer kurulum kazasız belasız gerçekleştirildiyse artık modeli başlatabiliriz. :D

Deepseek-r1 için başlatma kodu:
ollama run deepseek-r1

Deepseek-r1 için durdurma kodu:
ollama stop deepseek-r1

Örnek başlatma kodu:
ollama run (model-adı)

Örnek durdurma kodu:
ollama stop (model-adı)


Terminal üzerinden mesajlaşabilirsiniz. Eğer ChatGPT gibi bir arayüz ile yapmak istiyorsanız OpenWEB UI kullanabilirsiniz.
Mesela hello deepseek-r1 diyelim:

Eki Görüntüle 119112




Not:
Eğer benim sistemim kaldırmaz diye üzülüyorsanız üzülmeyin! 1.5b parametreye sahip model çok hızlı çalışıyor. Onu kurabilirsiniz.

Diğer Deepseek modelleri:
Arkadaşlar Deepseek her ne kadar açık kaynak kodlu ve ücretsiz bir yapay zeka olsa da bayağı güçlü sistem istiyor. Hele deepseek v3'ten hiç bahsetmiyorum bile! En az 671b parametrelik model gözüküyor. Evinizde NASA PC varsa rahatlıkla kullanabilirsiniz :D

Eki Görüntüle 119117

Eki Görüntüle 119118


Umarım bu rehber hoşunuza gitmiştir. iyi günler dilerim :D
Ben belirtmek isterim ama arkadaşlar böyle uçuk kaçık bir şey bekliyor iseniz 4,5 adet 5090'lı bir sisteminiz olması lazım. Maalesef kullanışlı değil bu çok kötü modeller indiriyorsunuz önermem.

Ben belirtmek isterim ama arkadaşlar böyle uçuk kaçık bir şey bekliyor iseniz 4,5 adet 5090'lı bir sisteminiz olması lazım. Maalesef kullanışlı değil bu çok kötü modeller indiriyorsunuz önermem.
Sonradan Not: Deepseek R1 modeli 671 milyar parametre içeriyor. Hatta firmalara özelleştirilmiş kurumsal model sattıkları takdirde daha fazla veri ile eğitilmiş 1 trilyon parametreli modeller var. Sizin indirdiğiniz merhabadan öteye geçemez. En fazla sohbet botu yaparsınız o kadar.
 
Ben belirtmek isterim ama arkadaşlar böyle uçuk kaçık bir şey bekliyor iseniz 4,5 adet 5090'lı bir sisteminiz olması lazım. Maalesef kullanışlı değil bu çok kötü modeller indiriyorsunuz önermem.

Orası tartışılır bu arada abartmayın. Mesela 70 milyar parametreye sahip modelini 32 GB RAM ve en az 12. nesil Intel işlemciye sahip PC'ler sorunsuz açar. Bu arada modellerin kötü olduğu falan yok en düşük model olan 1.5b bile çok iyi kodlama ve düşünme gücüne sahip. Fakat deepseek V3 gibi 671 milyar parametreye sahip bir model için en az 256 GB RAM lazım diye biliyorum.

Ben belirtmek isterim ama arkadaşlar böyle uçuk kaçık bir şey bekliyor iseniz 4,5 adet 5090'lı bir sisteminiz olması lazım. Maalesef kullanışlı değil bu çok kötü modeller indiriyorsunuz önermem.

sonradan not: deepseek R1 modeli 671 milyar parametre içeriyor. Hatta firmalara özelleştirilmiş kurumsal model sattıkları takdirde daha fazla veri ile eğitilmiş 1 trilyon parametreli modeller var. Sizin indirdiğiniz merhabadan öteye geçemez. En fazla sohbet botu yaparsınız o kadar.

Hocam gerçekten fazla abartıyorsunuz. Modeller taş gibi modeller, indirin kullanın inanmıyorsanız. Şu anda 7 milyar parametreye sahip olan model kullanıcılar için önerilen sağlam bir model.
 
Orası tartışılır bu arada abartmayın. Mesela 70 milyar parametreye sahip modelini 32 GB RAM ve en az 12. nesil Intel işlemciye sahip PC'ler sorunsuz açar. Bu arada modellerin kötü olduğu falan yok en düşük model olan 1.5b bile çok iyi kodlama ve düşünme gücüne sahip. Fakat deepseek V3 gibi 671 milyar parametreye sahip bir model için en az 256 GB RAM lazım diye biliyorum.



Hocam gerçekten fazla abartıyorsunuz. Modeller taş gibi modeller indirin kullanın inanmıyorsanız.
Benim bildiğim R1 modelinin parametre sayısı 671 milyar. Bu denli parametreli bir model ile bile çok uçuk kaçık kodlamalar yapamazsınız bana super mario kodla gibi. Hatalar da yapabilir. Ne kadar çok düşer ise bu parametre sayısı o kadar çok halisünasyon görür. 70 milyar parametre ortalama bir değer bilgisayarınızda gpt 4-o çalıştırıyor gibi düşünebiliriz.
 
Rehber güzel olmuş ama bu kadar uğraşmanıza gerek yok. Ollama yerine LM Studio programını kullanabilirsiniz. Sadece yazılımı indirip direkt kullanıyorsunuz, başka bir şey yapmanıza gerek kalmıyor.

Ben LM Studio'yu sevmiyorum ama isteyen kullanabilir.

Benim bildiğim R1 modelinin parametre sayısı 671 milyar. Bu denli parametreli bir model ile bile çok uçuk kaçık kodlamalar yapamazsınız bana super mario kodla gibi. Hatalar da yapabilir. Ne kadar çok düşer ise bu parametre sayısı o kadar çok halisünasyon görür. 70 milyar parametre ortalama bir değer bilgisayarınızda gpt 4-o çalıştırıyor gibi düşünebiliriz.
İnan ki 7 milyar parametreye sahip model bile bazı konularda ChatGPT o1'i geçiyor.
 
Ben LM studioyu sevmiyorum ama isteyen kullanabilir.


İnan ki 7 milyar parametreye sahip model bile bazı konularda ChatGPT o1'i geçiyor.
O nasıl olabilir hocam imkansız. Ben bilgisyarıma 16 milyar parametreli modeli kurmuştum sistem özelliklerim 4060TI, 16gb 3200mhz ram, 1tb ssd, ryzen 5 5600'dü ve inanılmaz derecede yavaş yazıyordu ayrıca yazarken yazım yanlışları yapmaya başladığını fark etmiştim. Bu nasıl model böyle diyip sildim ardından da lokalde çalıştırdığım r1 modelini ve programlarını.

Ben LM Studio'yu sevmiyorum ama isteyen kullanabilir.


İnan ki 7 milyar parametreye sahip model bile bazı konularda ChatGPT o1'i geçiyor.
Ayrıyetten bu konuya bir soru da sormak istiyorum firmalar özel kurumlar, şirketler için modellerinin daha fazla geliştirilmiş, daha akıllı versiyonlarını fazla kullanılan sağlayıcılara satar mı? Kurumsal model adı altında 671 milyar parametre yerine 1 trilyon parametre kullanan bir Deepseek R1 modeli sağladıklarını iddia ediyorlar benim yapay zeka teknolojilerini kullandığım site. Bu konuda hala emin değilim.