Local AI çalıştırmak için öneri

dixtuel

Uzman

Katılım

20 Ocak 2025

Mesajlar

303

Çözümler

4

Beğeniler

95

• Bugün 21:09

• #1

Uzun zamandır ChatGPT'nin her hesabıma verdiği Free üyelikleri kullanıyordum ve sonunda bittiği için bilgisayarımda local model çalıştırmaya karar verdim, (RTX 3060 12 GB + 16 GB RAM) Gemma 4 12b, Ornith 1.5 9b, B0nsai 2 27b gibi modelleri kullanıyorum.

ik_llama_ccp + opencode ile, açıkçası GPT kullanırken de GPT 6 Luna + Subagentlar ile çalıştığım için çok bir fark hissetmedim ben. Yine yardım ediyor işime yarıyor denebilir, en azından artık rahat rahat yok o verim burayla paylaşılacak, model eğitiminde kullanılacak gibi bir düşüncem yok, sizin localde kullandığınız ve iyi iş görüyor diye önerdiğiniz modeller var mıdır veya opencode yerine şununla kullan dediğiniz bir harness vesaire?

 

Son düzenleyen: Moderatör: Bugün 21:17

Utku92

Bilgin

Katılım

8 Şubat 2024

Mesajlar

4.161

Makaleler

1

Çözümler

8

Beğeniler

2.445

• Bugün 21:23

• #2

O sistemle hiçbir şey olmaz.

OpenCode'a MCP kurun, free modeller ile kullanın. Nvidia'da yavaş ama kullanılabilir API'si ile.

 

Recep Baltaş

Techolay

Yönetici

Tahtanın Hakimi Topluluk Kahramanı İlk 1.000!

Katılım

3 Aralık 2023

Mesajlar

15.626

Makaleler

105

Çözümler

1.621

Beğeniler

46.922

Yer

İstanbul

• Bugün 21:39

• #3

16 GB RAM az. 64 GB olsa şu anda sansürsüz DeepSeek-V4.1-Flash-1017 çalıştırabilirsin.

AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF · Hugging Face

Text Generation model with 552B parameters. Download, explore files and run it on Hugging Face.

huggingface.co

 

Son düzenleme: 25 dakika önce

KS

KS

dixtuel

Uzman

Katılım

20 Ocak 2025

Mesajlar

303

Çözümler

4

Beğeniler

95

• Bugün 21:45

• #4

Utku92 dedi:

O sistemle hiçbir şey olmaz.

Opencode'a mcp kurun, Free modeller ile kullanın. NVIDIA'da yavaş ama kullanılabilir API'si ile.

Genişletmek için tıkla...

Vallahi hocam zaten baştan Instagram'ı kodlatmayacağım için yetiyor açıkçası bana.

 

Utku92

Bilgin

Katılım

8 Şubat 2024

Mesajlar

4.161

Makaleler

1

Çözümler

8

Beğeniler

2.445

• Bugün 21:51

• #5

Recep Baltaş dedi:

16 GB RAM az. 64 GB olsa şu anda sansürsüz DeepSeek-V4.1-Flash-1017 çalıştırabilirdin.

AtomicChat/DeepSeek-V4.1-Flash-1017-Uncensored-GSQ-RCO-GGUF · Hugging Face

Text Generation model with 552B parameters. Download, explore files and run it on Hugging Face.

huggingface.co

Genişletmek için tıkla...

Ben Qwen 3.8 27B ile Unreal Engine C++ kodları denettirdim. MCP bağladım ve işe yarıyor, istenileni yapıyor ancak çok süper değil.

 

Chaperone Protein

Başarılı

Katılım

29 Mart 2024

Mesajlar

19

Beğeniler

10

• 42 dakika önce

• #6

Şu anki üyelik fiyatlarıyla kullanmak, donanıma yatırım yapıp lokalde çalıştırmaktan daha uygun geliyor.

 

existentia

Başarılı

İlk 1.000!

Katılım

22 Aralık 2023

Mesajlar

200

Beğeniler

173

• 18 dakika önce

• #7

OpenCode sürekli free model sunuyor fena da degiller local modeller hem çok iyi degiller hem context az yetmiyor yani hemde arkada model çalışırken performansı çok düşüyor bilgisayarın

 

KS

KS

dixtuel

Uzman

Katılım

20 Ocak 2025

Mesajlar

303

Çözümler

4

Beğeniler

95

• 17 dakika önce

• #8

Utku92 dedi:

Ben qwen 3.8 27b ile Unreal Engine C++ kodları denettirdim. Mcp bağladım ve işe yarıyor, istenileni yapıyor ancak çok süper değil.

Genişletmek için tıkla...

Bende b0NSA'i 2 27b kullanıyorum sıkıştırılmışta olsa gayet yeterli Godot ile bir minigame yapmıştım arkadaşlarıma gayet başarılı iş gördü hitboxları ayarlayamaması dışında.