Lokalde kullanmak için AI modeli önerisi

KS

KS

Player

Becerikli

Katılım

27 Nisan 2026

Mesajlar

67

Çözümler

1

Beğeniler

18

• Bugün 00:25

• #11

existentia dedi:

Context büyüklügü ya da hız önemli mi?

Genişletmek için tıkla...

Content büyüklüğü çok önemli ama hız çok önemli değil.

 

existentia

Başarılı

İlk 1.000!

Katılım

22 Aralık 2023

Mesajlar

187

Beğeniler

170

• Bugün 00:28

• #12

Player dedi:

Content büyüklüğü çok önemli ama hız çok önemli değil.

Genişletmek için tıkla...

Qwen2.5-Coder 7B q4 olabilir ama önermem daha büyük modeller bile işe yaramıyır hobi olarak denemek istiyorsanız deneyin ama işe yaramıyorlar

 

Utku92

Bilgin

Katılım

8 Şubat 2024

Mesajlar

4.139

Makaleler

1

Çözümler

8

Beğeniler

2.430

• Bugün 00:56

• #13

O VRAM ile hiçbir şey olmaz. Ben de 48 GB VRAM var, Qwen 3.8 27B 8 bit kullanıyorum; onda bile beğenmediğim noktalar çok var.

 

babyYoda

Gelişen

Katılım

8 Ekim 2026

Mesajlar

22

Beğeniler

18

Yer

The Linux Foundation

• 53 dakika önce

• #14

Player dedi:

Hocam çıktı kalitesi nasıl.

Genişletmek için tıkla...

5060 da calistirdim 8gb vram icin en iyisi bu bence. Tabi yine mal oldugu gercegini degistirmiyor daha zeki modeller daha fazla vram ve gpu gucu istiyor .8GB VRAM de daha pazla parametreli AI kullanirsin calisir basta vram kaplar yer kalmazsa ram kullanir harf harf cikti alirsin yani cok yavas olur diyorum.