Local LLM Dil Çevirisi Benchmark'ı

Edri · Bugün 19:52

CRT_User dedi:
Ayrıca ikinci kartla DLSS 5 bile FPS kaybı olmadan çalıştırılabilir bence.

Bence değil, çalıştırılabilir direkt. Ancak videoda denildiği gibi çok fazla takılma oluyor, kullanması hoş değil.

Utku92 · Bugün 19:56

@oğuz sasi bende ollama kullanıyordum ancak daha çok yapılandırma ve erken güncelleme stabilite için llama cpp ye geçtim. Özel araç yazdırdım PC açıldığında otomatik serve ediyor programı ve 200 civarı mcp var.

oğuz sasi · Bugün 19:57

Utku92 dedi:
@oğuz sasi bende ollama kullanıyordum ancak daha çok yapılandırma ve erken güncelleme stabilite için llama cpp ye geçtim. Özel araç yazdırdım PC açıldığında otomatik serve ediyor programı ve 200 civarı mcp var.

Eki Görüntüle 284090

Eki Görüntüle 284091

Hmm güzel bir şeye benziyor hocam. Şu modeli bir indireyim ondan sonra onu da deneyeceğim.

Utku92 · Bugün 19:58

oğuz sasi dedi:
Hmm güzel bir şeye benziyor hocam. Şu modeli bir indireyim ondan sonra onu da deneyeceğim.

Ollama da modelfile ayarı yapıyor musunuz? Yapmazsanız düzgün çalışmaz.

Yakuza dedi:
Ben 2. 5080'i almayı planlıyordum güyya Kara Cuma'da falan ama bu fiyatlarla suya düştü.

2 5090 2 4090 2 3090 mantıklı bence

oğuz sasi · Bugün 20:09

Utku92 dedi:
Ollama da modelfile ayarı yapıyor musunuz? Yapmazsanız düzgün çalışmaz.

Ollama kullanmayı bilmiyorum açıkçası. Daha doğrusu AI kullanmayı bilmiyorum. Direkt modeli indirip çalıştırıyordum. Detay bilmiyorum kısacası.

Utku92 · Bugün 20:10

oğuz sasi dedi:
Ollama kullanmayı bilmiyorum açıkçası. Daha doğrusu AI kullanmayı bilmiyorum. Direkt modeli indirip çalıştırıyordum. Detay bilmiyorum kısacası.

O şekilde olmaz maalesef kendine özel kodları var model ayarları yapılır sonrasında hızlı ve stabil kullanılır. Modelfile dosyanızı ollamadan çekelim burada paylaşın bende ayarlarını yaparak paylaşırım.

oğuz sasi · Bugün 20:12

Utku92 dedi:
O şekilde olmaz maalesef kendine özel kodları var model ayarları yapılır sonrasında hızlı ve stabil kullanılır. Modelfile dosyanızı ollamadan çekelim burada paylaşın bende ayarlarını yaparak paylaşırım.

Çok memnun olurum hocam. Model iniyor şuan maalesef internetim çok yavaş... Müsait olursanız indikten sonra yapalım.

@Utku92, Hocam model şimdi indi internetim sağ olsun. Modelfile dosyası şu şekilde:

Kod:

PS C:\WINDOWS\system32> ollama show --modelfile hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S
# Modelfile generated by "ollama show"
# To build a new Modelfile based on this, replace FROM with:
# FROM hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S

FROM C:\Users\antil\.ollama\models\blobs\sha256-64b53b64c7aa39f20a7e54bd80582fe595b1d745624ee8a72e92508c0326d810
FROM C:\Users\antil\.ollama\models\blobs\sha256-13cb7bebccbd04afc8f4090cb949ecf8937cdf7377c5799b1a0c594e7c0d3e16
TEMPLATE {{ .Prompt }}

Utku92 · 34 dakika önce

oğuz sasi dedi:
Çok memnun olurum hocam. Model iniyor şu an maalesef internetim çok yavaş... Müsait olursanız indikten sonra yapalım.

@Utku92, hocam model şimdi indi internetim sağ olsun. Modelfile dosyası şu şekilde:

Kod:

PS C:\WINDOWS\system32> ollama show --modelfile hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S # Modelfile generated by "ollama show" # To build a new Modelfile based on this, replace FROM with: # FROM hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S FROM C:\Users\antil\.ollama\models\blobs\sha256-64b53b64c7aa39f20a7e54bd80582fe595b1d745624ee8a72e92508c0326d810 FROM C:\Users\antil\.ollama\models\blobs\sha256-13cb7bebccbd04afc8f4090cb949ecf8937cdf7377c5799b1a0c594e7c0d3e16 TEMPLATE {{ .Prompt }}

Kod:

ollama list

Diyelim modelleri görelim. Sonrasında.

Kod:

cd C:\Users\Kullanıcı Adı\Desktop

Modelfile'ı masaüstüne çıkarıp ayarlarını yapıp tekrar göndereceğiz.

oğuz sasi · 33 dakika önce

Utku92 dedi:
Kod:

ollama list

Diyelim modelleri görelim. Sonrasında.

Kod:

cd C:\Users\Kullanıcı Adı\Desktop

Modelfile'ı masaüstüne çıkarıp ayarlarını yapıp tekrar göndereceğiz.

Kod:

PS C:\Users\antil\Desktop> ollama list
NAME                                                ID              SIZE     MODIFIED
hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S    5e503bdfda16    12 GB    6 minutes ago

Utku92 · 32 dakika önce

Kod:

ollama show hf.co/ISTA-DASLab/Qwen3.8-27B-GSQ-RCO-GGUF:IQ3_S --modelfile > Modelfile.txt

Txt e çıkacak. Onu paylaşın.

Local LLM Dil Çevirisi Benchmark'ı

Detaylar

Edri

Becerikli

Utku92

Bilgin

oğuz sasi

Bilgin

Utku92

Bilgin

oğuz sasi

Bilgin

Utku92

Bilgin

oğuz sasi

Bilgin

Utku92

Bilgin

oğuz sasi

Bilgin

Utku92

Bilgin

Benzer konular

Local LLM Dil Çevirisi Benchmark'ı

Becerikli

Bilgin

Bilgin

Bilgin

Bilgin

Bilgin

Bilgin

Bilgin

Bilgin

Bilgin

Benzer konular

Privacy & Transparency

Privacy & Transparency