Local LLM Dil Çevirisi Benchmark'ı

oğuz sasi dedi:

Anladım hocam bilmiyordum teşekkür ederim. Kurayım o zaman. Kurduktan sonra extra bir ayar vb çekmem gerekecek mi? Yoksa modelfile ile yaptığımız işlem yeterli olur mu?

Genişletmek için tıkla...

docker run -d \
 -p 3000:8080 \
 --add-host=host.docker.internal:host-gateway \
 -v open-webui:/app/backend/data \
 --name open-webui \
 --restart unless-stopped \
 ghcr.io/open-webui/open-webui:main

version: '3.8'

services:
 open-webui:
 image: ghcr.io/open-webui/open-webui:main
 container_name: open-webui
 ports:
 - "3000:8080"
 extra_hosts:
 - "host.docker.internal:host-gateway"
 volumes:
 - open-webui-data:/app/backend/data
 environment:
 # Yerel Ollama kullanıyorsanız:
 - OLLAMA_BASE_URL=http://host.docker.internal:11434
 restart: unless-stopped

volumes:
 open-webui-data:

oğuz sasi dedi:

@Utku92,

Kod:

total duration: 11m44.8017246s
load duration: 6.2425ms
prompt eval count: 78 token(s)
prompt eval cached: 58 token(s)
prompt eval duration: 258.616ms
prompt eval rate: 77.33 tokens/s
eval count: 20438 token(s)
eval duration: 11m44.255055s
eval rate: 29.02 tokens/s

Bir önce ki mesajımda ki promptu iptal ettim aşırı büyük bir şey yapmaya kalkıştı bitmezdi. Yeni bir şey yazdım ve şöyle bitirdi.

Genişletmek için tıkla...

Yakuza dedi:

HBM LPDDR5X bellekliler gelse onlardan alalım diyeceğim de kaç para onlar?

Onu yapan bir eleman vardı görmüştüm YT'de. Hani AI temelli olacaksa eyvallah da sırf DLSS 5 için de biraz fazla lüküs.

Genişletmek için tıkla...

oğuz sasi dedi:

Evet çok seri çalışıyordu. Yaptığı oyunu da şöyle bırakayım bakmak istersen eğer.

Genişletmek için tıkla...

oğuz sasi dedi:

acemiyim daha ya. Vaktim oldukça bunlarla uğraşmayı deneyeceğim. Size de teşekkür ederim zamanınızı çaldım. Attığım ekte ki txt zaten HTML oyunu hocam.

Genişletmek için tıkla...