Anladım hocam bilmiyordum teşekkür ederim. Kurayım o zaman. Kurduktan sonra extra bir ayar vb çekmem gerekecek mi? Yoksa modelfile ile yaptığımız işlem yeterli olur mu?
docker run -d \
-p 3000:8080 \
--add-host=host.docker.internal:host-gateway \
-v open-webui:/app/backend/data \
--name open-webui \
--restart unless-stopped \
ghcr.io/open-webui/open-webui:mainversion: '3.8'
services:
open-webui:
image: ghcr.io/open-webui/open-webui:main
container_name: open-webui
ports:
- "3000:8080"
extra_hosts:
- "host.docker.internal:host-gateway"
volumes:
- open-webui-data:/app/backend/data
environment:
# Yerel Ollama kullanıyorsanız:
- OLLAMA_BASE_URL=http://host.docker.internal:11434
restart: unless-stopped
volumes:
open-webui-data:Şu an onu test ediyorum hocam basit bir fizik motoru yapmasını söyledim html ile. Thinkliyor şu an 4 dakikadır falan bakalım.
Ollama da modelfile ayarı yapıyor musunuz? Yapmazsanız düzgün çalışmaz.
2 5090 2 4090 2 3090 mantıklı bence
Onu yapan bi eleman vardı görmüştüm YT'de. hani AI temelli olacaksa eyvallah da sırf DLSS 5 için de biraz fazla lüküs.Ben de ikinci bir kart almayı düşünüyorum. 3090 kadar fazla VRAM olmaz ama 32 GB VRAM ile de yapılır bence bir şeyler.
total duration: 11m44.8017246s
load duration: 6.2425ms
prompt eval count: 78 token(s)
prompt eval cached: 58 token(s)
prompt eval duration: 258.616ms
prompt eval rate: 77.33 tokens/s
eval count: 20438 token(s)
eval duration: 11m44.255055s
eval rate: 29.02 tokens/sEvet çok seri çalışıyordu. Yaptığı oyunu da şöyle bırakayım bakmak istersen eğer.
HBM LPDDR5X bellekliler gelse onlardan alalım diyeceğim de kaç para onlar?
Onu yapan bir eleman vardı görmüştüm YT'de. Hani AI temelli olacaksa eyvallah da sırf DLSS 5 için de biraz fazla lüküs.
Acemiyim daha ya. Vaktim oldukça bunlarla uğraşmayı deneyeceğim. Size de teşekkür ederim zamanınızı çaldım. Attığım ekte ki txt zaten html oyunu hocam.
