Koneko Toujou 48

Bilgin
Katılım
16 Ocak 2024
Mesajlar
5.016
Çözümler
35
Beğeniler
6.341
Yer
Cehennemin dibi
Şu anda Sonnet 5 modelini kullanıyorum. Bayağı işime yarıyor ama free planda kullanabiliyorum, aylık 20 dolar gereksiz pahalı bence. Bu modeli ya da denk bir modeli ücretsiz kullanmanın yolu var mı?
 
Şu anda sonnet 5 modelini kullanıyorum. Bayağı işime yarıyor ama Free planda kullanabiliyorum, aylık 20 dolar gereksiz pahalı bence. Bu modeli ya da denk bir modeli ücretsiz kullanmanın yolu var mı?

Yani dengi değil ama Codex kullanabilirsin. ChatGPT, Plus üyeliğini çoğu hesaba 1 aylık hediye olarak veriyor ve kullanım hakkı da epey yüksek üstelik haftalık hakkını ücretsiz yenileme gibi özellikleri de var.
 
Çok çok üst düzey bir şey yapmıyorsanız Gemini adam olana yetiyor bence.

ChatGPT ve Gemini'ı denedim hocam hiç istediğim gibi sonuçlar vermiyorlar.

Yani dengi değil ama Codex kullanabilirsin. ChatGPT, Plus üyeliğini çoğu hesaba 1 aylık hediye olarak veriyor ve kullanım hakkı da epey yüksek üstelik haftalık hakkını ücretsiz yenileme gibi özellikleri de var.

Ollama models de sonnet 4.5 gibi modeller var onlar nasıl hocam?
 
ChatGPT ve Gemini'ı denedim hocam hiç istediğim gibi sonuçlar vermiyorlar.

Ollama models de sonnet 4.5 gibi modeller var onlar nasıl hocam?

Codex üzerinde 5.5 sonuçları gayet iyi aslında düzgün prompt verildiğinde.

ChatGPT ve Gemini'ı denedim hocam hiç istediğim gibi sonuçlar vermiyorlar.

Ollama models de sonnet 4.5 gibi modeller var onlar nasıl hocam?

Sistemin lokal AI için yeterli mi? Ayrıca kullanacağın local AI büyük veri merkezlerinin sağladığı yapay zekalarla yarışamaz bile.
 
Codex üzerinde 5.5 sonuçları gayet iyi aslında düzgün prompt verildiğinde.

Sistemin lokal AI için yeterli mi? Ayrıca kullanacağın local AI büyük veri merkezlerinin sağladığı yapay zekalarla yarışamaz bile.

Çok iyi bir sistemim yok ama buna yönelik bir GPU'ya geçmeyi düşünüyorum. Büyük veri merkezleriyle yarışamayacağımı biliyorum tabii ki o kadar RAM krizi çıkardı adamlar.
 
Çok iyi bir sistemim yok ama buna yönelik bir GPU'ya geçmeyi düşünüyorum. Büyük veri merkezleriyle yarışamayacağımı biliyorum tabii ki o kadar RAM krizi çıkardı adamlar.

Vallahi bende 12 GB'lık RX 6700 XT var 14b modeller de bile sistem ramine kayıp sistemi tıkıyor. Düzgün bir AI performansı istiyorsan MacBook'larda ki gibi Unified Memory özellikli bir cihaz daha mantıklı.
 
Vallahi bende 12 GB'lık RX 6700 XT var 14b modeller de bile sistem ramine kayıp sistemi tıkıyor. Düzgün bir AI performansı istiyorsan MacBook'larda ki gibi Unified Memory özellikli bir cihaz daha mantıklı.

40 GB RAM ve RX 580 8 GB var ilk denediğimde bir qwen modeli denedim çalışmadı. GPU'yu 16 GB'lik bir şey alıp tekrar kurmayı deneyeceğim.
 
40 GB RAM ve RX 580 8 GB var ilk denediğimde bir qwen modeli denedim çalışmadı. GPU'yu 16 GB'lik bir şey alıp tekrar kurmayı deneyeceğim.

RX 580 AI için uygun bir kart değil zaten AMD desteğini kapatmıştı sanırım ona GitHub'dan bir şey indirmen gerekiyordu. AI'yı RAM'e yüklememeye çalış token üretim hızın azalır.
 
RX 580 AI için uygun bir kart değil zaten AMD desteğini kapatmıştı sanırım ona GitHub'dan bir şey indirmen gerekiyordu. AI'yı RAM'e yüklememeye çalış token üretim hızın azalır.

Evet driver desteği bile kapandı. Hızıyla ilgili bir sorunum yok yavaş çalışabilir ama doğru ve istediğim sonucu versin yeter.