Merhaba,
Aşağıda belirttiğim özelliklere sahip cihazım ile 8B modeli değil de 70b modeli çalıştırabilir miyim? Yoksa karta zarar mı veririm bu konuda bilgilerinizi bekliyorum.
Sistem:
Ryzen 7 7800X3D.
32 GB DDR5 RAM.
4070 Super.
Selam, Monster laptopta eğitmek ve lokalde çalıştırmak için Llama yüklemek istiyorum. i5 12450H işlemciye eşlik eden 32 GB RAM ve 4060 laptop GPU'm var. Hangi modeli kurmam daha mantıklı olur? Bir de RAM'de ve GPU'da çalışması arasında ne fark var? Yardımcı olursanız sevinirim.
Brave'in AI'yı Leo'ya direkt olarak kullanıcıların kendi AI modellerini entegre etmeleri için "Bring Your Own Model" (BYOM) seçeneği sunuluyor. Bu özellik, kullanıcıların yerel modeller ile Leo ile çalışmasını sağlar ve verilerin üçüncü taraflara gönderilmeden güvenli ve özel olarak kendi...
Herkese merhaba, umarım iyisinizdir.
Bu videoda rag modelimi oluşturma anlamında neler yapabileceğimizi anlatıyor.
Anything LLM yazılımını kullanmaya başladım ve oldukça memnunum.
Ben de bu süreçte bazı sorunlar yaşıyorum, inme konusu bende sıkıntılıdır.
Çünkü 10 Mbps bir internet...
Meta.AI, Meta'nın açık kaynak LLM'i Llama-3'ün 70 bin parametreli versiyonunu kullanıyor.
Erişmek için Facebook hesabı ve bir VPN yeterli. Çünkü Türkiye'ye daha açık değil.
Önerdiğim VPN: Windscribe:
https://windscribe.com/download/
Amerika seçebilirsiniz.
Facebook hesabınızla aşağıdaki...