Sadece çince değil fransızca vs. de çalışmayı düşünüyorum.
Yerel ajanınıza derken neyi kastettiniz?
Yerel ajan derken bilgisayarınızda çalışan LLM (Büyük Dil Modeli) gibi yapay zekâ araçlarından kast ettim. Bilgisayarınız yeterince iyi mi? Ekran kartınız iyiyse bence hiç vakit kaybetmenize gerek yok.
Ollama, LM Studio gibi yerel inteference araçlarını araştırabilirsiniz.
Ekran kartım RTX 2060. Böyle şeylerden anlamam, GPT Plus alıp geçmeli miyim? Yerel bir yapay zeka aracı kurma fikri de cazip geldi; dil için değil de başka şeyler için kullanabilirim aslında. Nasıl öğrenebilirim?Yerel ajan derken bilgisayarınızda çalışan LLM (Büyük Dil Modeli) gibi yapay zekâ araçlarından kast ettim. Bilgisayarınız yeterince iyi mi? Ekran kartınız iyiyse bence hiç vakit kaybetmenize gerek yok.
Söylemeniz iyi oldu, kartınız bayağı sınırda kalıyor birçok büyük model için. Bu sebeple aboneliğe kaymanız iyi olmuş kısa vadeli olarak, ancak uzun vadede RTX 5060 Ti 16GB gibi bir kart almak rahatlatır bütçeyi. Kartı satmayın şimdilik, bir ihtimalle RTX 5060 Ti 16GB gibi bir kart alırken RTX 2060'ı yardımcı kart veya tampon VRAM olarak kullanırsınız. Toplamda 22GB VRAM'iniz olmuş olur. Öğrenmek için yani biraz matematik, biraz modeli tanıma veya kaba tabirle promt mühendisliği gerekiyor. Bir ara bununla ilgili rehber de açacağım zaten zamanı gelince. Kartınızda 4 bit (Q4*) kuantizasyonla küçük modeller çalıştırılabilir. Bir de Alex Ziskind gibi içerik üreticilerini sıkıca takip etmenizi öneriyorum.
