Ollama, yapay zekâ modellerini bulut hizmetine bağlanmadan kendi bilgisayarında kullanmak isteyenlere pratik bir seçenek sunuyor. DeepSeek, Qwen, Gemma ve Llama gibi modelleri indirip sohbet etmek, kod yazarken yardım almak ve farklı metin görevlerini yürütmek mümkün. Yerel modelleri kullanmak için abonelik gerekmiyor.
Windows, macOS ve Linux’ta çalışan Ollama’da modeller indirildikten sonra internet bağlantısı olmadan kullanılabiliyor. Bu kullanımda yazılan istemler ve alınan yanıtlar buluta gönderilmiyor. Ollama’nın ayrıca bulut üzerinden model çalıştırma seçeneği de var; dolayısıyla verilerin bilgisayarda kalmasını isteyenlerin yerel modeli seçmesi gerekiyor.
Deneyim, seçilen modele ve bilgisayarın donanımına göre değişiyor. Özellikle büyük modeller güçlü bir GPU bulunmayan sistemlerde yavaş çalışabiliyor. Ollama, modellerle uygulama üzerinden sohbet etmenin yanı sıra komut satırından çalışmaya da imkân tanıyor.
Kaynak: www.techspot.com