Selam arkadaşlar, bugün sizlere Android cihazlarınızda stabil ve hızlı bir şekilde LLM (Büyük dil modelleri) çalıştırabileceğinizi anlatacağım.

Termux'u ve Ollama'yı kurun​

Arkadaşlar öncelikle Termux'u resmi F-Droid deposundan indirmemiz lazım.

Termux'u indirin​

Depoları güncelleyin​

Kod:
pkg update && pkg upgrade

Ollama'yı kurun​

Kod:
pkg install ollama

Ollama kullanımı ve model indirme​

Eğer bu işlemler bittiyse devam edelim.

Ollama'yı başlatma​

Kod:
ollama serve

Bu kodu girdikten sonra menüden yeni sekme açın.

Model indirme​

Arkadaşlar örnek olarak bir model indirme kodu vereyim:
Kod:
ollama run llama3.2

Bu kod Meta tarafından geliştirilen llama 3.2 sürümünün 3B parametreli modelini telefonunuza indirir. Aynı kodu girerek yine başlatabilirsiniz.

Ollama model listesi:

Önerdiğim modeller​

  • Gemma 3 yeni çıktı! 1B ve 4B modeli Android cihazlar için uygundur.
  • Deepseek-R1 1.5B uygundur.
  • Gemma 2 2B uygundur.
  • Qwen 2.5 0.5B ve 3B uygundur.
 
Termux, Play Store'da da var. Termux'u F–Droid yerine Play Store üzerinden indirip aynı işlemleri uygulasak yine aynı sonuca ulaşır mıyız?