Konu Başlıkları Gizle
DENEME 1
Burada, yerel donanım ile çalıştırılan AI modellerinin parametre testlerini yapmaktayız. Sonuçları burada paylaşacağım ve en iyi nasıl çalıştığını zaman içinde görmüş olacağız.
Tüm yazışmalar Redmi Note 12 4G'nin CPU'su tarafından internetsiz bir şekilde elde edilmiştir. Yani konuşan dil modeli Redmi Note 12 4G'nin donanımı üzerinden konuşmaktadır.
GPU yanıt veremediğinden dolayı CPU kullanıldı.
Kullanılan Gemma 3, 1 milyar parametrelik modeldir.
İlk sohbette Temperature değeri 2.00, ikincisinde ise 0.1 olarak ayarlanmıştır.
Model, Google AI Edge Gallery üzerinden indirilmiştir.
Snapdragon 685, (Adreno 610)
Konuşma sonlandırıldı.
Konuşma sonlandırıldı.
Burada, yerel donanım ile çalıştırılan AI modellerinin parametre testlerini yapmaktayız. Sonuçları burada paylaşacağım ve en iyi nasıl çalıştığını zaman içinde görmüş olacağız.
Tüm yazışmalar Redmi Note 12 4G'nin CPU'su tarafından internetsiz bir şekilde elde edilmiştir. Yani konuşan dil modeli Redmi Note 12 4G'nin donanımı üzerinden konuşmaktadır.
GPU yanıt veremediğinden dolayı CPU kullanıldı.
Kullanılan Gemma 3, 1 milyar parametrelik modeldir.
İlk sohbette Temperature değeri 2.00, ikincisinde ise 0.1 olarak ayarlanmıştır.
Model, Google AI Edge Gallery üzerinden indirilmiştir.
Snapdragon 685, (Adreno 610)
Konuşma Denemesi 1
Konuşma sonlandırıldı.
Konuşma Denemesi 2
Konuşma sonlandırıldı.
SONUÇ
- Temperature değeri ne kaday yükselirse yaratıcılık, espri, kafadan kelime üretme kapasitesi artıyor. Güçsüz çiplerde ise halisünasyonlara sebep olmakta.
- Gemma 3 modeli, Adreno'nun 610 modelini görmemekte.
- Token arttırılırsa cevap süresi artacak, ancak mantıksallık da artacak. Sonraki testlerde göreceğiz.
Son düzenleme: