Yeni Özellikler​

  • bench: LM Studio'da yüklü modeller keşfediliyor ve benchmark'a tabi tutulabiliyor.
  • cli: Arka uçla uyumsuz modeller istek üzerine gösteriliyor.
  • hardware: NVIDIA GPU'ların PCIe bağlantısı algılanıp gösteriliyor.
  • scraper: Yayın tarihi olmayan katalog girdileri için release_date dolduruluyor.
  • web: Dashboard, tahmin güvenilirliği, eşzamanlılık, depolama ve TUI filtreleriyle güncellendi.

Hata Düzeltmeleri​

  • bench: OLLAMA_HOST, Ollama sağlayıcısının okuduğu gibi okunuyor.
  • build: Windows ikili dosyasına 8 MB ana thread yığını verildi.
  • claim: Tanınmayan --quant etiketleri reddediliyor.
  • claim: MoE bant genişliği tabanı aktif parametrelerden boyutlandırılıyor.
  • cli: Boyutlandırma bayrakları alt komuttan sonra da kabul ediliyor.
  • cli: stdout kapalı bir pipe olduğunda sessizce çıkılıyor.
  • cli: Çok sözcüklü aramada her sözcükle eşleşiliyor.
  • cli: Ayrıştırılamayan --memory ve --ram değerleri reddediliyor.
  • cli: plan, concurrency ve claim komutlarından yapılandırılmış JSON hataları döndürülüyor.
  • diff: Adı verilen modeller uyum durumlarından bağımsız olarak karşılaştırılıyor.
  • fit: Önceden nicemlenmiş FP4 depoları, katalog nicemlemesi yerine GPU'nun çekirdek desteğine göre denetleniyor.
  • fit: MoE offload yolunun seçtiği nicemleme raporlanıyor.
  • fit: GPU'ya yüklenen MoE modelleri, derecelendirildikleri nicemlemede boyutlandırılıyor.
  • fit: Önceden nicemlenmiş modeller için MoE offload kendi nicemlemelerinde boyutlandırılıyor.
  • fit: MoE offload altında kullanılabilir bağlam, aktif uzmanlardan boyutlandırılıyor.
  • fit: Kullanılabilir bağlam, Marginal tavanı içinde boyutlandırılıyor.
  • fit: mlx-community depoları yalnızca Apple'a özel olarak ele alınıyor.
  • hardware: --memory, algılanan boş VRAM değerini geçersiz kıldığında algılanan değer bırakılıyor.
  • hardware: PowerShell sıfırdan farklı kodla çıktığında kayıt defterindeki VRAM değeri korunuyor.
  • hardware: lspci denetleyici adlarına sahip eski Intel iGPU'lar atlanıyor.
  • mcp: plan_hardware hataları araç hataları olarak raporlanıyor.
  • models: F32, 4 bit nicemleme yerine F16 gibi puanlanıyor.
  • models: MLA KV önbelleği sıkıştırılmış latent'ten boyutlandırılıyor.
  • models: Temizleme (sanitization) işleminin 260M altı ve ondalık boyutlu modelleri gizlemesi önlendi.
  • plan: F32 hızı parametre başına 4 bayttan tahmin ediliyor.
  • plan: Yollar ve yükseltme farkları fit'in eşikleriyle derecelendiriliyor.
  • providers: Tek llama ikili dosyası olarak kurulan llama.cpp algılanıyor.
  • scraper: Hız sınırına takılan bir temel arama, parametre önbelleğinin dışında tutuluyor.
  • scraper: llama3 rope scaling için belirtilen bağlam penceresi korunuyor.
  • serve: --unix-socket üzerinden yalnızca localhost rotaları kabul ediliyor.
  • serve: Ayrıştırılamayan sorgu dizeleri ve gövdeler JSON hatalarıyla yanıtlanıyor.
  • serve: Yalnızca --unix-socket yolundaki eski soket değiştiriliyor.
  • tui: Çıkarım benchmark seçimi görünür tutuluyor.
  • tui: CPR'ye bağlı Terminal::clear() yerine aynı boyutlu tam ekran resize() kullanılıyor.
  • update: MoE modelleri config.json uzman sayılarından algılanıyor.

Diğer Değişiklikler​

  • Windows için WinGet kurulum talimatları eklendi.
  • Haftalık benchmark önbellek yenilemesi ve haftalık model verisi yenilemesi yapıldı.
  • Topluluk benchmark sonuçları eklendi: nvidia-geforce-rtx-5060, apple-m1, intel-3rd-gen-core-processor-graphics-controller-integrated, intel-r-iris-r-xe-graphics, nvidia-geforce-rtx-5060-ti, radeon-rx-7900-xt-7900-xtx, radeon-680m, amd-radeon-rx-7900-xt, nvidia-rtx-pro-4000-blackwell-sff-edition, apple-m5-pro, amd-gpu ve nvidia-geforce-rtx-3080.
  • TUI güven ön doldurması eklendi.
  • plan: MoE-offload hız testinde DDR bant genişliği sabitlendi.
  • Bağımlılıklar güncellendi: signpath/github-action-submit-signing-request 3, cargo-minor-patch grupları, jsonschema 0.58.1, github-actions-minor-patch grubu ve dirs 7.0.0.

Yeni Özellikler​

  • CLI'ye --memory-percent ve --ram-percent parametreleriyle bellek ve RAM yüzdelerini geçersiz kılma seçenekleri eklendi.
  • TUI'deki mevcut kontrollere fare desteği eklendi.

Hata Düzeltmeleri​

  • API'de include_too_tight=true kullanıldığında too_tight satırlarının döndürülmesi sağlandı.
  • Arama sırasında --json parametresine uyulması sağlandı.
  • Öneri filtrelerinde bilinmeyen değerlerin reddedilmesi sağlandı.
  • Yoğun CpuOffload senaryolarında TPS hesaplamasında ölçülen DDR bant genişliğinin ve GPU/RAM dağılımının kullanılması sağlandı.
  • Sıralamanın farklı çalıştırmalarda deterministik olması sağlandı.
  • Marginal sınırı içindeki en iyi quant değerinin seçilmesi sağlandı.
  • Seri adı bulunmayan Intel bağdaştırıcılarının tümleşik grafik birimi olarak değerlendirilmesi sağlandı.
  • Çıkarılan parametreler mantıksız olduğunda model boyutunun adında belirtilen değerin tercih edilmesi sağlandı.

Performans İyileştirmeleri​

  • lspci komutunun süreç başına yalnızca bir kez çalıştırılması sağlandı.
  • TUI'deki model arama filtreleri optimize edilerek %40'ın üzerinde hız artışı sağlandı.

Diğer Değişiklikler​

  • README dosyasına tekrarlanabilir bir VHS kaydından oluşturulan yeni bir demo GIF'i eklendi.
  • NVIDIA GeForce GTX 1080 Ti için topluluk performans sonuçları eklendi.
  • Model verileri haftalık olarak yenilendi.
  • jsonschema ve tabled bağımlılıkları güncellendi.
  • Intel Raptor Lake-P Iris Xe tümleşik grafik birimi için topluluk sonuçları eklendi.
  • Intel üçüncü nesil Core işlemci tümleşik grafik birimi için topluluk sonuçları eklendi.
  • NVIDIA GeForce RTX 4060 Laptop GPU için topluluk performans sonuçları eklendi.
  • AMD Radeon RX 9070 XT için topluluk performans sonuçları eklendi.
  • RTX 5070 Laptop GPU ölçümleri gözden geçirildi.

Yeni Özellikler​

  • Eşzamanlı oturum kapasitesi tahmin aracı eklendi.
  • Model kataloğu GLM-5.3, Qwen3.8-Flash-Next, DeepSeek-V4.1, Kimi-K3 ve diğer modellerle güncellendi.
  • Yerel ternary (1,58 bit) modellerin tanınması sağlandı.
  • Model kütüphaneleri için disk planlama özelliği eklendi.

Hata Düzeltmeleri​

  • İstenen model mevcut olmadığında benchmark sırasında oluşan hata düzeltildi.
  • Hatalı Ollama zamanlamalarından kaynaklanan gerçekçi olmayan tok/s değerlerinin dikkate alınmaması sağlandı.
  • OpenAI ve Ollama yollarında gövde okunduktan sonra wall timer'ın durdurulması sağlandı.
  • Yerel MXFP4 modellerinin boyutlandırma ve fiyatlandırmasının MXFP4 üzerinden yapılması sağlandı.
  • A serisi Apple Silicon birleşik belleğinin tanınması sağlandı.
  • GPU yollarının toplam kapasite yerine boş VRAM'e göre değerlendirilmesi sağlandı.
  • Hugging Face modellerinin HF_HUB_CACHE ve XDG_CACHE_HOME içinde bulunması sağlandı.
  • Gemma 4 instruct modellerinin Ollama etiketleriyle doğru eşleştirilmesi sağlandı.
  • gemma4:12b ve diğer model kataloğu eklemelerinin Ollama etiketleriyle doğru eşleştirilmesi sağlandı.
  • Haftalık çalışmanın tamamlanabilmesi için GGUF kaynak taramasına sınır getirildi.
  • Liste biçimindeki expert sayılarının işlenmesi ve başarısız bir tahminin taramayı durdurmaması sağlandı.
  • Hibrit SSM modellerinin tahmin aracıyla boyutlandırılmaması ve bildirilen boyuta göre sınırlandırılması sağlandı.
  • Hugging Face isteklerinin rate limit başlıklarına göre düzenlenmesi sağlandı.
  • Korunan katalog girdilerinin yeniden doğrulanmasıyla paketlenmiş AWQ/GPTQ/INT4 modellerindeki parametre sayıları düzeltildi.
  • Context window değerinin config.json dosyasından okunması sağlandı.
  • Hugging Face liste sorgularındaki expand[] alanında eşlenen tüm alanların istenmesi sağlandı.

Diğer Değişiklikler​

  • Intel Raptor Lake-P Iris Xe Graphics Integrated için topluluk benchmark sonuçları eklendi.
  • Cargo minor-patch bağımlılık grubunda iki güncelleme yapıldı.
  • Apple M2 Pro için topluluk benchmark sonuçları eklendi.
  • NVIDIA GeForce GTX 1650 için topluluk benchmark sonuçları eklendi.
  • NVIDIA GeForce RTX 4060 Ti için topluluk benchmark sonuçları eklendi.
  • Apple M4 için topluluk benchmark sonuçları eklendi.
  • NVIDIA GeForce RTX 2080 için topluluk benchmark sonuçları eklendi.
  • softprops/action-gh-release 3.0.2'den 3.0.3'e güncellendi.
  • Apple M3 Pro için topluluk benchmark sonuçları eklendi.
  • Radeon AI PRO R9700 için topluluk benchmark sonuçları eklendi.
  • Windows kod imzalama durumuna ilişkin belgeler netleştirildi.
  • Çip sınıfı başına tahmin doğruluğu kontrolü eklendi.
  • Apple M5 Pro için topluluk benchmark sonuçları eklendi.
  • NVIDIA GeForce RTX 4090 için topluluk benchmark sonuçları eklendi.
  • Haftalık model verileri güncellendi.

Hata Düzeltmeleri​

  • Bench'te Ferrum ve vLLM'nin endpoint sahibine göre tanımlanması sağlandı.
  • Bench'te gecikme biçimlendirmesi standartlaştırıldı.
  • TUI'da yalnızca görünür model satırlarının render edilmesi sağlandı.

Değişiklikler​

  • intel-raptor-lake-p-iris-xe-graphics-integrated için topluluk benchmark sonuçları eklendi.
  • nvidia-geforce-rtx-5070-ti için topluluk benchmark sonuçları eklendi.
  • nvidia-geforce-rtx-3080 için topluluk benchmark sonuçları eklendi.
  • nvidia-gb10 için topluluk benchmark sonuçları eklendi.
  • intel-coffeelake-s-gt2-uhd-graphics-630-integrated için topluluk benchmark sonuçları eklendi.
  • jsonschema bağımlılığı 0.49.9 sürümünden 0.51.0 sürümüne yükseltildi.
  • Ana sürüm 1.1.15 olarak yayımlandı.

Hata Düzeltmeleri​

  • Docker'da her platformun QEMU altında çapraz derlenmesi yerine kendi platformunda yerel olarak derlenmesi sağlandı.

Hata Düzeltmeleri​

  • Docker yapılandırmasında kaldırılan kök data/ dizininin COPY işlemi kaldırıldı.

İyileştirmeler​

  • softprops/action-gh-release bağımlılığı 3.0.0 sürümünden 3.0.1 sürümüne güncellendi.
  • actions/checkout bağımlılığı 6.0.2 sürümünden 7.0.0 sürümüne güncellendi.

Yeni Özellikler​

  • Kalibrasyon sistemi için haftalık benchmark yenileme ve ölçülen verilere karşı tahmin doğruluğu denetimi eklendi.
  • Programatik kullanım senaryoları için JSON çıktı desteği eklendi.
  • Genel --json parametresi aracılığıyla makine tarafından okunabilir JSON çıktı desteği eklendi.

Hata Düzeltmeleri​

  • Tahmin doğruluğu denetimlerinden speculative decoding ve MTP çalıştırmaları hariç tutuldu.

Yeni Özellikler​

  • Kubernetes DRA ResourceClaims oluşturan claim alt komutu eklendi.
  • Sistem JSON çıktısında GPU bellek bant genişliği bilgisi sunuldu ve Strix Halo girdileri eklendi.

Hata Düzeltmeleri​

  • Arama sorgusu değiştiğinde liste imlecinin en üste sıfırlanmaması sorunu düzeltildi.

Hata Düzeltmeleri​

  • Docker builder, çalışma zamanı glibc sürümüyle eşleşecek şekilde Bookworm sürümüne sabitlendi.

İyileştirmeler​

  • HF model kataloğu ve localmaxxing benchmark önbelleği yenilendi.