KoboldCpp, GGUF formatındaki büyük dil modellerini bilgisayar üzerinde yerel olarak çalıştırmak için geliştirilen bir yapay zekâ çalışma ortamıdır. Tek bir çalıştırılabilir dosya üzerinden kullanılabilir ve model yükleme, donanım hızlandırma ve çalışma ayarları grafik arayüzden yapılandırılabilir.

Uygulama; NVIDIA GPU'larda CUDA, AMD ve diğer ekran kartlarında Vulkan gibi hızlandırma seçeneklerinden yararlanabilir. Yerel web arayüzü üzerinden modellerle sohbet edilebilir ve OpenAI uyumlu API uç noktaları sayesinde farklı yapay zekâ istemcileriyle entegrasyon kurulabilir.

KoboldCpp ayrıca görüntü üretimi, araç çağırma ve farklı model türleri için destek sunar. Yerel AI modellerini bulut servislerine ihtiyaç duymadan kendi donanımında çalıştırmak isteyen kullanıcılar için kapsamlı bir çözüm oluşturur.
Ekleyen
Emir
İndirme
39
Görüntüleme
74
İlk yayınlanma tarihi
Son güncelleme

Değerlendirmeler

0,00 yıldız 0 değerlendirme

Emir kullanıcısından daha fazla yazılım

  • Halloy
    Halloy
    IRC sunucularına bağlanmayı, sohbet kanallarını ve mesajları yönetmeyi sağlayan modern istemci.
  • CherryTree
    CherryTree
    Notları hiyerarşik olarak düzenlemeyi, kod ve görsellerle zenginleştirmeyi sağlayan not uygulaması.
  • MysticThumbs
    MysticThumbs
    Küçük resimleri özelleştirerek kullanabileceğiniz bir yazılım
  • ppInk
    ppInk
    Ekran üzerinde serbest çizim, işaretleme, ok ve açıklama eklemeyi sağlayan Windows uygulaması.
  • ElectronMail
    ElectronMail
    Proton Mail hesaplarını masaüstünden yönetmek için geliştirilen açık kaynaklı e-posta istemcisi.

Son güncellemeler

  1. 1.124.2

    Yeni Özellikler KoboldCpp'ye audio.cpp tarafından desteklenen popüler modellerin bir bölümü...
  2. 1.124.1

    Yeni Özellikler KoboldCpp'ye audio.cpp projesindeki popüler modellerin küçük bir bölümü...
  3. 1.124

    Yeni Özellikler KoboldCpp'ye audio.cpp projesindeki popüler modellerin bir bölümü entegre...