Genel bakış Geçmiş
KoboldCpp, GGUF formatındaki büyük dil modellerini bilgisayar üzerinde yerel olarak çalıştırmak için geliştirilen bir yapay zekâ çalışma ortamıdır. Tek bir çalıştırılabilir dosya üzerinden kullanılabilir ve model yükleme, donanım hızlandırma ve çalışma ayarları grafik arayüzden yapılandırılabilir.

Uygulama; NVIDIA GPU'larda CUDA, AMD ve diğer ekran kartlarında Vulkan gibi hızlandırma seçeneklerinden yararlanabilir. Yerel web arayüzü üzerinden modellerle sohbet edilebilir ve OpenAI uyumlu API uç noktaları sayesinde farklı yapay zekâ istemcileriyle entegrasyon kurulabilir.

KoboldCpp ayrıca görüntü üretimi, araç çağırma ve farklı model türleri için destek sunar. Yerel AI modellerini bulut servislerine ihtiyaç duymadan kendi donanımında çalıştırmak isteyen kullanıcılar için kapsamlı bir çözüm oluşturur.
Ekleyen
Emir
İndirme
9
Görüntüleme
23
İlk yayınlanma tarihi
Son güncelleme

Değerlendirmeler

0,00 yıldız 0 değerlendirme
Daha fazla bilgi Teknik destek

Emir kullanıcısından daha fazla yazılım

  • Goose
    Goose
    Kodlama, araştırma ve otomasyon görevlerini yürüten genişletilebilir yerel yapay zekâ ajanı.
  • Crush
    Crush
    Terminal üzerinden çalışan açık kaynaklı, çok sağlayıcılı yapay zekâ kodlama asistanı.
  • iDrive
    iDrive
    En iyi çoklu bilgisayar ve depolama uygulaması.
  • act
    act
    GitHub Actions iş akışlarını yerel bilgisayarda çalıştıran açık kaynaklı terminal aracı.
  • Task
    Task
    YAML dosyalarıyla proje komutlarını ve geliştirme görevlerini otomatikleştiren açık kaynaklı araç.

Bu yazılımı paylaş