koboldcpp

KoboldCpp, GGUF formatındaki büyük dil modellerini bilgisayar üzerinde yerel olarak çalıştırmak için geliştirilen bir yapay zekâ çalışma ortamıdır. Tek bir çalıştırılabilir dosya üzerinden kullanılabilir ve model yükleme, donanım hızlandırma ve çalışma ayarları grafik arayüzden...