Bütçe
13.000-14.000 TL
Local LLM'de de fena değilmiş, şimdi baktım ROCm devreye giriyormuş. İlginç, 6700 XT'de olur o zaman; ancak kurulum yapmak gerekiyormuş.

Step 1: Download KoboldCpp-ROCm​

  1. Go to: Releases · YellowRoseCx/koboldcpp-rocm
  2. Download the latest koboldcpp_rocm.exe
  3. Create folder: C:\Users[YourUsername]\llamafile_test\koboldcpp-rocm\
  4. Place the executable inside the koboldcpp-rocm folder

Hiç AMD kartında denemediğim için bir şey diyemem. Ancak denenebilir; hatta 2. slota 580 de durur, belki paylaşımlı çalıştırılabilir ama VRAM hızı 580'inki kadar indirgenir. Gene de 20 GB'lık alan oluşabilir. Söylediklerimin hepsi deneysel, kesin bir şey diyemem.
 
Local LLM'de de fena değilmiş, şimdi baktım ROCm devreye giriyormuş. İlginç, 6700 XT'de olur o zaman; ancak kurulum yapmak gerekiyormuş.

Step 1: Download KoboldCpp-ROCm​

  1. GO to: Releases · YellowRoseCx/koboldcpp-rocm
  2. Download the latest koboldcpp_rocm.exe
  3. Create folder: C:\Users[YourUsername]\llamafile_test\koboldcpp-rocm\
  4. Place the executable Inside the koboldcpp-rocm folder

Hiç AMD kartında denemediğim için bir şey diyemem. Ancak denenebilir; hatta 2. slota 580 de durur, belki paylaşımlı çalıştırılabilir ama VRAM hızı 580'inki kadar indirgenir. Gene de 20 GB'lık alan oluşabilir. Söylediklerimin hepsi deneysel, kesin bir şey diyemem.

580'i 2. kasaya takacağım.