Kimi K3 local LLM modeli indirilebilir olarak eklenmiş. Ve devasa büyük normal kullanıcı için yerelde çalıştırması çok zor olacak. 2 bit hali 1 TB yer kaplıyor. Kısacası haber vermek istedim.
Tam hızda çalışması için sanırım 4 TB ve üzeridir.
Bu durum da gösteriyor ki gitgide RAM ihtiyacı artıyor. Artık RAM çipleri yok satacağından dolayı devasa artışlar görebiliriz. Bence şu anki kriz yanında sıfır kalacak. Belki de bilgisayar almak lüks olacak.
Tam hızda çalışması için sanırım 4 TB ve üzeridir.
Bu durum da gösteriyor ki gitgide RAM ihtiyacı artıyor. Artık RAM çipleri yok satacağından dolayı devasa artışlar görebiliriz. Bence şu anki kriz yanında sıfır kalacak. Belki de bilgisayar almak lüks olacak.
Vallahi hocam 4 tane ondan alabilen varsa, ki satıştan kaldırıldı krizden dolayı. Helali hoşu olsun kullansın hatta AI yeri o parayı bana versin ben onun işlerini yaparım
Vallahi hocam 4 tane ondan alabilen varsa, ki satıştan kaldırıldı krizden dolayı. Helali hoşu olsun kullansın hatta AI yeri o parayı bana versin ben onun işlerini yaparım
Aynen öyle, ancak bence herkeste olmalı. Yerel LLM için sistem sağlam olmalı. Çok küçük modelleri değil de en az 24 GB sığabilir sistem yapmalı herkes; çünkü abonelikli sistemler anormal fiyatlara çıkabilir veya kapanabilir riskten dolayı. Kimi modeli için imkansız, ancak 35B, 70B parametreli modelleri herkes kullanabilmeli.