Utku92
Bilgin
- Katılım
- 8 Şubat 2024
- Mesajlar
- 4.202
- Makaleler
- 1
- Çözümler
- 8
- Beğeniler
- 2.454
Öyle tabii, ben de DDR5 geçemesem de memnunum.Tüketici için hala pahalı.Kitlelere ulaşması açısından daha doğrusu.
Öyle tabii, ben de DDR5 geçemesem de memnunum.Tüketici için hala pahalı.Kitlelere ulaşması açısından daha doğrusu.
DDR5 demek 2x bant genişliği demek bayağı token hız artış demek ama böbreğimi de seviyorum doğrusu.
Bunu yapabilmem bile mucize gibi; kocaman model çalışıyor.DDR5 demek 2x bant genişliği demek bayağı token hız artış demek ama böbreğimi de seviyorum doğrusu.![]()
Böbrekten daha pahalı oldu ramler uyanın ahali.DDR5 demek 2x bant genişliği demek bayağı token hız artış demek ama böbreğimi de seviyorum doğrusu.![]()
Qwen 3.8 çok yağlıyorlar.Konuya iki taraftan bakmak lazım. Local AI'ın gelecek olduğunu söyleyen, herkesin bir gün AI sahibi olacağı, bu donanımları çalıştıracağını ve AI'ın şirketlerin kontrolünden çıkıp kişilere ineceğini söyleyen bir güruh var. Sanırsam "yalan söylüyor" dedikleriniz bunlar. Ve evet bunlar yalan söylüyorlar. Çok yakın bir süreçte işinizi halledecek AI'ler elbette elde edersiniz lokalde ama SOTA yani en iyinin en iyisi modelleri lokalde çalıştırmanız için daha çoook uzun yıllar geçmesi gerekecek.
Şu anda zaten hani 512 GB'lık Mac almaya çalışırsanız 20 bin dolar gibi bir para ödemeniz gerekecek, 2 tane alsanız 2 araba parası edecek bir AI erişilebilir mi olacak sizce? Hani her ne kadar 400-500 GB/s veri hızı olsa da DDR bellek olduğu için token üretme hızı yaklaşık 5-10 civarlarında kalıyor. Aylık 20 dolara aldığınız Claude'de saniyede 100 token üreten Sonnet 5.5 var mesela. Hani mesela en pahalı modelden bakalım, Claude Fable 5.2; 8 dolar input, 40 dolar output ücreti var 1 milyon token başına. 40 bin dolara yaklaşık 3 milyar token üretebiliyorsunuz. Günde 1 milyon token harcasanız 10 sene boyunca bu modeli kullanabilirsiniz. Cihazın sadece kendi parasını elektrik hariç amorti etmesi için 9.5 yıl aralıksız token üretmesi gerekir, günde 8 saat aralıksız çalışsa 30 sene olacak demek.
Hani bir de kullandığınız donanım sabit, Antrophic API'den çekerken hem yeni GPU'lar alacak hem yeni modeller çıkaracak. Siz de elinizde 40 bin dolarlık hurda yığınınızla 2. senenizde hem model olarak hem hız olarak geride kalacaksınız.
Hani mesela @Utku92'nun da bulunduğu gibi durumlarda bu ucuzluk pek tercih edilebilir bir durum değil. Bu kişiler yapay zekayı kullanırken hassas verilerle çalışıyorlar ve bu kişilerin API providerler ile çalışma lüksü yok. O verinin o bilgisayardan o kurumdan çıkmaması şart. Bu durumda kurunca o 40 bin dolar anlamsız bir hobi harcaması değil, para kazanmayı sağlayan önemli bir yatırım halini alıyor. Bu kişiler hobiden değil, gizlilik sebebiyle işlerinin aksamaması için yaptıkları bir harcama oluyor. Bu kişiler ve kurumlar için local AI bir hayal veya ütopya değil, harcanması gereken bir para.
Tabii burada bahsettiğim konu SOTA yani en iyi modeller kabiliyetindeki modelleri tüketici donanımlarında erişilebilir fiyatlarla çalıştırmak. Bu olmayacak, en azından çok kısa süre içerisinde olmayacak. Ama "işe yarayan" yapay zekalar ve tüketici GPU'larında çalışanları yavaş yavaş geliyorlar. Qwen 3.6, Qwen 3.8, Gemma 4 bunlar mesela SOTA performansı beklemediğiniz zamanda sizin birçok işinizi halledebiliyor, bu modeller iyileşecek ve gelişecekler. Basit işlerinizi bu modellere yaptırabileceksiniz. Hatta Qwen 3.8 27B, şu anda birçok işinizi emanet edebileceğiniz kadar iyi bir model, 2-3 bit quantlarda bile feci işler ortaya koyuyor(kapladığı alan ve istediği donanıma kıyasla).
Ama 4 tane Mac'ı üstüste dizip Claude'm oldu diyenler kesinlikle yalan söylüyor, hayal satıyor. İşi için kullanacak olanlar yüksek yatırımlarla da olsa mantıklı bir yatırım haline geliyor. Tüketici donanımında çalışan modeller bir Claude olamasalar da yüzüne bakılmayacak modeller kesinlikle değiller.
Sana zahmet adres verir misin?
Böbrek alışımız kapandı hocam. Beykoz köprü altındayım gel.Sana zahmet adres verir misin?
Benim böbreği satayım da belki piyasa ileride düzelirse bir böbrek alır geri koyarım(!).
Amaç, şimdilik yapay zekaların işimi görmesi![]()
Başkasına sözüm var.
Reklam değil, tanımam etmem.Konuya iki taraftan bakmak lazım. Local AI'ın gelecek olduğunu söyleyen, herkesin bir gün AI sahibi olacağı, bu donanımları çalıştıracağını ve AI'ın şirketlerin kontrolünden çıkıp kişilere ineceğini söyleyen bir güruh var. Sanırsam "yalan söylüyor" dedikleriniz bunlar. Ve evet bunlar yalan söylüyorlar. Çok yakın bir süreçte işinizi halledecek AI'ler elbette elde edersiniz lokalde ama SOTA yani en iyinin en iyisi modelleri lokalde çalıştırmanız için daha çoook uzun yıllar geçmesi gerekecek.
Şu anda zaten hani 512 GB'lık Mac almaya çalışırsanız 20 bin dolar gibi bir para ödemeniz gerekecek, 2 tane alsanız 2 araba parası edecek bir AI erişilebilir mi olacak sizce? Hani her ne kadar 400-500 GB/s veri hızı olsa da DDR bellek olduğu için token üretme hızı yaklaşık 5-10 civarlarında kalıyor. Aylık 20 dolara aldığınız Claude'de saniyede 100 token üreten Sonnet 5.5 var mesela. Hani mesela en pahalı modelden bakalım, Claude Fable 5.2; 8 dolar input, 40 dolar output ücreti var 1 milyon token başına. 40 bin dolara yaklaşık 3 milyar token üretebiliyorsunuz. Günde 1 milyon token harcasanız 10 sene boyunca bu modeli kullanabilirsiniz. Cihazın sadece kendi parasını elektrik hariç amorti etmesi için 9.5 yıl aralıksız token üretmesi gerekir, günde 8 saat aralıksız çalışsa 30 sene olacak demek.
Hani bir de kullandığınız donanım sabit, Antrophic API'den çekerken hem yeni GPU'lar alacak hem yeni modeller çıkaracak. Siz de elinizde 40 bin dolarlık hurda yığınınızla 2. senenizde hem model olarak hem hız olarak geride kalacaksınız.
Hani mesela @Utku92'nun da bulunduğu gibi durumlarda bu ucuzluk pek tercih edilebilir bir durum değil. Bu kişiler yapay zekayı kullanırken hassas verilerle çalışıyorlar ve bu kişilerin API providerler ile çalışma lüksü yok. O verinin o bilgisayardan o kurumdan çıkmaması şart. Bu durumda kurunca o 40 bin dolar anlamsız bir hobi harcaması değil, para kazanmayı sağlayan önemli bir yatırım halini alıyor. Bu kişiler hobiden değil, gizlilik sebebiyle işlerinin aksamaması için yaptıkları bir harcama oluyor. Bu kişiler ve kurumlar için local AI bir hayal veya ütopya değil, harcanması gereken bir para.
Tabii burada bahsettiğim konu SOTA yani en iyi modeller kabiliyetindeki modelleri tüketici donanımlarında erişilebilir fiyatlarla çalıştırmak. Bu olmayacak, en azından çok kısa süre içerisinde olmayacak. Ama "işe yarayan" yapay zekalar ve tüketici GPU'larında çalışanları yavaş yavaş geliyorlar. Qwen 3.6, Qwen 3.8, Gemma 4 bunlar mesela SOTA performansı beklemediğiniz zamanda sizin birçok işinizi halledebiliyor, bu modeller iyileşecek ve gelişecekler. Basit işlerinizi bu modellere yaptırabileceksiniz. Hatta Qwen 3.8 27B, şu anda birçok işinizi emanet edebileceğiniz kadar iyi bir model, 2-3 bit quantlarda bile feci işler ortaya koyuyor(kapladığı alan ve istediği donanıma kıyasla).
Ama 4 tane Mac'ı üstüste dizip Claude'm oldu diyenler kesinlikle yalan söylüyor, hayal satıyor. İşi için kullanacak olanlar yüksek yatırımlarla da olsa mantıklı bir yatırım haline geliyor. Tüketici donanımında çalışan modeller bir Claude olamasalar da yüzüne bakılmayacak modeller kesinlikle değiller.
Kendi Claude Code Max API anahtarınız, $50 bakiye ile birlikte.
Modeller: Claude Max abonelik havuzundan Claude modelleri.
Modeller (adı tam olarak bu şekilde kullanın) ve bu $50 bakiyenin her modelde karşılığı:
• claude-haiku-5-5 — 312,5M giriş / 62,5M çıkış token
• claude-haiku-4-5 — 31,2M giriş / 6,2M çıkış token
• claude-haiku-4-5-20251001 — 31,2M giriş / 6,2M çıkış token
• claude-sonnet-5 — 15,6M giriş / 3,1M çıkış token
• claude-sonnet-5-5 — 15,6M giriş / 3,1M çıkış token
• claude-sonnet-4-6 — 10,4M giriş / 2,1M çıkış token
• claude-opus-4-5 — 7,8M giriş / 1,6M çıkış token
• claude-opus-4-5-20251101 — 6,2M giriş / 1,2M çıkış token
• claude-opus-4-7 — 6,2M giriş / 1,2M çıkış token
• claude-opus-4-8 — 6,2M giriş / 1,2M çıkış token
• claude-opus-5 — 6,2M giriş / 1,2M çıkış token
• claude-fable-5 — 3,1M giriş / 625K çıkış token
• claude-fable-5-1 — 3,1M giriş / 625K çıkış token
Bakiyenin karşılığı, kullandığınız modele göre değişir. Her çağrı, o modelin bu plandaki fiyatına göre bakiyeden düşer.
API Adresi:
Temel URL (base URL) Key'ini al, yapay zekayı hemen kullan adresidir; standart Anthropic API adresi değildir. SDK kullanıyorsanız temel URL'yi SDShop AI Studio — Key'ini al, yapay zekayı hemen kullan olarak değiştirin.
Claude Code'da kullanmak için şu komutu çalıştırın: export ANTHROPIC_BASE_URL=Key'ini al, yapay zekayı hemen kullan
Diğer uygulamalarda şu ayarı yapın: ANTHROPIC_BASE_URL=Key'ini al, yapay zekayı hemen kullan
OpenAI uyumlu API: Anahtar, temel URL bilgisiyle birlikte gelir. Cherry Studio, Claude Code / Codex (CC Switch ile) veya OpenAI uyumlu anahtar kabul eden herhangi bir uygulamada kullanabilirsiniz.
️ Anında Teslimat: Satın aldıktan hemen sonra API anahtarınızı alırsınız ve anahtar hemen çalışır.
Bakiyenizi Claude panelinizden kontrol edebilirsiniz.
Süre sınırı yok: Anahtar, bakiyesi bitene kadar çalışır.
Garanti: Anahtarınız çalışmazsa destek ekibi size yardımcı olur.
Ben de Caveman kullanıyorum valla çok işe yarıyor.Caveman bayağı işe yarıyor, en çok maliyet output tokenleri sırasında oluyor, AI'ın boş konuşmasını engelleyerek maliyetleri bayağı düşürüyor. Yükleyip/caveman ultraveya/caveman wenyan-ultra(Çince, karakter başına daha fazla veri tuttuğu için daha da çok kazanç sağlar) kullandığınız zaman bayağı düşürebilirsiniz. Ancak Google'ın verdiği Claude direkt çok az, caveman da sizi kurtarmaz.
APİ seçeneği hakkında da bilginiz var mıdır? Çünkü bayağı uygun ve avantajlı geldi bana . Nasıl yapıyorlar, ne kadar güvenli tabii ki bilemiyorum.Ben de Caveman kullanıyorum valla çok işe yarıyor.