Claude maliyetini düşürecek açık kaynaklı alternatifler nelerdir?

PoseidonWhisper · Bugün 18:32

Merhaba,

Claude ile bir sürü ajan çalıştırmak istiyorum ve piyasada birçok GitHub - JuliusBrussee/caveman:

why use many tokens when few tokens do the trick. Viral skill + proxy for coding agents that cuts 65% of tokens by talking like a caveman. gibi kütüphane var. Merak ettiğim konu da şöyledir:

Bu araçlar sayesinde gerçekten Claude ile cache ve chunk işlemleri yaparak ve bol bol MCP çözümleri bağlayarak aylık olarak nasıl verimli şekilde kullanabiliyoruz?
Antigravity tarafında birçok proje yaptım ve geliştirmeye devam ediyorum.
Claude daha iyi çalışıyor ve çok fazla token yakıyor ve hızlı yakıyor diyorlar.

Her ay Claude tarafına 1000 TL vermek hiç gerçekçi gelmiyor. Nasıl düşünmem lazım?

Claude tarafını ve kodlama gibi konuları, tasarım gibi konuların testlerini yapmak istiyorum. Hayatıma entegre etmek istiyorum. Sizler nasıl kullanıyorsunuz?

Teşekkürler.

Cruslan · Bugün 18:40

Caveman bayağı işe yarıyor, en çok maliyet output tokenleri sırasında oluyor, AI'ın boş konuşmasını engelleyerek maliyetleri bayağı düşürüyor. Yükleyip /caveman ultra veya /caveman wenyan-ultra (Çince, karakter başına daha fazla veri tuttuğu için daha da çok kazanç sağlar) kullandığınız zaman bayağı düşürebilirsiniz. Ancak Google'ın verdiği Claude direkt çok az, caveman da sizi kurtarmaz.

Akif · Bugün 18:52

Codex tam arası. Claude yetmiyor Antigravity çok hata yapıyor.

PoseidonWhisper · Bugün 18:53

Cruslan dedi:
Caveman bayağı işe yarıyor, en çok maliyet output tokenleri sırasında oluyor, AI'ın boş konuşmasını engelleyerek maliyetleri bayağı düşürüyor. Yükleyip /caveman ultra veya /caveman wenyan-ultra (Çince, karakter başına daha fazla veri tuttuğu için daha da çok kazanç sağlar) kullandığınız zaman bayağı düşürebilirsiniz. Ancak Google'ın verdiği Claude direkt çok az, caveman da sizi kurtarmaz.

Amacım ona mutlak kural vereyim.
O kuralların dışına çıkmasın. Bir sürü konuyu proje gibi kullanıyorum.
Ayrı ayrı sekme da açmıyorum. MCP'lerin sayısı da artacağı için bu sorun oluşturur mu?

Akif dedi:
Codex tam arası. Claude yetmiyor Antigravity çok hata yapıyor.

Codex Claude tarafından hangi anlamda arada kalıyor sizce? Detay verebilir misin? Şimdilerde Mql5 robot yazılımlarıyla ilgileniyorum. Strateji okuma ve geliştirme, indikatör yazma gibi vb. En çok da veri analizi ve kazıma konularıyla ilgileniyorum. Tabii ki md formatında da dataları en iyi şekilde nasıl çok minimal Python ile kombinli kullanıp, kütüphanalerle kombinli kullanıp az token yakarım düşüncesindeyim.

Cruslan · Bugün 18:57

PoseidonWhisper dedi:
Amacım ona mutlak kural vereyim.
O kuralların dışına çıkmasın. Bir sürü konuyu proje gibi kullanıyorum.
Ayrı ayrı sekme da açmıyorum. MCP'lerin sayısı da artacağı için bu sorun oluşturur mu?

Hepsi boş. Caveman haricinde özellikle yapmanız gereken bir şey yok. Prompt takibi tamamen modelin kabiliyetinde, model iyileştikçe kabiliyeti de artıyor genel olarak, şunu özelikle şöyle yap diye tembihlemek tam tersine yapay zekanın kabiliyetini azaltıyor.

MCP ve Skill'leri en başta okuması gerekeceğinden en başta 10-20bin token input bedeli harcanacaktır. Onlarca sohbet açmak yerine tek sohbette devam ettirmek bu maliyeti düşürecektir. Compact gibi komutları çok kullanmaya gerek yok, cachelenmiş veri fiyatları çok ucuz oluyor, en büyük fark outputta çıkıyor. Caveman outputu kısıyor.

Model ve caveman skill'i haricinde diğer şeyler tamamen laf salatası. Flash veya Argon'da /boost skillini kullanarak aklını bayağı iyileştirebilirsiniz Gemini'nin ama aşırı token yer, Flash'la falan kullanırsanız diye söyledim.

PoseidonWhisper · Bugün 19:10

Cruslan dedi:
Hepsi boş. Caveman haricinde özellikle yapmanız gereken bir şey yok. Prompt takibi tamamen modelin kabiliyetinde, model iyileştikçe kabiliyeti de artıyor genel olarak. MCP ve Skill'leri en başta okuması gerekeceğinden en başta 10-20bin token input bedeli harcanacaktır. Onlarca sohbet açmak yerine tek sohbette devam ettirmek bu maliyeti düşürecektir. Compact gibi komutları çok kullanmaya gerek yok, cachelenmiş veri fiyatları çok ucuz oluyor, en büyük fark outputta çıkıyor. Caveman outputu kısıyor.

Model ve caveman skill'i haricinde diğer şeyler tamamen laf salatası. Flash veya Carbon'da /boost skillini kullanarak aklını bayağı iyileştirebilirsiniz Gemini'nin ama aşırı token yer, Flash'la falan kullanırsanız diye söyledim.

Antigravity tarafını kullandığımda da sınırlar çabuk bitmesin diye hep aynı projenin içinde çalışıp kural verip o şekilde ilerlemeye çalıştım. Global, gemini ve day trading diye üç tane kurla dosyam var şu an. İş RTX PRO 6000 Blackwell noktasına kadar gidiyor. Artık canımı sıkmaya başladı bu durumlar. Geçenlerde "Can Deger LuNiZz" İnstagram'da bundan bahsetti. Obsidian halihazırda kurulu ve hermes ile düzenlemelerini de yapıyorum. Caveman dışında önerir misin? İkisi bir arada çalışsa nasıl olurdu? Hatta bir yandan database olarak Trados için de vermeyi düşünüyorum.

Cruslan · Bugün 19:21

PoseidonWhisper dedi:
Antigravity tarafını kullandığımda da sınırlar çabuk bitmesin diye hep aynı projenin içinde çalışıp kural verip o şekilde ilerlemeye çalıştım. Global, gemini ve day trading diye üç tane kurla dosyam var şu an. İş RTX PRO 6000 Blackwell noktasına kadar gidiyor. Artık canımı sıkmaya başladı bu durumlar. Geçenlerde "Can Deger LuNiZz" İnstagram'da bundan bahsetti. Obsidian halihazırda kurulu ve hermes ile düzenlemelerini de yapıyorum. Caveman dışında önerir misin? İkisi bir arada çalışsa nasıl olurdu? Hatta bir yandan database olarak Trados için de vermeyi düşünüyorum.

RTX PRO 6000 alsanız dahi local ai hiç ucuz değil. Hani Claude vs. seviyesindeki bir modeli local olarak çalıştıracağınız model için harcayacağınız parayla 15-20 sene falan Claude kullanabiliyorsunuz.

Caveman outputu düşüreceğinden token tüketimini azaltır, /boost'un yarattığı subagent'lere de caveman kullanmasını söylerseniz kullanacaktır. Boost model aklını çok arttırıyor ama dediğim gibi aşırı token yiyor, cavemanla olsa bile iş olarak "daha az" iş yaparsınız aynı tokenle. Flash modeliyle kullanacaksanız ancak /boost + caveman öneririm, yoksa sadece caveman. Claude kesinlikle öneririm ihtiyacınız varsa, kullanım limitleri çok yüksek onda.

Utku92 · Bugün 20:23

Ben dual 3090 + 128 GB DDR4 RAM ve 990 Pro NVMe ile birlikte büyük modellerde Strata kullanıyorum. Ista Lab'ın özel sıkıştırılmış modelleri ile DeepSeek v4.1 1017 ve Qwen 3.8 Next Flash kullanıyorum. Hem sansürlü hem sansürsüz olanları var. Bu sistemde PC'nin her şeyini kullanıyor, 2 tane ekran kartımı dolduruyor, sonra RAM'e geçiyor, en son SSD'ye yükleniyor. DeepSeek'te 17-20 token arası alıyorum, Qwen'de 55-60. Artık işin boyutu farklı hal almaya başladı, milyonlar vermeye gerek kalmayabilir. Bazı arkadaşlar geriden takip ediyor sanırım. Sonuçlara gelirsek, inanılmaz çalışıyor, istediğim her şeyi yapabiliyorum. Biri 250 GB, diğeri 81 GB ama harika çalışıyor. Bu arada ikisinde de 1M context ayarlı.

Örnek gösterim tableti rootlarken:

PoseidonWhisper · 33 dakika önce

Cruslan dedi:
local ai hiç ucuz değil.

Bu kısım enerji sarfiyatı sebebiyle mi yoksa içeride başka faktörler mi var?

Utku92 dedi:
Ben dual 3090 + 128 GB DDR4 RAM ve 990 Pro NVMe ile birlikte büyük modellerde Strata kullanıyorum. Ista Lab'ın özel sıkıştırılmış modelleri ile DeepSeek v4.1 1017 ve Qwen 3.8 Next Flash kullanıyorum. Hem sansürlü hem sansürsüz olanları var. Bu sistemde PC'nin her şeyini kullanıyor, 2 tane ekran kartımı dolduruyor, sonra RAM'e geçiyor, en son SSD'ye yükleniyor. DeepSeek'te 17-20 token arası alıyorum, Qwen'de 55-60. Artık işin boyutu farklı hal almaya başladı, milyonlar vermeye gerek kalmayabilir. Bazı arkadaşlar geriden takip ediyor sanırım. Sonuçlara gelirsek, inanılmaz çalışıyor, istediğim her şeyi yapabiliyorum. Biri 250 GB, diğeri 81 GB ama harika çalışıyor. Bu arada ikisinde de 1M context ayarlı.

Örnek gösterim tableti rootlarken:
Eki Görüntüle 290291
Eki Görüntüle 290292

Ben ekran kartı ve ram kısmına zaten yatırım yapmak isterim ve kıyısından kurtarsın diye de içine sürekli birbirine bağlayıp kompleks bir hale de getirmek istemiyorum. Düşünme (thinking) ve Context sınırı ve Token yakımı konusunda avantajlı olmalıdır.

Ben o ekran kartını oraya yazdım ama o bile yetmez. Claude Seviyesi (405B Modeller) için bile 900+ GB VRAM (ya da sistem belleği) istiyor. O zaman düşününce de "En az 10 adet RTX 6000 Ada (48 GB)" gerekecektir. Tek başına çalışmaları önemli olmuyor benim açımdan.

Amaç agent ve coding faaliyetleridir.

İçerik olarak belki bizlerle Youtube aracılığıyla paylaşmak isterseniz de ilham da almak iyi olurdu.
Sizler neler için kullanıyorsunuz?

Utku92 · 16 dakika önce

PoseidonWhisper dedi:
Bu kısım enerji sarfiyatı sebebiyle mi yoksa içeride başka faktörler mi var?

Ben ekran kartı ve ram kısmına zaten yatırım yapmak isterim ve kıyısından kurtarsın diye de içine sürekli birbirine bağlayıp kompleks bir hale de getirmek istemiyorum. Düşünme (thinking) ve Context sınırı ve Token yakımı konusunda avantajlı olmalıdır.

Ben o ekran kartını oraya yazdım ama o bile yetmez. Claude Seviyesi (405B Modeller) için bile 900+ GB VRAM (ya da sistem belleği) istiyor. O zaman düşününce de "En az 10 adet RTX 6000 Ada (48 GB)" gerekecektir. Tek başına çalışmaları önemli olmuyor benim açımdan.

Amaç agent ve coding faaliyetleridir.

İçerik olarak belki bizlerle Youtube aracılığıyla paylaşmak isterseniz de ilham da almak iyi olurdu.
Sizler neler için kullanıyorsunuz?

Maddi yönden bakmazsak oda büyüklüğünde cihazlara gerek yok; 2 tane Mac Studio M5 Max ile 1 TB'lık VRAM elde ediliyor. Hem kaç katı az güç çekiyor hem de yer kaplamıyor. Ben Strata ile server'ı edip modeli OpenCode'a bağladım. Tabii OpenCode'da REA araçları ve birçok MCP sistemim var; yani yapamayacağı şey yok. Esas olay Ista Lab gibi bir kurumun özel sıkıştırma olayı. Normalde çalışmayacak modeli parçalara bölüyorlar; 5-6 parçaya ayrılıyor, ona göre de Strata bölümlendiriyor. Parçaların kimini VRAM'e atıyor, kimini RAM'e veya CPU'ya kullanıyor. Bundan dolayı hem iyi sıkıştırma hem de dağıtım ile inanılmaz şekilde kullanılabiliyor. Ben program crackleme ve C++ oyun yapımı için kullanıyorum daha çok. Llama CPP'den bile iyi, baya şaşırdım; 1M context'te gram token düşmedi.

Claude maliyetini düşürecek açık kaynaklı alternatifler nelerdir?

Detaylar

PoseidonWhisper

Uzman

Cruslan

Seçkin

Akif

Üstün

PoseidonWhisper

Uzman

Dosya Ekleri

Cruslan

Seçkin

PoseidonWhisper

Uzman

Cruslan

Seçkin

Utku92

Bilgin

PoseidonWhisper

Uzman

Utku92

Bilgin

Benzer konular

Yeni konular

Yeni mesajlar