Katılım
22 Aralık 2023
Mesajlar
2.818
Çözümler
1
Beğeniler
1.315
Sizce hangisi daha iyi?

Fiziki GPU'nun nasıl olduğunu benden daha iyi olduğunu biliyorsunuz. Sanal GPU sunucu AWS tarafında kullanılıyor. Amazon EC2 ve Amazon S3 kullanıldığında hem AI/ML eğitimi hem de veri depolama olayı oluyor. Kullandığın kadar öde diyor. Fikriniz nedir?
 
Tamamen ne yaptığına, nasıl yaptığına ve ne kadar paran olduğuna bağlı bir durum gibi. Sanal GPU'dan kastın kiralık sunucu mantığında bir şey sanırım. İstediğin yerden istediğin cihazla çalışabilmeni sağlar. İstediğin gibi ölçekleyebilirsin, ihtiyaçlarına göre gücünü ve kapasitesini arttırabilirsin. Tek seferde yüklü miktarda para çıkmaz, ihtiyacın olduğunda ihtiyacın kadar kullanıp kullandığın kadar ödersin. AWS gibi bir sağlayıcı kullanıyorsan kesintisiz çalışman garanti gibi bir şey olur. Elektrikler mi gitti, internet mi kesildi, birisi telefonunu şarja takmak için kasanın fişini mi çekti gibi dertlerin olmaz.

Fiziksel GPU aldığında tek seferde birkaç yüz bin lira ödemen veya aylık 20-30 bin lira taksit ödemen gerekir. Yanında taşıyamaz, yetersiz geldiğinde kolay kolay ölçekleyemezsin. Ev veya ofiste barındıracaksan canım ülkemin canım altyapısına güvenmen gerekir bir yere kadar. Yine de tamamen senin kontrolünde olur. Ortamı istediğin gibi şekillendirip ihtiyaçlarını istediğin özgürlükte giderebilirsin. Ödeyeceğin miktar sabittir, sürprizlerle karşılaşmazsın. AI işleri dışında da istediğin gibi kullanabilirsin. İşin bitince ikinci el satıp masrafların bir kısmını kurtarabilirsin.

Dediğim gibi, tamamen kişisel tercih ve proje gereksinimlerinde biten bir olay. GPU alsan kimse neden aldın demez, kiralasan kimse neden kiraladın demez. Bugün RTX 5080 bile AI işlerinde giriş seviyesi kalıyor. Kesenin ağzını açıp en az 32GB modellere yönelmen gerek.
 
Son düzenleme:
Tamamen ne yaptığına, nasıl yaptığına ve ne kadar paran olduğuna bağlı bir durum gibi. Sanal GPU'dan kastın kiralık sunucu mantığında bir şey sanırım. İstediğin yerden istediğin cihazla çalışabilmeni sağlar. İstediğin gibi ölçekleyebilirsin, ihtiyaçlarına göre gücünü ve kapasitesini arttırabilirsin. Tek seferde yüklü miktarda para çıkmaz, ihtiyacın olduğunda ihtiyacın kadar kullanıp kullandığın kadar ödersin. AWS gibi bir sağlayıcı kullanıyorsan kesintisiz çalışman garanti gibi bir şey olur. Elektrikler mi gitti, internet mi kesildi, birisi telefonunu şarja takmak için kasanın fişini mi çekti gibi dertlerin olmaz.

Fiziksel GPU aldığında tek seferde birkaç yüz bin lira ödemen veya aylık 20-30 bin lira taksit ödemen gerekir. Yanında taşıyamaz, yetersiz geldiğinde kolay kolay ölçekleyemezsin. Ev veya ofiste barındıracaksan canım ülkemin canım altyapısına güvenmen gerekir bir yere kadar. Yine de tamamen senin kontrolünde olur. Ortamı istediğin gibi şekillendirip ihtiyaçlarını istediğin özgürlükte giderebilirsin. Ödeyeceğin miktar sabittir, sürprizlerle karşılaşmazsın. AI işleri dışında da istediğin gibi kullanabilirsin. İşin bitince ikinci el satıp masrafların bir kısmını kurtarabilirsin.

Dediğim gibi, tamamen kişisel tercih ve proje gereksinimlerinde biten bir olay. GPU alsan kimse neden aldın demez, kiralasan kimse neden kiraladın demez. Bugün RTX 5080 bile AI işlerinde giriş seviyesi kalıyor. Kesenin ağzını açıp en az 32GB modellere yönelmen gerek.
Artık her şey ateş pahası. 5080 ekran kartı alamazken GPU server kurmak bizim için imkansız.
 
FFmpeg ile video encode işlerim için kullandığım RTX 5090 ekran kartlı ve EPYC işlemcili bir sunucum var. Bahsettiğiniz gibi kullandığın kadar öde mantığında çalışıyor ancak AWS değil başka bir servis kullanıyorum. Sanal GPU dediğiniz şey uzaktan bağlanıp kullanabildiğiniz GPU. Yoksa yine arkada fiziki bir GPU var.
 
FFmpeg ile video encode işlerim için kullandığım RTX 5090 ekran kartlı ve EPYC işlemcili bir sunucum var. Bahsettiğiniz gibi kullandığın kadar öde mantığında çalışıyor ancak AWS değil başka bir servis kullanıyorum. Sanal GPU dediğiniz şey uzaktan bağlanıp kullanabildiğiniz GPU. Yoksa yine arkada fiziki bir GPU var.
En bilindik AWS mi?