arc

Uzman
Katılım
15 Nisan 2024
Mesajlar
26
Beğeniler
3
Merhaba.

Bu NPU modülünü alıp PC'ye monte etmeyi düşünüyorum ama bu NPU ile neler yapılabilir? Araştırdığım kadarıyla zoo adında bir kütüphaneleri var sanırım orada bayağı bir modele destek veriliyor ama bu modeller ne pek bilgi yok bu NPU ile görsel üretebilir miyim bilinmiyor ya da ya da metin tabanlı bir AI indirip onda da çalıştırabilir miyim o da mechul. Bu NPU kullananlar varsa bilgi verebilirse sevinirim.
 
Şu anda NPU modülü almana gerek yok. İyi bir ekran kartın varsa yapay zeka kullanabilirsin. Yapay zeka kütüphanelerinin CUDA(NVIDIA), openAPI(Intel) ve ROCm(AMD)'ye destekleri daha fazla. Yapay zeka ne kullanmak istiyorsun? Şu anda en çok elle tutulur yapay zekalar LLM yani sohbet ve resim oluşturma. Elinde varsa donanımını söylersen ona göre bir şeyler önerebilirim.
 
Şu anda NPU modülü almana gerek yok. İyi bir ekran kartın varsa yapay zeka kullanabilirsin. Yapay zeka kütüphanelerinin CUDA(NVIDIA), openapı(Intel) ve rocm(AMD)'ye destekleri daha fazla. Yapay zeka ne kullanmak istiyorsun? Şu anda en çok elle tutulur yapay zekalar llm yani sohbet ve resim oluşturma. Elinde varsa donanımını söylersen ona göre bir şeyler önerebilirim.

Onların hepsinden haberdarım ama elimdeki donanım kötü olduğu için bu modülü alma niyetindeyim sonradan çok daha üst düzey bir PC alacağım ama o güne kadar bu modülü kullanmayı planlıyorum
Metin tabanlı AI ve görsel üretmeyi planlıyorum şu an.
 
Yok, bunda işini görecek yapay zeka çalıştıramazsın. Şöyle RX 580, RX 6600 gibi en azından 8 GB belleği olan GPU alsan 7 milyar parametreli AI'ları çalıştırabilirdin. AI istiyorsan NVIDIA alman daha mantıklı olur aslında. RAM'ın da az, alsan da bu AI hızlandırıcısını içinde AI ağırlıklarını tutacak bellek yok. En azından 16 GB olması lazım kabul edilebilir kullanım için.
 
Yok, bunda işini görecek yapay zeka çalıştıramazsın. Şöyle RX 580, RX 6600 gibi en azından 8 GB belleği olan GPU alsan 7 milyar parametreli AI'ları çalıştırabilirdin. AI istiyorsan NVIDIA alman daha mantıklı olur aslında. RAM'ın da az, alsan da bu AI hızlandırıcısını içinde AI ağırlıklarını tutacak bellek yok. En azından 16 GB olması lazım kabul edilebilir kullanım için.

Bu sistem ile yapılmayacağının farkında olduğum için bu modüle yöneldim 1. nesil Intel NPU çipinden daha güçlü, şu an neleri destekliyor neler yapabiliyorum onu bilmemde fayda var ek olarak bu modül Raspberry AI kit in içinden çıkan modül işe yaramaz bir şey olduğunu pek düşünmüyorum.
 
Bu sistem ile yapılmayacağının farkında olduğum için bu modüle yöneldim 1. nesil Intel NPU çipinden daha güçlü, şu an neleri destekliyor neler yapabiliyorum onu bilmemde fayda var ek olarak bu modül Raspberry AI kit in içinden çıkan modül işe yaramaz bir şey olduğunu pek düşünmüyorum.
Senin kullanabileceğin bir şey değil. Yanlış varsayımlarında almaya kalkışırsan bu cihazı elinde kalır, mutsuz kalırsın. Düzgün bir sisteme geç veya bilgisayarını yükselt. Yoksa ChatGPT, Gemini gibi harici AI hizmetlerinden faydalan.