Local LLM için 3 tane RTX 5080 ve RTX 5060 Ti 8 GB vs 1 tane RTX 5090

Testo Unit · Çarşamba 16:58

Alacağımdan değil de yapay zekâ için gereken donanım özelliklerini anlamak için açtım konuyu. Şu an en ucuz sıfır RTX 5090 parasına 3 tane RTX 5080 ve 1 tane RTX 5060 Ti 8 GB geliyor. Tek bir büyük model çalıştırmak için veya yapay zekâ eğitimi için hangisi daha avantajlı? Bu soruyu RTX 5080 vs iki tane RTX 5070 gibi de düşünebilirsiniz. Daha gerçekçi örnek olur.

Osman Zeren · Çarşamba 17:01

Aynı paraya en yüksek VRAM'i hangisinden alabiliyorsanız o.

Testo Unit · Çarşamba 17:03

Osman Zeren dedi:
Aynı paraya en yüksek VRAM'i hangisinden alabiliyorsanız o.

Sadece VRAM mi önemli? Farklı kartlar olduğundan kartlar arası iletişim gecikmesi performans kaybına sebebiyet vermez mi?

Utku92 · Çarşamba 17:08

En önemlisi VRAM 3000 serisi ve yukarısı için yeterli güçtedir.

Testo Unit · Çarşamba 17:12

Utku92 dedi:
En önemlisi VRAM 3000 serisi ve yukarısı için yeterli güçtedir.

O zaman güncel kartlarda aynı bütçede alınabilen en yüksek VRAM olan seçenek alınmalı diye genelleme yapabilir miyiz? Ekstra olarak Intel kartlar(Arc ve b serisi) nasıldır NVIDIA'ya göre?

Utku92 · Çarşamba 17:14

Testo Unit dedi:
O zaman güncel kartlarda aynı bütçede alınabilen en yüksek VRAM olan seçenek alınmalı diye genelleme yapabilir miyiz? Ekstra olarak Intel kartlar(Arc ve b serisi) nasıldır NVIDIA'ya göre?

Intel çok yeni olmaz bu yüzden. NVIDIA'da CUDA var, AMD'de ROCm, Vulkan var. Ama Intel olmaz. Mesela 3090 mı, 5080 mi deseniz gene 3090 derim.

FMMX · Çarşamba 17:48

RTX 5080 16 Gb VRAM 2k en üst segment kart fakat 3090'da VRAM 24 Gb direk 4k kartı 3090 deli güçlü bir kart ama eski çok yakar yinede iyidir.

Local LLM için 3 tane RTX 5080 ve RTX 5060 Ti 8 GB vs 1 tane RTX 5090

Detaylar

Testo Unit 68

Üstün

Osman Zeren 36

Uzman

Testo Unit 68

Üstün

Utku92 24

Üstün

Testo Unit 68

Üstün

Utku92 24

Üstün

FMMX 68

Üstün

Benzer konular

Yeni konular

Yeni mesajlar