ASUS Ascent GX10, DGX Spark ve RTX 5090: modeli nerede çalıştırırız

ASUS Ascent GX10 ve NVIDIA DGX Spark aynı yongadır: NVIDIA GB10, 128 GB birleşik bellek, masaya sığan kutu. RTX 5090 32 GB bir ekran kartıdır. Model karta sığıyorsa hızlıdır. Sığmıyorsa kutu gerekir.

DEM Bilişim, Ümraniye

Neden kutu

Bulut API ile başlamak hızlıdır. Metin, soru sorulduğu anda hizmet sağlayıcıda işlenir. Sözleşme, cari veya stok bu binadan çıkmayacaksa model de çıkmamalıdır. Model kurulumu bu yüzden ikiye ayrılır: deneme bulutta, kalıcı iş ofisteki makinede.

Asistanın işi değişmez. RAG belgeyi arar, Logo veya Uyumsoft kaydı okur. Değişen, cümleyi kuran modelin hangi kasada durduğudur.

ASUS Ascent GX10

GX10, NVIDIA DGX Spark platformundaki GB10 Grace Blackwell yongasını ASUS kasasına koyar. 20 çekirdekli Arm işlemci ile Blackwell grafik birimi aynı bellek havuzunu görür. NVLink-C2C, bu ikisini PCIe 5’ten yaklaşık beş kat geniş bir yolla bağlar.

• 64 GB veya 128 GB LPDDR5x birleşik bellek. 64 GB yaklaşık 100 milyar parametreye, 128 GB çıkarımda yaklaşık 200 milyara kadar yeter.
• FP4 ile 1 petaFLOP’a kadar yapay zekâ hesabı.
• Kasa 150 × 150 × 51 mm. Sunucu odası gerekmez.
• 10 GbE ve ConnectX-7. İki 128 GB kutu 256 GB, dört kutu 512 GB bellek havuzu olur.
• DGX OS, PyTorch ve Ollama hazırdır. Açık model, Qwen dahil, bu kutuda çalışır.

128 GB’ı, model ve bağlam tek kartın ekran belleğine sığmadığında seçeriz. İnce ayar için NVIDIA, 128 GB Spark’ta 70 milyara kadar modeli işaret eder. GX10 aynı yongayı taşıdığı için aynı sınır geçerlidir.

NVIDIA DGX Spark

DGX Spark, GX10’un taklit ettiği kutudur. Aynı GB10, aynı 1 petaFLOP FP4, aynı 128 GB birleşik bellek. NVIDIA’nın kendi kasası 150 × 150 × 50,5 mm ve 1,2 kg’dır. Güç kaynağı 240 watt, yonganın TDP’si 140 watt’tır. 64 GB sürüm yalnızca üretici ortaklarından gelir.

Müşteri için ayrım model boyutu değildir. Ayrım, kutuyu kimin ürettiği, soğutmanın nasıl çözüldüğü ve desteğin kimden geleceğidir. İkisi de ofiste, kapalı devrede, aynı asistanı çalıştırır. Dört kutuya kadar küme burada da geçerlidir.

RTX 5090 32 GB

RTX 5090 bir kutu değildir. İş istasyonunun içine takılan Blackwell ekran kartıdır ve 32 GB GDDR7 bellek taşır. Model bu 32 GB’a sığmak zorundadır. Sıkıştırılmış 7 ile 32 milyar parametrelik modeller sığar. 70 milyar parametrelik bir modeli işe yarar kalitede bu karta sığdırmak çoğu işte mümkün olmaz.

Sığdığında ise kart, GB10’un 273 GB/s bellek yolundan daha geniş bir yoldan okur. Token daha hızlı gelir. Karşılığında kasa, güç kaynağı ve soğutma bu karta göre seçilir. Kart tek başına masaüstüne konmaz.

Hangisini seçeriz

Belge ve soru tesisten çıkmayacaksa ve model 32 GB’a sığmıyorsa GX10 veya DGX Spark, 128 GB. Model sığıyor ve hız ölçütse RTX 5090’lı bir iş istasyonu. İlk deneme küçükse bulut API ile başlarız; ölçü tutunca kutuya geçeriz.

Ümraniye ofisinde bunu konuşurken önce soruyu sorarız: hangi model, hangi belge, veri dışarı çıkabilir mi. Kutu, bu üç cevaptan sonra seçilir. Kutuyu raftan satmayız. Asistanı, seçilen makinenin üstüne kurarız.

Sık sorulan sorular

ASUS Ascent GX10 ile NVIDIA DGX Spark aynı işi mi görür?

Evet. İkisi de NVIDIA GB10 Grace Blackwell yongasını kullanır. 128 GB birleşik bellek ve 1 petaFLOP FP4 ortaktır. Fark kasa, soğutma ve kutuyu kimin ürettiğidir.

RTX 5090 32 GB, 128 GB kutunun yerine geçer mi?

Hayır. 5090 bir ekran kartıdır ve model 32 GB ekran belleğine sığmak zorundadır. 128 GB birleşik bellek, karta sığmayan modeli ofiste çalıştırmak içindir.

İki kutu birbirine bağlanır mı?

Evet. ConnectX-7 ile iki veya dört kutu kümelenir. 128 GB birimler dört adette 512 GB bellek havuzuna çıkar.

Belge bu kurulumda dışarı çıkar mı?

Kapalı devrede çıkmaması gerekir. Model ofisteki kutuda çalışır. Ağ dışarı açıksa çıkar. Bunu kurulumda kapatırız, varsaymayız.