NVIDIA - DGX Spark Founders Edition

NVIDIA DGX Spark

Supercomputer AI desktop | GB10 Grace Blackwell | 6.144 CUDA Core | 128 GB LPDDR5x unificata | 1 PFLOP FP4 | 1.000 AI TOPS | ConnectX-7 200 Gbps | 150×150×50,5 mm | 1,2 kg

Un supercomputer AI Grace Blackwell sulla scrivania. L’NVIDIA DGX Spark è un sistema AI desktop basato sul superchip GB10 Grace Blackwell, che integra una GPU Blackwell con 6.144 CUDA Core, Tensor Core di quinta generazione e RT Core di quarta generazione, una CPU ARM a 20 core (10× Cortex-X925 + 10× Cortex-A725) e 128 GB di memoria LPDDR5x unificata condivisa coerentemente tra CPU e GPU. Prestazioni di picco: 1 PFLOP (1.000 TOPS) in FP4 con sparsità. Il tutto in un formato da 150×150×50,5 mm e 1,2 kg.

La memoria unificata da 128 GB consente di lavorare con modelli AI fino a 200 miliardi di parametri senza la limitazione della VRAM tipica delle GPU discrete. Lo stack software NVIDIA AI è preinstallato su DGX OS (Ubuntu 24.04 LTS), con supporto nativo per PyTorch, TRT-LLM e i principali framework AI. La connettività include ConnectX-7 con due porte QSFP per un aggregato di 200 Gbps (per collegare due DGX Spark in cluster e gestire modelli fino a 405 miliardi di parametri), 10 GbE, Wi-Fi 7 e Bluetooth 5.4. Quattro porte USB-C e un’uscita HDMI 2.1a completano la dotazione. Alimentazione esterna da 240W (TDP del SoC GB10: 140W).

Scheda Tecnica

* Le prestazioni di 1 PFLOP e 1.000 TOPS si riferiscono alla precisione FP4 con sparsità (NVFP4). Senza sparsità, le prestazioni FP4 sono circa la metà. La memoria da 128 GB è unificata e condivisa coerentemente tra CPU e GPU tramite NVLink C2C: non è VRAM dedicata ma memoria di sistema accessibile da entrambi i processori. La banda passante di 273 GB/s è inferiore a quella della GDDR7 delle GPU discrete, il che favorisce i carichi di lavoro memory-capacity-bound (modelli grandi) piuttosto che memory-bandwidth-bound (throughput puro). È richiesto l’uso dell’alimentatore da 240W incluso.

Punti di forza

128 GB di memoria unificata per modelli AI fino a 200 miliardi di parametri. La memoria LPDDR5x da 128 GB è condivisa coerentemente tra CPU e GPU senza overhead di trasferimento: il modello risiede in un unico spazio di indirizzamento accessibile da entrambi i processori. Questo elimina il vincolo della VRAM delle GPU discrete e consente di caricare ed eseguire modelli AI di dimensioni che richiederebbero altrimenti GPU con 96+ GB di VRAM dedicata o cluster multi-GPU.

1 PFLOP di prestazioni AI FP4 in 150×150×50,5 mm. Il superchip GB10 integra GPU Blackwell e CPU ARM a 20 core in un SoC su processo TSMC 3 nm, con NVLink C2C ad alta banda tra i due die. Il risultato è un sistema completo che eroga 1.000 TOPS di inferenza in un volume di appena 1,1 litri e un peso di 1,2 kg, alimentato da un alimentatore esterno da 240W.

ConnectX-7 con 200 Gbps per cluster dual-Spark. Due porte QSFP con aggregato da 200 Gbps consentono di collegare due DGX Spark tra loro per creare un cluster con 256 GB di memoria combinata, capace di gestire modelli fino a 405 miliardi di parametri. La stessa interfaccia ConnectX-7 supporta RDMA per comunicazione a bassa latenza.

Stack software NVIDIA AI completo preinstallato. DGX OS (Ubuntu 24.04 LTS) con l’intero stack software NVIDIA AI: PyTorch, TRT-LLM, NVIDIA NIM per microservizi di inferenza, NemoClaw per agenti AI autonomi, Container Runtime per Docker e DGX Dashboard per il monitoraggio. Lo stesso ecosistema software della piattaforma DGX data center, sulla scrivania.

Piena compatibilità CUDA su architettura ARM. Nonostante la CPU ARM, il DGX Spark esegue lo stack CUDA completo sulla GPU Blackwell. I modelli sviluppati e testati su DGX Spark possono essere trasferiti direttamente a cluster DGX data center o al cloud senza modifiche, garantendo continuità tra sviluppo locale e deployment in produzione.

Connettività completa: 10 GbE, Wi-Fi 7, USB-C, HDMI 2.1a. Oltre alla rete ad alte prestazioni ConnectX-7, il DGX Spark include 10 GbE RJ-45, Wi-Fi 7, Bluetooth 5.4, quattro porte USB-C e un’uscita HDMI 2.1a. Utilizzabile sia in modalità desktop (monitor, tastiera, mouse) che in modalità headless (accesso di rete senza monitor).

Scenari d’uso

Prototipazione e sviluppo AI locale — I 128 GB di memoria unificata e lo stack NVIDIA AI preinstallato consentono a sviluppatori, ricercatori e data scientist di prototipare, testare e validare modelli AI fino a 200 miliardi di parametri direttamente sulla scrivania, senza dipendenza da cluster data center o crediti cloud. Il workflow locale accelera i cicli di iterazione e garantisce privacy dei dati.

Inferenza LLM e agenti AI autonomi — I 1.000 TOPS di inferenza FP4 e il supporto per NemoClaw e NVIDIA NIM consentono di eseguire modelli di reasoning, assistenti AI e agenti autonomi localmente, con la privacy e la latenza del desktop. Ideale per deployment di assistenti AI enterprise dove i dati non possono lasciare la rete locale.

Fine-tuning di modelli AI specializzati — I 128 GB di memoria unificata consentono il fine-tuning di modelli di grandi dimensioni con dataset proprietari, direttamente in locale. I modelli affinati possono essere successivamente distribuiti su infrastruttura DGX data center o cloud NVIDIA con piena compatibilità software.

Data science e analisi esplorativa — La CPU ARM a 20 core, i 128 GB di memoria e le librerie CUDA-X consentono di esplorare, analizzare e visualizzare dataset di grandi dimensioni con RAPIDS e le principali librerie Python per data science, con accelerazione GPU nativa.

Cluster AI desktop con due unità — Due DGX Spark collegate via ConnectX-7 formano un cluster con 256 GB di memoria combinata e capacità di gestire modelli fino a 405 miliardi di parametri. Un mini-cluster AI da scrivania per team di ricerca e sviluppo che necessitano di capacità superiore senza infrastruttura server.