NVIDIA DGX Spark

NVIDIA DGX Spark అనేది NVIDIA GB10 Grace Blackwell Superchip కోసం రిఫరెన్స్ డెస్క్‌టాప్ సిస్టమ్, దీన్ని మొదటిసారిగా జనవరి 2025లో Project DIGITS అనే పని పేరుతో పబ్లిక్‌గా చూపించారు, తర్వాత ఫైనల్ పేరుతో షిప్ చేసారు. NVIDIA స్వయంగా డిజైన్ చేసి, వాలిడేట్ చేసి, నేరుగా అప్‌డేట్ చేస్తున్న ప్లాట్‌ఫారమ్‌గా, ఇది 1 పెటాఫ్లాప్ FP4 AI పెర్ఫార్మెన్స్ మరియు 128 GB స్థిరమైన ఏకీకృత మెమరీని కీబోర్డ్ పక్కన డెస్క్‌పై ఉంచడానికి సరిపోయే 1.2 kg ఎన్‌క్లోజర్‌లో ప్యాక్ చేస్తుంది.

DGX Spark NVIDIA సొంత రిఫరెన్స్ డిజైన్ కాబట్టి, కొత్త GB10 ఎకోసిస్టమ్ సామర్థ్యాలను మొదటగా వాలిడేట్ చేసే ప్లాట్‌ఫారమ్ కూడా ఇదే. మార్చి 2026 చివరిలో జరిగిన NVIDIA GTC 2026 కాన్ఫరెన్స్ తర్వాత, 4-నోడ్ RoCE క్లస్టరింగ్‌కు అధికారిక మద్దతు — ఒకే డిప్లాయ్‌మెంట్‌ను 512 GB షేర్డ్ ఏకీకృత మెమరీకి పెంచడం — GB10 లైన్‌అప్‌లో ఇప్పటికే స్టాండర్డ్‌గా ఉన్న 2-యూనిట్ డైరెక్ట్-లింకింగ్ సామర్థ్యంతో పాటు, పార్టనర్ హార్డ్‌వేర్‌లో ఎడాప్ట్ అవ్వడానికి ముందు DGX Spark పై నిర్ధారించబడింది.

హార్డ్‌వేర్ స్పెసిఫికేషన్స్

దీని కోర్‌లో NVIDIA GB10 Grace Blackwell Superchip ఉంది, ఇది 20-కోర్ ఆర్మ్ ప్రాసెసర్‌ను (10 × Cortex-X925 పెర్ఫార్మెన్స్ కోర్‌లు + 10 × Cortex-A725 ఎఫిషియన్సీ కోర్‌లు) 5వ-జనరేషన్ టెన్సర్ కోర్‌లు మరియు నేటివ్ FP4 స్పార్సిటీ సపోర్ట్‌తో కూడిన బ్లాక్‌వెల్-జనరేషన్ GPUతో కలుపుతుంది. ఈ రెండింటిని 128 GB LPDDR5x ఏకీకృత మెమరీ కలుపుతుంది, ఇది CPU మరియు GPU మధ్య పంచుకున్న 273 GB/s స్థిరమైన బ్యాండ్‌విడ్త్‌ను అందిస్తుంది, సాధారణంగా వేరు CPU/GPU మెమరీ పూల్స్ ప్రవేశపెట్టే కాపీ ఓవర్‌హెడ్‌ను తొలగిస్తుంది. స్టోరేజ్ 4 TB స్వీయ-ఎన్‌క్రిప్టింగ్ PCIe Gen4 NVMe SSD, పెద్ద మోడల్ చెక్‌పాయింట్‌లు మరియు డేటాసెట్‌లను స్థానికంగా ఉంచడానికి సరిపోయే పరిమాణంలో ఉంటుంది.

సాఫ్ట్‌వేర్: పూర్తి NVIDIA AI స్టాక్, ప్రీ-ఇన్‌స్టాల్ చేయబడింది

DGX Spark NVIDIA DGX OS (ఉబుంటు 24.04 LTS) మరియు పూర్తి NVIDIA AI సాఫ్ట్‌వేర్ స్టాక్‌తో హార్డ్‌వేర్‌కు వ్యతిరేకంగా ప్రీ-ఇన్‌స్టాల్ చేయబడి, వాలిడేట్ చేయబడి వస్తుంది — CUDA, cuDNN, TensorRT మరియు NVIDIA కంటైనర్ రన్‌టైమ్ మొదటి బూట్‌లోనే రెడీగా ఉంటాయి. NVIDIA NIM మైక్రోసర్వీసెస్ మాన్యువల్ ట్యూనింగ్ లేకుండా మద్దతు ఉన్న మోడల్‌లను ఆప్టిమైజ్ చేసిన ఇన్‌ఫరెన్స్ కంటైనర్‌లుగా డిప్లాయ్ చేయడానికి అనుమతిస్తాయి, మరియు వర్క్‌లోడ్ తర్వాత NVIDIA DGX క్లౌడ్ లేదా డేటాసెంటర్ DGX సిస్టమ్‌కు తరలించినప్పుడు అదే కంటైనర్‌లు మార్పు లేకుండా కొనసాగుతాయి. నిరంతరం నిర్వహించబడే అధికారిక ప్లేబుక్‌ల సెట్ సాధారణ వర్క్‌ఫ్లోలను కవర్ చేస్తుంది — vLLM మరియు TensorRT-LLM సర్వింగ్ నుండి NeMo మరియు Unslothతో ఫైన్-ట్యూనింగ్ వరకు — మొదటిసారి మరియు అధునాతన వినియోగదారులకు సెటప్ సమయాన్ని తగ్గిస్తుంది.

ఏజెంటిక్ AI వర్క్‌లోడ్‌ల కోసం, DGX Spark NemoClawని కలిగి ఉంది, ఇది NVIDIA యొక్క శాండ్‌బాక్స్ చేయబడిన ఏజెంట్-ఎక్జిక్యూషన్ లేయర్. ఇది స్వయంప్రతిపత్త ఏజెంట్‌ల చుట్టూ పాలసీ-ఆధారిత యాక్సెస్ కంట్రోల్‌ను అమలు చేస్తుంది, ఆడిట్ ప్రయోజనాల కోసం వాటి చర్యలను లాగ్ చేస్తుంది, మరియు ఇటీవలి DGX OS అప్‌డేట్‌లలో కొలవదగినంత వేగంగా స్థానిక ఏజెంట్ ఇన్‌ఫరెన్స్‌ను అందించడానికి ఆప్టిమైజ్ చేయబడింది.

కనెక్టివిటీ & నెట్‌వర్కింగ్

నెట్‌వర్కింగ్ డ్యూయల్ 200 Gbps QSFP పోర్ట్‌లతో కూడిన NVIDIA ConnectX-7 స్మార్ట్ NIC చుట్టూ నిర్మించబడింది, ఇది డైరెక్ట్ యూనిట్-టు-యూనిట్ లింకింగ్ కోసం లేదా పెద్ద డిప్లాయ్‌మెంట్‌లలో, మేనేజ్ చేయబడిన RoCE స్విచ్ ఫ్యాబ్రిక్‌కు కనెక్షన్ కోసం ఉపయోగించబడుతుంది. అదనపు ఆన్‌బోర్డ్ కనెక్టివిటీ 10 GbE ఈథర్‌నెట్ (RJ-45), Wi-Fi 7, మరియు బ్లూటూత్ 5.4ని కవర్ చేస్తుంది. నాలుగు USB4 టైప్-C పోర్ట్‌లు స్థానిక మల్టీ-మానిటర్ వినియోగం కోసం డిస్‌ప్లేపోర్ట్ అవుట్‌పుట్‌ను మద్దతు ఇస్తాయి — గరిష్ఠంగా మూడు ఏకకాల డిస్‌ప్లేలు — HDMIతో పాటు, ఒకే యూనిట్‌ను డెవలప్‌మెంట్ వర్క్‌స్టేషన్‌గా మరియు ఎల్లప్పుడూ ఆన్‌లో ఉండే ఇన్‌ఫరెన్స్ సర్వర్‌గా పని చేయడానికి అనుమతిస్తుంది.

ఎంటర్‌ప్రైజ్ మేనేజ్‌మెంట్ & సెక్యూరిటీ

DGX Spark ఇంటర్నెట్ కనెక్టివిటీ లేని ఎన్విరాన్‌మెంట్‌ల కోసం ఎయిర్-గ్యాప్డ్ డిప్లాయ్‌మెంట్‌ను మద్దతు ఇస్తుంది, ఇందులో క్లౌడ్-ఇనిట్ ద్వారా కస్టమ్ ISO క్రియేషన్ మరియు USB-ఆధారిత OS మరియు డ్రైవర్ అప్‌డేట్‌లు ఉంటాయి — ఫ్లీట్‌లను బాహ్య నెట్‌వర్క్ డిపెండెన్సీ లేకుండా ప్రొవిజన్ చేయడానికి మరియు నిర్వహించడానికి అనుమతిస్తుంది. స్టోరేజ్ డిఫాల్ట్‌గా స్వీయ-ఎన్‌క్రిప్టింగ్, మరియు ప్లాట్‌ఫారమ్ TPM 2.0 మరియు సెక్యూర్ బూట్‌ను కలిగి ఉంటుంది, ఇది రెగ్యులేట్ చేయబడిన, డేటా-సెన్సిటివ్ డిప్లాయ్‌మెంట్‌లకు అనుకూలమైన సెక్యూరిటీ బేస్‌లైన్‌ను ఇస్తుంది, ఇక్కడ ప్రాసెసింగ్ పూర్తిగా ఆన్-ప్రెమిసెస్‌లో ఉండాలి.

స్కేలింగ్: సింగిల్, 2-యూనిట్, మరియు 4-యూనిట్ కాన్ఫిగరేషన్స్

ఒకే DGX Spark స్థానికంగా సుమారు 200 బిలియన్ పారామితుల వరకు ఉన్న మోడల్‌లను సౌకర్యంగా సర్వ్ చేస్తుంది. పెద్ద మోడల్‌ల కోసం, రెండు యూనిట్‌లు ConnectX-7 QSFP పోర్ట్‌లపై నేరుగా కలిసి 256 GB ఏకీకృత మెమరీ పూల్‌గా లింక్ అవుతాయి, మరియు నాలుగు యూనిట్‌ల వరకు 512 GB స్థిరమైన పూల్ కోసం మేనేజ్ చేయబడిన 200 GbE RoCE స్విచ్ ఫ్యాబ్రిక్ ద్వారా జాయిన్ చేయబడతాయి — GTC 2026లో NVIDIA ద్వారా వాలిడేట్ చేయబడిన అదే క్లస్టరింగ్ మార్గం.

ఎకోసిస్టమ్ & దీర్ఘకాలిక స్కేలింగ్ మార్గం

DGX Spark NVIDIA DGX క్లౌడ్ మరియు డేటాసెంటర్ DGX సిస్టమ్‌లలో ఉపయోగించే అదే DGX OS మరియు NVIDIA AI సాఫ్ట్‌వేర్ స్టాక్‌ను రన్ చేస్తుంది కాబట్టి, స్థానికంగా డెవలప్ చేయబడిన వర్క్‌లోడ్‌లు — కంటైనర్‌లు, NIM డిప్లాయ్‌మెంట్‌లు, ఫైన్-ట్యూనింగ్ పైప్‌లైన్‌లు — డెస్క్‌టాప్ ప్రోటోటైప్ నుండి పెద్ద ప్రొడక్షన్ డిప్లాయ్‌మెంట్‌కు తరలించే సమయం వచ్చినప్పుడు మార్పు లేకుండా కొనసాగుతాయి.