NVIDIA DGX Spark 4 TB: KI-Supercomputer Der NVIDIA DGX Spark ist ein kompakter KI-Supercomputer. Eine großzügige 128GB RAM-Ausstattung ermöglicht die Arbeit mit großen LLMs mit bis zu 200B Parametern. Kern des NVIDIA DGX Spark ist der NVIDIA® GB10 Grace Blackwell Superchip, mit einer Leistung von 1 Petaflop für KI-Rechnungen (in FP4-Precision). Die NVIDIA DGX Spark Plattform ist besonders für AI-Entwickler und KI-Forschung geeignet. Dank des kompakten Formfaktors findet der NVIDIA DGX Spark auf jedem Schreibtisch Platz. Wesentlicher Teil der Plattform ist der NVIDIA AI Software Stack, der einen schnellen Einstieg mit der am besten unterstützten Plattform in der LLM-Industrie ermöglicht. Dank der Software-Kompatibilität mit NVIDIA's größeren Plattformen (bspw. H200 / B200) können die entwickelten LLM-Lösungen und Anwendungen (bspw. agentic AI) direkt und problemlos skaliert werden. Dank des eingebauten NVIDIA® ConnectX-7 Netzwerklinks können zwei NVIDIA DGX Spark Systeme miteinander verbunden werden, um noch größere Modelle bis zu 405B Parametern zu unterstützen. LieferzeitKleine Mengen direkt ab Lager in Leipzig, Deutschland. Die Lieferzeit für größere Mengen des NVIDIA DGX Spark 4 TB beträgt in der Regel 4–6 Wochen ab Bestelleingang. Bitte berücksichtigen Sie dies in Ihrer Projektplanung. Technische Daten Merkmal Spezifikation KI-Rechenleistung (Tensor Performance) 1 Petaflops (FP4, sparse) (NVIDIA Grace Blackwell) RAM 128GB RAM LPDDR5x (Unified memory) RAM-Bandbreite 273 GB/s (256-bit Speicherinterface) GPU NVIDIA Blackwell Architecture 5th Generation Tensor Cores 4th Generation RT Cores CPU 20 core ARM: 10 Cortex-X925 + 10 Cortex-A725 ARM Speicher 1 x 4 TB NVME.M2 mit self encryption, Enterprise Grade Storage WLAN & Bluetooth Wi-Fi 7 + Bluetooth® 5.3 mit Bluetooth LE Netzwerk 1 x 10 GBit LAN RJ45 1 x ConnectX CX-7 Smart NIC (200 Gbps, 2 x QSFP) USB Ports 4x USB Type C, ein Port davon für Stromversorgung vorgesehen Weitere Ports & Features 1 x HDMI 2.1a, mit HDMI multichannel Audio Ausgang(unterstützt bis zu 8K Display mit 120 Hz und HDR)1 x NVENC, 1 x NVDEC 1 x Power button Betriebssystem NVIDIA DGX™ OS (Ubuntu Linux) Abmessungen 150 mm L x 150 mm W x 50.5 mm H Gewicht 1,2 kg Lieferumfang 1 × NVIDIA DGX Spark mit 4 TB enterprise grade SSD Netzteil Netzkabel (EU) Hinweis: QSFP Kabel für die ConnectX CX-7 Netzwerkschnittstelle, zum Verbinden von zwei NVIDIA DGX Spark Systemen, ist nicht im Lieferumfang enthalten - es ist separat erhältlich. Passende Kabel sind: DGX Spark Connect Cable: NJAAK-N911 DGX Spark Connect Cable: NJAAK-0006 Hinweis: bei Bestellung von zwei NVIDIA DGX Spark 4 TB fügen wir im Aktionszeitraum ein kostenfreies QSFP Kabel bei. Einsatzbereiche Industrie & Forschung: Entwicklung und Finetuning von AI LLM-Modellen mit bis zu 200B Parametern (bzw. 405B bei Einsatz von zwei NVIDIA DGX Sparks) Universitäten & Hochschulen: Experimente und Hands-On-Erfahrung für Studenten an großen LLM Modellen Büros, Geschäftliches Umfeld: Ausführen von Agentic AI, insbesondere für Datenschutz - bspw. für Bearbeiten von Kundenanfragen, offline e-Mailbearbeitung, RAGs mit sensitiven Firmendaten. NVIDIA DGX Spark Produktvarianten Die NVIDIA DGX Spark Plattform baut im Kern auf NVIDIA Komponenten auf. In jeder Variante ist der Grace Blackwell Superchip GB10, sowie 128 GB RAM mit 273 GB/s Speicherbandreite verbaut. Die Speicherbandbreite hat dabei den größten Effekt auf Token/s Durchsatzraten. Das Betriebssystem (NVIDIA DGX OS, auf Ubuntu Basis), sowie der NVIDIA AI-Softwarestack ist in jedem Fall der Gleiche. Verschiedene Anbieter bauen ein Gehäuse drumherum, und vertreiben das Gerät unter ihrem eigenen Markennamen: NVIDIA direkt unter "NVIDIA DGX Spark" (ehemals Project Digits) / DGX Spark Founders Edition NVIDIA DGX Spark Founder's Edition PNY ist in diesem Fall ein Wiederverkäufer von NVIDIA, d.h. ein PNY DGX Spark ist ein original NVIDIA DGX Spark ASUS als "ASUS Ascent GX10" HP als "HP ZGX Nano AI Station G1n" Dell als "Dell Pro Max With GB10" Lenovo als "Lenovo ThinkStation PGX" Aus unserer Sicht sind diese Geräte weitgehend vergleichbar was die AI Leistung betrifft. Wir empfehlen Kunden, die Marke ihrer Wahl zu kaufen, und vor allem auf weitere Faktoren wie Service durch die jeweilige Marke zu achten. Als ASUS IoT Partner bieten wir in unserem Shop ebenso die ASUS Ascent GX 10 Variante des NVIDIA DGX Spark an. ASUS Stärke is besonders optimierte Kühlkonzepte aufzubauen, was sie auch bei dem DGX Spark in Form des ASUS Ascent GX 10 umgesetzt haben. Ein weiterer Vorteil des ASUS Ascent GX10 ist der niedrigere Preis (4 TB Variante des ASUS Ascent GX 10 auf Anfrage, ebenso preisgünstiger). Software-Stack / unterstützte Software NVIDIA DGX OS (Betriebssystem, auf Basis von Ubuntu) NVIDIA NIM (Microservices als Bausteine für AI Lösungen) NVIDIA AI Blueprints (Beispielanwendungen, bspw. RAG Workflows) PyTorch (Framework für Machine Learning und Deep Neural Networks) TensorFlow (Framework für Machine Learning und Deep Neural Networks) NVIDIA Riva (Spracherkennung, Übersetzung und Sprachausgabe) NVIDIA Holoscan (Plattform für Sensor-Daten-Verarbeitung) NVIDIA Metropolis (Vision-KI Anwendungsplattform) NVIDIA Isaac (Plattform für Entwicklung von Robotern, bspw. autonomen Fahrzeugen) CUDA (Toolkit zur Beschleunigung und Parallesierung von Berechnungen auf GPUs) cuDNN (Beschleunigung von Deep Neural Networks auf GPUs) cuBLAS (Lineare Algebra Frameworks zur Beschleunigung von KI und High performance computing (HPC) Anwendungen) TensorRT (SDK für high-performance deep learning inferencing) NCCL (NVIDIA Collective Communications library, zur Verteilung der Rechenleistung über mehrere Nodes hinweg) vLLM + ollama + llama.cpp - Large Language Model Inferencing Frameworks Weitere Produktbezeichnungen DGXSPARK-FOUNEDIT-EU PNY Part Number: NVDGXSPARK-PB PNY NVIDIA DGX Spark GB10 128GB 1 Petaflop FP4 AI Compute 128 Gb memory 4TB enterprise grade storage CX7 networking EU cable NVIDIA DGX Spark Founder's Edition 940-54242-0000
Related
Related
Related
Related