Ekstrem AI-ytelse i ett system. Dell PowerEdge XE9680 kombinerer 8 × NVIDIA H100 80GB SXM GPU-er med NVLink, massive mengder DDR5-minne og enterprise-klasse nettverk for trening og inferens av store AI-modeller. Dette er bestillingsvare, og noe leveringstid må påregnes. AI-ytelse i toppklasse Dell PowerEdge XE9680 er en av de kraftigste AI-serverne som finnes på markedet. Systemet er utstyrt med 8 × NVIDIA H100 80GB SXM GPU-er montert på et HGX-baseboard med full NVLink-kobling mellom alle GPU-ene. Dette gir ekstrem intern båndbredde og gjør det mulig å trene og kjøre store språkmodeller langt mer effektivt enn på systemer uten NVLink. Med totalt 640 GB samlet GPU-minne kan systemet håndtere svært store modeller direkte i GPU-minne, noe som reduserer behovet for CPU- eller disk-offloading og gir betydelig høyere ytelse under trening og inferens. Massiv CPU- og minnekapasitet Serveren drives av dual Intel Xeon Platinum 8462Y+ prosessorer med 32 kjerner hver, optimalisert for høy minnebåndbredde og tung parallell behandling. Sammen med 2 TB DDR5 ECC-minne gir dette en plattform som enkelt håndterer dataloading, pre-prosessering og CPU-tunge HPC-oppgaver uten å bli en flaskehals for GPU-ene. DDR5-4800 ECC-minnet er konfigurert i 32 moduler for maksimal båndbredde og stabilitet under lange AI-treningsjobber. Enterprise nettverk og lagring Serveren er utstyrt med Mellanox ConnectX-7 nettverkskort, utviklet for ekstrem datagjennomstrømning i AI- og HPC-klynger. Dette gjør systemet godt egnet til distribuerte treningsmiljøer der flere GPU-noder samarbeider over høyhastighetsnettverk. For lagring leveres systemet med 2 × 7,68 TB NVMe Gen4 SSD samt støtte for opptil 8 NVMe-disker i front. Dette gir høy I/O-ytelse ved håndtering av store datasett, modellvekter og checkpoint-lagring. Designet for kontinuerlig drift PowerEdge XE9680 er konstruert for datarom og AI-infrastruktur som kjører kontinuerlig under høy belastning. Serveren har 6 × 2800 W redundant strømforsyning og et avansert kjølesystem utviklet for å holde alle komponenter stabile selv under maksimal GPU-belastning. Administrasjon skjer via iDRAC9 Enterprise, som gir full fjernstyring av serveren – inkludert strømstyring, BIOS-konfigurasjon, firmwareoppdateringer og KVM-tilgang via dedikert nettverksport. Stand og levering Serveren er rekondisjonert og grundig testet før levering. Alle komponenter er verifisert for stabil drift under belastning, og testrapport følger med hver enhet. Dette er bestillingsvare, og noe leveringstid må påregnes. Passer godt til: trening av store språkmodeller (LLM), finjustering av AI-modeller, GPU-akselerert HPC, maskinlæring i stor skala, inferens-servere og forskningsmiljøer som krever ekstrem GPU-kapasitet. Spesifikasjoner: Dell PowerEdge XE9680 AI Server Servermodell Dell PowerEdge XE9680 GPU 8 × NVIDIA H100 SXM 80GB GPU-minne 640 GB totalt (NVLink-koblet) GPU-plattform NVIDIA HGX Baseboard Prosessorer 2 × Intel Xeon Platinum 8462Y+ Kjerner / tråder 64 kjerner / 128 tråder totalt Systemminne 2 TB DDR5 ECC (32 × 64 GB, 4800 MT/s) Lagring 2 × 7,68 TB NVMe Gen4 U.2 SSD Diskbrønner 8 × SFF NVMe Nettverk Mellanox ConnectX-7 (MT2910) Ekstra nettverk 2 × Broadcom 5720 Dual-Port 1GbE (onboard) Strømforsyning 6 × 2800 W redundant PSU Administrasjon Dell iDRAC9 Enterprise Stand Rekondisjonert – testet og klar for drift
