spdup.net

Technologienieuws

AI‑supercomputer ter grootte van een rugzak, MSI Expert Edge, aangedreven door NVIDIA DGX Spark


AI‑supercomputer ter grootte van een rugzak, MSI Expert Edge, aangedreven door NVIDIA DGX Spark

Introductie

MSI en NVIDIA hebben de krachten gebundeld om een ultra‑compacte AI‑supercomputer te creëren die in een rugzak past: de MSI Expert Edge. Gebouwd op NVIDIA’s DGX Spark‑platform en uitgerust met de nieuwste Grace Blackwell‑GPU‑architectuur, levert het apparaat AI‑prestaties van desktop‑klasse in een draagbare metalen behuizing. Dit artikel onderzoekt het hardware‑ontwerp, de specificaties, de software‑omgeving en de prestaties in de praktijk van de Expert Edge.

Hardware‑ontwerp

De Expert Edge is omhuld door een volledig metalen behuizing die duurzaamheid combineert met voldoende luchtstroom. Een aan de voorkant gemonteerde ventilatieopening voedt een slimme ventilator die het systeem onder belasting koel houdt. Alle externe poorten bevinden zich op het achterpaneel, waardoor de voorkant een nette uitstraling krijgt.

Fysieke kenmerken

  • Behuizing: CNC‑gebeiteld aluminium, geventileerd frontpaneel
  • Voeding: 280 W USB‑C-voedingsadapter (één kabel voor stroomvoorziening)
  • Koeling: Intelligente ventilator met temperatuur‑gebaseerde regeling
  • Afmetingen: Ongeveer zo groot als een grote rugzak, gemakkelijk te vervoeren

Connectiviteit

  • USB‑C: Vier poorten (één uitsluitend voor stroominvoer, drie met DisplayPort Alt Mode)
  • HDMI: Full‑size HDMI 2.1‑uitgang
  • Ethernet: 10 GbE RJ‑45
  • High‑Speed Interconnect: ConnectX‑7 200 Gbps (voor directe node‑to‑node koppeling)
  • Opslag: M.2 NVMe‑slot met ondersteuning voor SSD’s van 1 TB tot 4 TB

Kernspecificaties

ComponentSpecificatie
Processor20‑core ARM SoC (10 × Cortex‑X925, 10 × Cortex‑A725)
GPUNVIDIA Grace Blackwell (gebaseerd op Hopper‑architectuur)
Geheugen128 GB unified RAM, 256‑bit bus, 253 GB/s bandbreedte
OpslagTot 4 TB NVMe SSD
DraadloosWi‑Fi 7, Bluetooth 5.4
BesturingssysteemNVIDIA DGXOS (aangepaste Ubuntu‑distributie)

De unified‑memory‑architectuur maakt het mogelijk dat de GPU toegang heeft tot de volledige 128 GB RAM, waardoor de knelpunt‑bottleneck van traditionele discrete GPU‑systemen met beperkt VRAM (32 GB of minder) wordt geëlimineerd.

Software‑omgeving

De Expert Edge wordt geleverd met DGXOS, een op Ubuntu gebaseerde aangepaste distributie die in alle AI‑apparaten van NVIDIA met een ARM‑architectuur wordt gebruikt. Het OS bevat vooraf geïnstalleerde ontwikkeltools, waaronder:

  • Visual Studio Code (quick‑start configuratie)
  • Docker (container‑runtime voor AI‑workloads)
  • DGX Dashboard (web‑gebaseerde systeemmonitor)
  • Open Web UI en Comfy UI (kant‑klaar LLM‑ en diffusion‑model‑interfaces)

Na de eerste configuratie – het aanmaken van een gebruikersaccount en het toepassen van updates – start het systeem op in een gepolijste Ubuntu‑desktop die is afgestemd op AI‑ontwikkeling. Het DGX Dashboard biedt realtime statistieken voor geheugen‑ en GPU‑gebruik, hoewel de monitoring van CPU‑gebruik momenteel beperkt is.

Demonstraties van AI‑workloads

Inference van grote taalmodellen

Met behulp van de Open Web UI werd een LLM met 21 billion parameters (GPT‑OSS‑20B) geladen en bevraagd. Het model bezette ongeveer 18 GB van het unified geheugen, en de inferentielatentie bedroeg circa drie seconden per prompt. Het GPU‑gebruik piekte tijdens het laden van het model, wat bevestigt dat het systeem moeiteloos met multi‑gigabyte modellen kan omgaan.

Diffusie‑beeldgeneratie

De Comfy UI‑workflow genereerde een batch van tien 512 × 512‑afbeeldingen met een standaard diffusion‑model. De GPU was gedurende het gehele proces volledig benut, wat aantoont dat de Expert Edge hoge‑doorvoertaken voor beeldsynthese kan volhouden.

Gaming‑ en emulatietests

Hoewel de Expert Edge niet als gaming‑apparaat wordt gepositioneerd, maakt de krachtige GPU het mogelijk om moderne emulators te draaien.

  • RPCS3 (PS3‑emulator): Geconfigureerd met de NVIDIA Tegra‑GB10‑driver op 1080p leverde de emulator een stabiele 60 fps met af en toe een kleine hapering.
  • Xemu (Xbox‑emulator): Het draaien van Foster’s Home for Imaginary Friends op 1080p bleef op 30 fps, wat acceptabele prestaties biedt voor oudere console‑titels.

Deze tests laten zien dat het apparaat een breed scala aan emulatie‑workloads aankan, hoewel native Linux‑gaming nog verder verkend moet worden.

Schaalbaarheid met ConnectX‑7

De ingebouwde 200 Gbps ConnectX‑7‑interconnect maakt eenvoudige clustering van meerdere Expert Edge‑units mogelijk, uitsluitend met kabels. Er zijn geen extra switches of configuratiestappen nodig – sluit de 200 Gb‑fibercable tussen de nodes aan en het systeem herkent de link automatisch, waardoor gedistribueerde training of inference over meerdere apparaten mogelijk is.

Vergelijking met traditionele x86‑workstations

KenmerkMSI Expert EdgeHigh‑End RTX 4090 Workstation (x86)
CPU20‑core ARM SoCIntel/AMD 12‑core of hoger
GPUGrace Blackwell (Hopper)RTX 4090 (Ada Lovelace)
Unified Memory128 GB toegankelijk voor GPU32 GB VRAM (GPU) + gescheiden systeem‑RAM
Stroomverbruik280 W450 W+
DraagbaarheidRugzak‑formaatDesktop‑tower
DoelgroepAI‑ontwikkeling, model‑servingGaming, contentcreatie

Het belangrijkste voordeel van de Expert Edge is de grote unified‑memory‑pool, die het werken met enorme AI‑modellen vereenvoudigt zonder complexe data‑sharding.

Conclusie

De MSI Expert Edge toont hoe ver compacte AI‑hardware is gevorderd. Door NVIDIA’s Grace Blackwell‑GPU te combineren met een 20‑core ARM‑processor en 128 GB unified memory, levert MSI een draagbaar platform dat kan wedijveren met traditionele desktop‑supercomputers voor AI‑onderzoek en -ontwikkeling.

De volledig metalen behuizing, robuuste connectiviteit – inclusief een 200 Gbps interconnect voor clustering – en een kant‑klaar software‑stack maken het een aantrekkelijke optie voor data‑wetenschappers en engineers die hoge prestaties onderweg nodig hebben. Hoewel het niet bedoeld is als consument‑gamingapparaat, voegt de mogelijkheid om emulators op speelbare framerates te draaien een interessante secundaire gebruiksmogelijkheid toe.

Voor organisaties die gedistribueerde AI‑workloads willen inzetten zonder de overhead van grote server‑racks, biedt de Expert Edge een overtuigende mix van prestaties, schaalbaarheid en draagbaarheid.

Bekijk Originele Video