سخت افزار NVIDIA DGX Spark را بشناسید!

در این پست، NVIDIA DGX Spark را کالبدشکافی می‌کنم؛ «ابرکامپیوتر رومیزی» جدید انویدیا که ادعا می‌کند قدرت دیتاسنتر را مستقیما برای توسعه‌دهندگان هوش مصنوعی به ارمغان می‌آورد. در ادامه به بررسی کاربردها و مقایسه آن با کارت‌های گرافیک غول‌پیکر خواهم پرداخت.

DGX Spark چیست؟

قبل از هرچیز بهتر است به این سوال پاسخ دهم که DGX Spark دقیقا چیست؟ می‌خواهم خیلی سریع تعریفش کنم:

DGX Spark، یعنی انتقال قدرت یک دیتاسنتر کامل به زیر دست شما، آن هم در یک جعبه کوچک!

این دستگاه که در اکتبر ۲۰۲۵ (مهر ۱۴۰۴) معرفی شد، یک کامپیوتر فشرده و تخصصی برای هوش مصنوعی است. هدفش این است که شما به عنوان یک توسعه‌دهنده یا محقق، دیگر برای آموزش یا اجرای مدل‌های زبانی بزرگ (LLM)، محتاج رزرو کردن سرورهای گران‌قیمت ابری یا منتظر ماندن در صف دیتاسنترهای اشتراکی نباشید.

معماری DGX Spark

شاید بپرسید، خب، این چه فرقی با یک کامپیوتر رومیزی خیلی قوی یا یک ورک‌استیشن با دوتا RTX 5090 دارد؟ پاسخ در معماری حافظه و پردازنده آن نهفته است. بیایید آن را کالبدشکافی کنیم. در واقع این سیستم دو وظیفه مهم را با هم دیگر ادغام کرده است:

پردازش مرکزی و گرافیکی در یک بسته (ابرتراشه)

قلب تپنده این سیستم، ابرتراشه NVIDIA GB100 Grace Blackwell است. این تراشه، یک پردازنده مرکزی (CPU) قدرتمند ۲۰ هسته‌ای (شامل ۱۰ هسته پرقدرت Cortex-X925 و ۱۰ هسته بهینه Cortex-A725) را به همراه یک پردازنده گرافیکی (GPU) پیشرفته از نسل Blackwell، همگی در یک بسته واحد ادغام کرده است.

تفاوت اصلی: حافظه یکپارچه (Unified Memory)

این بزرگترین مزیت DGX Spark و دلیل اصلی وجود آن است. بیایید این را کمی باز کنیم؛ در کامپیوترهای سنتی، CPU حافظه RAM خودش را دارد (مثلا ۶۴ گیگابایت DDR5) و GPU هم حافظه VRAM خودش را (مثلا ۲۴ گیگابایت GDDR6X). وقتی می‌خواهید یک مدل هوش مصنوعی بزرگ (مثلا یک مدل ۷۰ میلیارد پارامتری) را اجرا کنید که در VRAM جا نمی‌شود، داده‌ها باید دائما بین RAM و VRAM جابه‌جا شوند. این جابه‌جایی از طریق درگاه PCIe صورت می‌گیرد و به‌شدت زمان‌بر است. این همان چیزی است که به آن «گلوگاه سیستم» (System Bottleneck) می‌گوییم.

اما DGX Spark با برخورداری از ۱۲۸ گیگابایت حافظه یکپارچه (LPDDR5x) این مشکل را به طور کامل حل کرده است. در این معماری، هم CPU و هم GPU به یک استخر حافظه واحد و عظیم دسترسی مستقیم و بسیار سریع دارند. دیگر خبری از کپی کردن داده‌ها از RAM به VRAM نیست. این ویژگی، امکان بارگذاری و کار با مدل‌های زبانی بسیار بزرگ را به راحتی فراهم می‌کند.

قدرت دستگاه DGX Spark

این دستگاه توان پردازشی معادل ۱ پتافلاپ (1 PetaFLOP) در محاسبات FP4 ارائه می‌دهد. به زبان ساده‌تر، این قدرت برای پردازش و اجرای مدل‌های هوش مصنوعی تا سقف ۲۰۰ میلیارد پارامتر کافی است!

طراحی فیزیکی دستگاه

دستگاه DGX Spark در یک جعبه با ابعاد بسیار فشرده ۱۵۰ در ۱۵۰ در ۵۰.۵ میلی‌متر و وزن تنها ۱.۲ کیلوگرم جا شده است! شاید هم‌اندازه یک کتاب جیبی حجیبم! به راحتی روی هر میزی قرار می‌گیرد و برق آن از طریق یک منبع تغذیه خارجی USB-C (تا ۲۴۰ وات) تامین می‌شود.

نرم‌افزارها

این فقط یک سخت‌افزار خام نیست. یک دستگاه با پشته نرم‌افزاری کامل هوش مصنوعی انویدیا (شامل DGX OS ،CUDA و فریمورک‌های بهینه‌شده مثل PyTorch) عرضه می‌شود. این یعنی توسعه دهنده می‌تواند دستگاه را به برق وصل کرده و بلافاصله کار توسعه مدل‌های پیچیده را آغاز کند.

مقیاس‌پذیری: آیا می‌توان آن را قوی‌تر کرد؟

بله! DGX Spark تنها برای کار انفرادی طراحی نشده است. انویدیا به فکر کار تیمی هم بوده. هر دستگاه مجهز به کارت شبکه NVIDIA ConnectX-7 است که اجازه می‌دهد دو عدد DGX Spark با سرعت فوق‌العاده ۲۰۰ گیگابیت بر ثانیه مستقیما به یکدیگر متصل شوند. با این کار، منابع دو دستگاه (مجموعا ۲۵۶ گیگابایت حافظه یکپارچه) با هم یکی شده و می‌توانید مدل‌های غول‌پیکری تا سقف ۴۰۵ میلیارد پارامتر را به صورت محلی اجرا کنید!

مقایسه با سایر GPU-ها: کامیون باری در برابر خودروی اسپرت!

خب رسیدیم به اصل مطلب! حالا با چه متر و معیاری عملکرد این دستگاه را بسنجیم؟ آیا این دستگاه از یک کارت گرافیک رومیزی گران‌قیمت مثل RTX 5090 یا RTX Pro 6000 Blackwell سریع‌تر است؟ بررسی‌های فنی مستقل (مانند گزارش LMSys) نشان می‌دهد که درک تفاوت این دو بسیار مهم است. بیایید از یک تشبیه ساده استفاده کنیم:

• کارت گرافیک RTX 5090 مانند یک خودروی اسپرت (مثل فراری) است؛ بسیار سریع (پهنای باند حافظه بالای ۱۰۰۰ گیگابایت بر ثانیه)، اما با فضای بار محدود (مثلا ۲۴ یا ۳۲ گیگابایت VRAM).
• دستگاه DGX Spark مانند یک کامیون باری است؛ شاید به سرعت آن خودروی اسپرت نرسد (پهنای باند حافظه حدود ۲۷۳ گیگابایت بر ثانیه)، اما می‌تواند محموله‌ای (مدل AI) را جابجا کند که خودروی اسپرت حتی نمی‌تواند آن را در خود جای دهد.

جدول زیر (بر اساس تست‌های گزارش شده) عملکرد DGX Spark را نشان می‌دهد:

«پرفیل» (Prefill) به مرحله پردازش اولیه و یکجای پرامپت (Prompt) ورودی توسط مدل هوش مصنوعی گفته می‌شود. در این فاز، مدل کل دستور یا سوال شما را «می‌بلعد» و «درک» می‌کند تا بفهمد چه خواسته‌اید. در مقابل، «دیکد» (Decode) مرحله (تولید پاسخ)است؛ یعنی پس از اتمام فاز پرفیل و فهمیدن درخواست، مدل شروع به ساختن جواب به صورت توکن به توکن (کلمه به کلمه) می‌کند.

توجه: سرعت دیکد (Decode) پایین در مدل 70B (یعنی ۲.۷ توکن در ثانیه) نشان‌دهنده همان محدودیت پهنای باند حافظه (کامیون بودن) است. اما نکته کلیدی این است که این کار را انجام می‌دهد.

نقاط قوت و ضعف

با مقایسه بخش قبل، نقطه قوت و ضعف DGX Spark مشخص است:

• نقطه قوت DGX (ظرفیت): این دستگاه می‌تواند مدل‌هایی مانند Llama 3.1 70B را اجرا کند. این در حالی است که RTX 5090 اصلا قادر به بارگذاری چنین مدلی نیست (چون حافظه‌اش پر می‌شود).
• نقطه ضعف DGX (سرعت استنتاج): اگر مدلی را تست کنیم که در هر دو دستگاه جا می‌شود (مثلا Llama 3.1 8B)، RTX 5090 به دلیل پهنای باند حافظه بسیار بالاتر، آن را با سرعت (توکن بر ثانیه) بیشتری اجرا خواهد کرد.

در جدول زیر، لیست مزایا و معایب دستگاه DGX Spark را آوردم.

دستگاه DGX Spark به درد چه کسانی می‌خورد؟

DGX Spark برای همه مناسب نیست (مثلا برای گیمرها اصلا مناسب نیست!)، اما برای گروه‌های خاصی، یک تغییردهنده بازی (Game Changer) واقعی محسوب می‌شود:

• محققان و توسعه‌دهندگان AI: افرادی مثل شما که نیاز به آزمایش و تکرار سریع (Prototyping) روی مدل‌های ۷۰ میلیارد پارامتری یا بزرگتر دارند، بدون اینکه نیازی به رزرو منابع گران‌قیمت در سرورهای ابری یا دیتاسنترهای اشتراکی داشته باشند.
• سازمان‌های با داده‌های حساس: شرکت‌های فعال در حوزه‌هایی مانند پزشکی، امور مالی یا حقوقی که به دلیل محرمانگی داده‌ها نمی‌توانند اطلاعات خود را برای پردازش به سرویس‌های ابری ارسال کنند. DGX Spark به آن‌ها اجازه می‌دهد مدل‌های بزرگ را به صورت کاملا محلی (Local) و امن اجرا کنند.
• توسعه‌دهندگان نرم‌افزار: برنامه‌نویسانی که می‌خواهند قابلیت‌های هوش مصنوعی پیشرفته (مبتنی بر مدل‌های بزرگ) را مستقیما در نرم‌افزارهای رومیزی خود (مثلا در فتوشاپ، نرم‌افزارهای مهندسی و…) ادغام کنند.

قیمت دستگاه NVIDIA DGX Spark

مدل استاندارد DGX Spark با ۴ ترابایت حافظه داخلی (NVMe)، ۳,۹۹۹ دلار قیمت‌گذاری شده است. بسته‌های شامل دو دستگاه به همراه کابل اتصال مخصوص (برای رسیدن به ۲۵۶ گیگابایت حافظه) نیز در دسترس است. این محصول علاوه بر فروشگاه رسمی انویدیا، توسط شرکای سخت‌افزاری بزرگ مانند ASUS، Dell، HP و Lenovo و همچنین خرده‌فروشان معتبر عرضه می‌شود.

جمع‌بندی

NVIDIA DGX Spark یک کارت گرافیک قوی‌تر یا یک سرور کوچک‌شده نیست؛ این یک دسته محصول کاملا جدید است. این (ابرکامپیوتر رومیزی) شکاف بین ایستگاه‌های کاری (محدود از نظر حافظه) و دیتاسنترها (گران و دور از دسترس) را پر می‌کند. اگر اولویت شما بالاترین سرعت ممکن برای اجرای مدل‌های کوچک یا متوسط است، یک ایستگاه کاری مجهز به RTX Pro 6000 Blackwell گزینه بهتری خواهد بود. اما اگر کار شما شامل تحقیق، توسعه و اجرای مدل‌های بسیار بزرگ (۷۰ میلیارد پارامتر به بالا) به صورت محلی، امن و سریع (از نظر شروع به کار) است، DGX Spark با ظرفیت حافظه عظیم خود، ابزاری منحصربه‌فرد و متحول‌کننده محسوب می‌شود.

بسیارخب، توضیحات من به پایان رسید. خوشحال می‌شوم که نظر و پیشنهادتان را درباره این پست بگویید. آیا به نظر شما این دستگاه می‌تواند روش کار توسعه‌دهندگان هوش مصنوعی را تغییر دهد؟ مشتاق شنیدن نظرات شما هستم…

نویسنده: آیدا آقائی نیا

منابع:

• https://www.nvidia.com/en-us/products/workstations/dgx-spark/
• https://github.com/casualcomputer/rtx_pro_6000_vs_dgx_spark
• https://signal65.com/research/nvidia-dgx-spark-first-look-a-personal-ai-supercomputer-on-your-desk/