شرکت انویدیا (Nvidia) در حال سفارشی‌سازی پلتفرم محبوب DGX Spark و تراشه GB10 SoC خود است تا بهتر با واقعیت‌های مدل‌های هوش مصنوعی امروزی و کمبود گسترده قطعات سیلیکونی سازگار شود. این شرکت نسخه ۶۴ گیگابایتی از Spark را معرفی می‌کند که قرار است برای پیشگامان هوش مصنوعی محلی که نیازی به ۱۲۸ گیگابایت رم ندارند، مقرون‌به‌صرفه‌تر باشد.
زمانی که ما برای اولین بار شروع به بررسی قابلیت‌های DGX Spark و سیستم‌های مشابه کردیم، فرض کلی بر این بود که رم زیاد برای نگهداری هوشمندترین مدل‌هایی که ممکن است بخواهید اجرا کنید ضروری است، و بنابراین سیستم‌های حافظه یکپارچه ساخته شده پیرامون تراشه‌های Strix Halo شرکت AMD، تراشه GB10 انویدیا و سری M شرکت اپل (Apple) همگی می‌توانند با ۱۲۸ گیگابایت حافظه یا بیشتر پیکربندی شوند.
اما حوزه هوش مصنوعی به سرعت حرکت می‌کند. مدل‌های متراکم و بسیار هوشمندی مانند Qwen 3.8 27B اکنون می‌توانند به راحتی در ۳۲ گیگابایت رم جا شوند (البته با کانتکست محدود)، بنابراین حافظه ۱۲۸ گیگابایتی Spark اصلی صرفاً برای استنتاج محلی ضروری نیست. و قیمت‌های سرسام‌آور رم به این معناست که تراشه‌ای که دائمی با مقدار زیادی رم پرهزینه LPDDR5X جفت شده است، بیشتر یک مانع برای ورود است تا یک دارایی. بنابراین یک Spark مقرون‌به‌صرفه‌تر با حافظه کمتر برای کسانی که به قابلیت‌ها و استک نرم‌افزاری پشتیبان GB10 Superchip انویدیا نیاز دارند و می‌توانند با حافظه کمتر سر کنند، منطقی است.
یک DGX Spark «مقرون‌به‌صرفه‌تر» البته در بازار امروزی نسبی است. سیستم‌های ۶۴ گیگابایتی GB10 از شرکت‌های ایسر (Acer)، ایسوس (Asus)، دل (Dell)، گیگابایت (Gigabyte)، اچ‌پی (HP) و ام‌اس‌آی (MSI) قرار است در هنگام عرضه در تاریخ ۲۳ اکتبر با قیمت پایه ۴۹۹۹ دلار شروع شوند. با توجه به قیمت‌های دائماً در حال تغییر حافظه و ذخیره‌سازی در حال حاضر، ممکن است آن‌ها برای مدت طولانی در آنجا باقی نمانند. با فرض اینکه بتوانید یک سیستم ۱۲۸ گیگابایتی GB10 را در انبار پیدا کنید، می‌توانید انتظار داشته باشید که حدود ۷۰۰۰ تا ۹۰۰۰ دلار برای یکی از آن‌ها بپردازید که بسیار بالاتر از قیمت خرده‌فروشی پیشنهادی تعدیل‌شده انویدیا است.
جدا از تغییر ظرفیت حافظه، مدل‌های ۶۴ گیگابایتی Spark همان کنترل‌کننده شبکه ConnectX 7 RDMA NIC را حفظ خواهند کرد که در همتایان ۱۲۸ گیگابایتی آن‌ها وجود دارد، به این معنی که اگر کاربر در نهایت از مرزهای ۶۴ گیگابایت رم فراتر رود، همچنان می‌توان آن‌ها را برای افزایش ظرفیت حافظه و عملکرد استنتاج خوشه‌بندی کرد. مجموعه پردازنده مرکزی ۲۰ هسته‌ای Arm از Spark اصلی بدون تغییر منتقل می‌شود، همان‌طور که پهنای باند حافظه اشتراکی ۲۷۳ گیگابایت بر ثانیه برای پردازنده مرکزی و پردازنده گرافیکی این‌گونه است.
برای کمک به استفاده از آن شبکه ConnectX 7 NIC، انویدیا همچنین پیوستن Sparkها به یکدیگر را با یک ابزار نرم‌افزاری جدید به نام Nvidia Sync Cluster Assistant آسان‌تر می‌کند که فرآیند اتصال این سیستم‌ها به یکدیگر را خودکار می‌کند. (سینک یک برنامه اتصال از راه دور و مدیریت برای Spark است که به کاربران اجازه می‌دهد از قدرت هوش مصنوعی Spark خود از سایر مک‌ها و رایانه‌های شخصی استفاده کنند.)
این ابزار مکمل مجموعه‌ای از ابزارهای توسعه‌یافته توسط جامعه است که طی سال گذشته ظاهر شده‌اند تا خوشه‌بندی را به یک فرآیند یکپارچه‌تر تبدیل کنند، همان‌طور که ما در آزمایش‌های خود با خوشه‌بندی دو سیستم Dell GB10 در اوایل سال جاری استفاده کردیم.
انویدیا همچنین ویژگی جدیدی را به Sync به نام Model Launcher اضافه می‌کند که به طور خودکار مدل‌هایی مانند Qwen 3.8 27B ذکر شده را در سراسر یک یا چند سیستم دانلود و راه‌اندازی می‌کند و آن‌ها را به عامل کدنویسی مبتنی بر مرورگر OpenCode پیوند می‌دهد تا کاربران بتوانند بلافاصله از کارخانه‌های توکن محلی خود برای جریان‌های کاری عاملی استفاده کنند.
سیستم‌های ۱۲۸ گیگابایتی DGX Spark و مدل‌های مشابه آن برای کسانی که به فضا برای مدل‌های بزرگ‌تر و مقیاس‌بندی در میان خوشه‌ها نیاز دارند، یا برای کارهای محلی هوش مصنوعی نیازمند حافظه بیشتر مانند تنظیم دقیق مدل در دسترس خواهند ماند، بنابراین اساساً هیچ جنبه منفی برای این افزوده به سبد محصولات DGX Spark وجود ندارد. در بازار متلاطم امروز، داشتن گزینه‌ها خوب است و یک Spark با ظرفیت ۶۴ گیگابایت انتخاب دیگری را به طرفداران هوش مصنوعی محلی می‌دهد تا بهتر با بودجه و جریان‌های کاری آن‌ها مطابقت داشته باشد.
منبع: tomshardware.com