عادل الحلاک (Adel el Hallak) دستگاه DGX Spark را در خانهاش دارد. این دستگاه کارهای مربوط به هوش مصنوعی را در طول شب اجرا میکند و اگر او فراموش کند پیش از خواب کاری به آن بسازد، حس بدی پیدا میکند.
الحلاک، معاون محصولات انویدیا (Nvidia)، به تامز گاید (Tom's Guide) میگوید: «در خانه اگر کاری را برای اجرا در طول شب شروع نکنم احساس گناه میکنم. این دستگاه سر و صدا ندارد و چون به هر حال به برق متصل است، اگر این کار را برای یک مسئله شخصی انجام ندهم احساس عذاب وجدان میگیرم.»
این یک جزئیات کوچک و دوستداشتنی از یک مصاحبه گسترده است، اما همچنین به مسیری که هوش مصنوعی، بهویژه هوش مصنوعی محلی (Local AI)، به سمت آن در حرکت است اشاره میکند. زیرا وقتی فرد مسئول استراتژی محصولات هوش مصنوعی انویدیا در حال حاضر با یک رایانه شخصی هوش مصنوعی در خانهاش زندگی میکند و با آن بیشتر به عنوان یک لوازم خانگی رفتار میکند تا یک سرور، این میتواند به این معنا باشد که بسیاری از ما نیز در چند سال آینده همین کار را خواهیم کرد.
دلایل کنار گذاشتن رایانش ابری
در حال حاضر، بیشتر مردم از طریق یک مرورگر یا اپلیکیشن با هوش مصنوعی ارتباط برقرار میکنند. این بدان معناست که وقتی به ChatGPT یا Perplexity یا هر دستیار هوش مصنوعی دیگری دستور (Prompt) میدهید، دادههای شما به یک مرکز داده (Data Center) منتقل میشود و پاسخی برمیگردد. این روش کار میکند، اما هزینهای به همراه دارد؛ هم از نظر مالی و هم از نظر حفظ حریم خصوصی (Privacy). هر سوالی که میپرسید، هر سندی که آپلود میکنید و هر جزئیات شخصی که به اشتراک میگذارید روی زیرساخت شخص دیگری قرار میگیرد.
الحلاک فکر میکند که هوش مصنوعی محلی این معادله را تغییر میدهد. او گفت: «من میتوانم یک مدل به اندازه کافی خوب را روی سیستمم در خانه اجرا کنم.» اساساً، اگر مدل روی سختافزاری که مالک آن هستید اجرا شود، دادههای شما هرگز خانه شما را ترک نمیکنند و هیچ اشتراک ماهیانهای وجود ندارد.
محاسبات ریاضی این موضوع ارزش فکر کردن را دارد. دستگاه DGX Spark شرکت انویدیا در حال حاضر با قیمت ۴۶۹۹ دلار به فروش میرسد که به هیچ وجه ارزان نیست. اما اشتراک ChatGPT Plus ماهیانه ۲۰ دلار یا سالیانه ۲۴۰ دلار هزینه دارد. طی پنج سال، این مبلغ به ۱۲۰۰ دلار میرسد و شما همچنان مالک هیچ چیزی نیستید. در همین حال، اسپارک (Spark) پرسوجوهای نامحدودی را بدون صورتحساب به ازای توکن (Token)، بدون محدودیت استفاده و بدون نیاز به اینترنت اجرا میکند.
البته این یک مقایسه همهجانبه نیست. مدلهای GPT-6 و Claude به طور قابل توجهی تواناتر از مدلهای متنباز (Open-Source) هستند که ممکن است روی یک اسپارک به صورت محلی اجرا کنید. اما برای تعداد رو به رشدی از وظایف — مانند خلاصهسازی اسناد، پیشنویس کردن ایمیلها، جستجو در فایلهای شخصی و اجرای یک دستیار برنامهنویسی — یک مدل محلی با ۱۲۸ گیگابایت حافظه و دسترسی به پشته کامل CUDA انویدیا بیش از حد کافی است.
این فناوری فقط برای توسعهدهندگان نیست
دستگاه DGX Spark اکتبر گذشته به عنوان آنچه انویدیا «کوچکترین ابررایانه هوش مصنوعی جهان» مینامد، عرضه شد. در آن زمان، این دستگاه مستقیماً توسعهدهندگان، محققان و دانشمندان داده را هدف قرار داده بود. این سیستمعامل لینوکس (Linux) را اجرا میکند، ۲.۶ پوند وزن دارد و اندازه آن به بزرگی یک Mac Mini است.
اما اکوسیستمی که در اطراف آن شکل میگیرد شروع به نشان دادن چهرهای دوستانهتر برای مصرفکننده کرده است. همانطور که ماه گذشته نوشتم، شرکت Perplexity به تازگی Portable Computer را راهاندازی کرده است که یک مدل هوش مصنوعی محلی، ابزارهای ایجنت (Agent)، اتصالات اپلیکیشن و یک زمان اجرای سندباکس شده را در یک سیستم واحد بستهبندی میکند که روی سختافزار DGX Spark اجرا میشود. هر وظیفهای روی دستگاه شما آغاز میشود. اگر مدل محلی به چیزی برخورد کند که از عهده آن برنمیآید، پیش از ارسال آن یک مرحله به ابر (Cloud)، از شما اجازه میگیرد. فایلهای شما سر جای خود باقی میمانند.
الحلاک این موضوع را یک روند میداند نه یک استثنا. او به ارائهدهندگان ابزار اشاره کرد — شرکتهایی که لایه نرمافزاری بین یک مدل و کاربر را میسازند — که راهاندازی را به طور چشمگیری سادهتر میکنند. او گفت: «شما کارها را از طریق خط فرمان (Command Line) یا نصب با pip انجام نمیدهید. آنها کار را سادهتر میکنند — درست مانند روزهای قدیمی استفاده از ویندوز و نصب یک اپلیکیشن. آنها در حال بازگرداندن این تجربه به محیط گرافیکی (GUI) هستند.»
اگر این صدا برای شما آشنا به نظر میرسد، باید هم همینطور باشد. این همان مسیری است که ذخیرهسازی متصل به شبکه (NAS) را از یک سرگرمی برای افراد علاقهمند به چیزی تبدیل کرد که شرکت Synology در فروشگاههای بستبای (Best Buy) میفروشد. سختافزار سالها پیش از آنکه نرمافزار آن را قابل دسترس کند، وجود داشت.
لپتاپهای RTX Spark تصویر را تغییر میدهند
رایانه رومیزی DGX Spark اثبات مفهومی است. اما بازی اصلی مصرفکننده ممکن است چیزی باشد که در راه است: لپتاپهای RTX Spark، که همان سیلیکون GB10 را در قالب نوتبوک جای میدهند و انتظار میرود پاییز امسال از سوی شرکتهای دل (Dell)، اچپی (HP)، لنوو (Lenovo)، ایسوس (Asus)، اماسآی (MSI)، ایسر (Acer) و دیگران عرضه شوند. شرکت Microsoft در حال ساخت یک لپتاپ سرفیس اولترا (Surface Laptop Ultra) در اطراف این تراشه است.
اینها ماشینهای صرفاً مختص هوش مصنوعی نیستند — آنها سیستمعامل Windows 11 را اجرا میکنند، بازیها را اجرا میکنند و بارهای کاری معمولی لپتاپ را مدیریت میکنند. اما ۱۲۸ گیگابایت حافظه یکپارچه (Unified Memory) آنها به این معناست که آنها همچنین میتوانند مدلهای زبانی بزرگ (LLMs) را اجرا کنند که هر پردازنده گرافیکی مصرفی فعلی را از کار میاندازند. نسخه لپتاپی آنچه الحلاک روی میز خود در خانه دارد، اما بدون محدودیت انحصاری لینوکس.
الحلاک گفت: «این واقعیت که شما مدل را به صورت محلی با یک ابزار و رانتایم که نصب آنها سادهتر شده است اجرا خواهید کرد — فکر میکنم واقعاً هوش مصنوعی محلی را آغاز خواهد کرد.»
استدلال واقعی عملکرد نیست، بلکه مالکیت است
الحلاک داستانی از دنیای سازمانی تعریف کرد که به طور عالی به مصرفکنندگان نیز منتقل میشود: «زمانی بود که مردم به جدول امتیازات و میزان توکنهایی که مصرف میکردند افتخار میکردند. سپس یکی از افراد بخش فناوری اطلاعات آنها صورتحسابهایشان را دریافت کرد و ناگهان من به یک بهینهساز هزینه تبدیل شدم.»
هر کسی که شاهد افزایش استفاده خود از کلود (Claude) بوده است — یا به محدودیتهای نسخه رایگان برخورد کرده است — این حس را میداند. و از آنجایی که ایجنتهای هوش مصنوعی توانمندتر میشوند و شروع به لمس دادههای شخصی بیشتری (تقویم، ایمیل، امور مالی شما) میکنند، این پرسش که پردازش در کجا اتفاق میافتد دیگر نظری نیست.
الحلاک گفت: «هوش مصنوعی محلی فقط توکنهای بیشتری به همراه خواهد داشت و توکنها با هوش برابر هستند. وقتی هوش را با یک ابزار جفت میکنید، قادر به انجام کارها هستید و سپس رانتایم آن را ایمن میکند.»
یا به قول خودش به زبان سادهتر: «مراکز داده در خانه.»
منبع: tomsguide.com