اگر سیستم گیمینگ شما هم مانند سیستم من این روزها بیشتر وقت خود را در حالت بیکاری میگذراند، یک جفت از استارتاپها مایلند دستمزدی نزدیک به حداقل دستمزد را در ازای زمان خاموشی آن به شما پرداخت کنند. بر اساس گزارشی از آیتریپلئی اسپکتروم (IEEE Spectrum)، شرکت فار لبز (Far Labs) مستقر در ابوظبی و شرکت اوولوینگ ادج (Evolving Edge) مستقر در آستین، در حال ساخت بازارهایی هستند تا پردازش استنتاج هوش مصنوعی (AI inference) را به سختافزارهای مصرفکننده بیکار برونسپاری کنند.
شرکت فار لبز (Far Labs) برنامهریزی کرده است که پلتفرم فار هوش مصنوعی (Far AI) خود را در هفتههای آینده با ادعای تاخیر ۱۰۰ میلیثانیه یا کمتر راهاندازی کند، در حالی که شرکت اوولوینگ ادج (Evolving Edge) در حال اجرای یک نسخه بتای باز است. ایلِمان شازایف (Ilman Shazhaev)، بنیانگذار و مدیرعامل فار لبز (Far Labs) به این رسانه گفت: «تصور کنید اوبر (Uber) یا ایربنب (Airbnb) است، اما برای وظایف محاسباتی استنتاج هوش مصنوعی.» هر دو شرکت مدلهای منبعباز کوچکتر را به جای بارهای کاری در مقیاس مرزی هدف قرار دادهاند و به بازیگران تثبیتشدهای مانند پلتفرم سالاد (Salad) مستقر در یوتا میپیوندند که بیش از ۶۰,۰۰۰ پردازنده گرافیکی (GPU) فعال مصرفکننده روزانه را در شبکه خود فهرست میکند.
برنامهریز اختصاصی فار لبز (Far Labs) یک مدل را به قطعاتی تقسیم میکند که در چندین ماشین پخش میشوند و یک هماهنگکننده و یک متوازنکننده بار سپس خروجیهای جزئی را دوباره مونتاژ میکنند تا یک پاسخ تشکیل شود. شرکت اوولوینگ ادج (Evolving Edge) کارها را با استفاده از ری (Ray)، فریمورک منبعباز مورد استفاده در مراکز داده مرسوم، توزیع میکند.
اجازه دادن به بار کاری یک غریبه روی یک ماشین شخصی بدیهی است که با خطراتی برای میزبانان همراه است، مانند کدهای مخرب که در نهایت روی دستگاه قرار میگیرند یا فردی در انتهای دیگر که به فایلهای محلی دسترسی پیدا میکند. راهحل این دو شرکت برای این موضوع جداسازی است، به طوری که استنتاج به عنوان یک بار کاری سندباکس شده با ارتباطات رمزگذاریشده و محدودیتهای سخت روی پردازنده گرافیکی (GPU)، پردازنده مرکزی (CPU)، حافظه، فضای ذخیرهسازی و دسترسی به شبکه اجرا میشود. مشتریان هیچ دسترسی مستقیمی به ماشین میزبان دریافت نمیکنند و شرکت اوولوینگ ادج (Evolving Edge) نرمافزار نود خود را منبعباز کرده است تا میزبانان بتوانند آنچه را که روی سختافزارشان اجرا میشود، حسابرسی کنند.
پلتفرم سالاد (Salad) محاسبات پردازنده گرافیکی مصرفکننده را با قیمتهای شروع از 0.02 دلار در ساعت به مشتریان میفروشد و صاحب کارت گرافیک تنها پس از اینکه پلتفرم سهم خود را برداشت، تکهای از آن کیک را میبیند. ما در سال ۲۰۲۱، زمانی که شبکه آن اتریوم (Ethereum) استخراج میکرد، سالاد (Salad) را بررسی کردیم و تخمین زدیم که این شرکت تقریباً ۳.۶ میلیون دلار از رایانههای کاربران درآمد کسب کرده است در حالی که ۵۰۰,۰۰۰ دلار پاداش توزیع کرده است، که برای افرادی که سیلیکون را تامین میکنند به حدود ۱۴ سنت به ازای هر دلار تبدیل میشود.
هزینههای برق سپس هر چه باقی مانده است را میبلعد. یک کارت گرافیک ارتیاکس ۴۰۹۰ (RTX 4090) تحت بار مداوم ۳۵۰ وات تا ۴۵۰ وات مصرف میکند که با نرخ 0.15 دلار به ازای هر کیلووات ساعت، اگر کارت به صورت شبانهروزی کار کند، تقریبا ۴۰ تا ۵۰ دلار در ماه است، بنابراین سیستمی که کمتر از آن درآمد کسب کند عملاً برای امتیاز داشتن یک کار هزینه میپردازد. با این حال، گزارش آیتریپلئی اسپکتروم (IEEE Spectrum) شامل نرخهای پرداخت برای هیچیک از پلتفرمهای جدید نمیشود.
هر دو بنیانگذار این نکته را مطرح میکنند که شبکههای توزیعشده خرابیهایی را که در غیر این صورت ابرهای متمرکز را فلج میکنند، پشت سر میگذارند. جان فدریکو (John Federico)، بنیانگذار و مدیرعامل شرکت اوولوینگ ادج (Evolving Edge)، به قطعی اکتبر گذشته آمازون وب سرویس (AWS) اشاره کرد که تختهای هوشمند متصل به اینترنت را در موقعیتهای عمودی خود گیر انداخته بود و به آیتریپلئی اسپکتروم (IEEE Spectrum) گفت که شبکه او میتواند ۱۰۰ نود از ۲۵۰,۰۰۰ نود را از دست بدهد «و مهم نخواهد بود».
علاوه بر همه اینها، محاسبات هوش مصنوعی توزیعشده یک مشکل اعتبار دارد که باید بر غلبه کند. یک پیشچاپ تحقیقاتی از ماه ژوئن ادعا کرد که پرل (Pearl)، یک بلاکچین که به عنوان تبدیل استخراج ارز دیجیتال به کار هوش مصنوعی بازاریابی میشود، معادل ۳۲۰۰۰۰ پردازنده گرافیکی کلاس ارتیاکس ۳۰۹۰ (RTX 3090) را بر روی ریاضیات ماتریس تصادفی اجرا کرده است در حالی که هیچ محاسبات هوش مصنوعی مفیدی تولید نکرده است. شرکتهای فار لبز (Far Labs) و اوولوینگ ادج (Evolving Edge) کارهای استنتاج واقعی مشتری را به جای پاداشهای توکنی هدایت میکنند، که آنها را یک قدم جلوتر از آن مدل قرار میدهد، اما ارقام هزینه و تاخیر آنها ادعاهای اثباتنشدهای هستند تا زمانی که، و اگر، شبکهها در مقیاس بزرگ کار کنند.
منبع: tomshardware.com