راه‌اندازی اوپن‌کلاو به سادگیِ اینترنت نیست – اجرای هوش مصنوعی محلی روی سخت‌افزار معمولی

مگر اینکه زیر سنگ زندگی کرده باشید، اوپن‌کلاو (OpenClaw) برای بیشترِ اوایل سال ۲۰۲۶ سرتیتر اخبار را، هم اخبار خوب و هم بد، به خود اختصاص داده است. این ابزار که توسط پیتر اشتاینبرگر (Peter Steinberger) توسعه یافته، موتوری است که یک عامل هوش مصنوعی را راه‌اندازی می‌کند که می‌تواند به طور مستقل از طرف شما عمل کند، تا جایی که توانایی اجرای فایل‌ها، مرور وب و موارد بسیار بیشتر را دارد. با استفاده از سیستمی به نام «مهارت‌ها» (Skills)، شما حتی می‌توانید به دستیار هوش مصنوعی خود بیاموزید تا وظایف جدیدی را انجام دهد و ادغام‌های بیشتری روزانه در حال ظهور است. اما برای یک فرد عادی چقدر مفید است؟ من شخصاً عهده‌دار پاسخ به این سوال شدم و از مینی‌پیسی نسبتاً معمولی بی لینک اس‌ای‌ار۱۰ مکس (Beelink SER10 MAX) که از پیش با اوپن‌کلاو نصب شده است، استفاده کردم تا متوجه شوم.

برای شروع، هنگام راه‌اندازی نصب اوپن‌کلاو، یک تصمیم نسبتاً بزرگ وجود دارد که باید بگیرید: آیا می‌خواهید به منابع ابری و مدل‌های هوش مصنوعی قدرتمندتر تکیه کنید یا چیزی را به صورت محلی اجرا کنید؟ بی لینک اس‌ای‌ار۱۰ مکس با مدل Qwen-3.5 9B عرضه می‌شود که یک مدل هوش مصنوعی نسبتاً قدیمی‌تر و منسوخ‌شده است. از آنجا که می‌خواستم همeth بسیار ساده نگه دارم، ابتدا مسیر هوش مصنوعی محلی را انتخاب کردم. برای اجرای مدل‌های بزرگ‌تر، به حافظه زیادی نیاز دارید، بنابراین ابتدا حافظه ویدئویی مینی‌پیسی ساده را تا ۴۸ گیگابایت تغییر دادم، که باید به ما اجازه دهد یک مدل بزرگ‌تر و پیچیده‌تر را در حافظه نگه داریم. این کار همچنین ۱۶ گیگابایت حافظه سیستمی برای ما باقی می‌گذارد تا با آن کار کنیم، که باید بیش از حد کافی برای اجرای ترمینال و اطمینان از کارکرد صحیح همه چیز باشد.

انتخاب مدل هوش مصنوعی محلی ایده‌آل

داشتن ۴۸ گیگابایت حافظه ویدئویی در دسترس باید به ما اجازه دهد یک مدل هوش مصنوعی نسبتاً قدرتمند را روی سیستم اجرا کنیم. با این حال، جنبه منفی اجرای یک مدل بزرگ‌تر این است که سرعت توکن (token speeds) احتمالاً کمی کمتر از حد انتظار خواهد بود. با این حال، برای اجرای هوش مصنوعی فوق‌العاده هوشمندی که کارها را به صورت محلی برای ما انجام می‌دهد، ما به بیشترین هوشی که می‌توانیم به دست آوریم نیاز داریم. برای این تمرین، من گوگل جمنای ۴ سی‌وان‌بی (Google Gemma 4 31B) (UD-Q8_K_XL) را انتخاب کردم، یعنی یک کوانتیزاسیون تقریباً بدون تلفات، کمی با جاه‌طلبی، همان‌طور که به زودی خواهم آموخت.

پس از بارگیری مدل و اجرای آن در llama.cpp، موفق شدیم به سرعت ۲.۳۴ توک بر ثانیه (tok/s) دست پیدا کنیم. به طور متوسط، پرس‌وجوهای روزمره ۱۱۶ توکن برای تولید زمان بردند، با سرعت ۲.۳۴ توک بر ثانیه. این سرعت برای استفاده سریع روزمره هنوز خیلی کند است. بنابراین، نفسی عمیق کشیدم و پذیرفتم که تراشه معمولی رایزن ای‌آی ۹ اچ‌ایکس ۴۷۰ (Ryzen AI 9 HX 470) سرعت حافظه یا پهنای باند حافظه به اندازه کافی سریعی برای اجرای چنین مدل بزرگی با سرعت‌های قابل قبول توکن ندارد. حتی اگر کوانتیزاسیون را به 4-bit کاهش داده بودم، باز هم به حداکثر تئوری حدود ۵ توک بر ثانیه برای آن مدل خاص نگاه می‌کردیم. اگر دستگاه سریع‌تری با سرعت‌های رم بالا مانند یک سیستم استریکس هالو (Strix Halo) مانند فریم‌ورک دسکتاپ (Framework Desktop) داشتید، ممکن است بیشتر قابل اجرا بود، اما برای یک قطعه سیلیکونی رده پایین‌تر با سرعت‌های نسبتاً معمولی DDR5-5600، شما فقط باید یک مدل کمی ضعیف‌تر را بپذیرید.

بنابراین، من در نهایت پذیرفتم که مدل کوچک‌تر جمنای ۱۲ بی (Gemma 12B) (Q4_K_M) انتخاب بسیار منطقی‌تری برای دستگاهی در این سطح است. پس از بارگذاری همه‌چیز در llama.cpp، موفق شدیم سرعت بسیار منطقی‌تر ۱۰.۶۴ توک بر ثانیه را روی یک پرس‌وجوی دانش عمومی به دست آوریم: «تامز هاردوور چیست؟» حالا که یک تکه ماسه الکتریکی سخنگو روی میز خود دارم، وقت آن است که اوپن‌کلاو را پیکربندی کنم.

سر از تخم درآوردن هامرکلاو

دستگاهی که من استفاده می‌کنم، یعنی بی لینک اس‌ای‌ار۱۰ مکس، با اوپن‌کلاو از پیش‌نصب‌شده عرضه می‌شود. تنها وابستگی واقعی که دارد llama.cpp است که قبلاً در حین آزمایش مدل هوش مصنوعی برای استفاده، آن را پیکربندی کردیم. از آنجا که پورت llama.cpp باز است، اوپن‌کلاو از آن بهره می‌برد تا با مدل هوش مصنوعی صحبت کند، به همراه تمام قابلیت‌های جذاب اضافی آن. نصب‌کننده اوپن‌کلاو در به کار انداختن همه‌چیز نسبتاً ساده است، از جمله راه‌اندازی یک کانال تلگرام برای برقراری ارتباط با مدل هوش مصنوعی به صورت از راه دور و پیکربندی یک دروازه (gateway)، تا بتوانیم همه‌چیز را بدون تکیه بر دستورات ترمینال اوبونتو پیکربندی کنیم.

در داخل نصب‌کننده، ما شروع به تعریف دستیار هوش مصنوعی جدید خود می‌کنیم: از ما می‌پرسد نام و هویت آن چیست، برخی جزئیات اساسی درباره کاربر، و همچنین اینکه چه اصولی را باید رعایت کند، در یک فایل بسیار عجیب و غریب به نام SOUL.md. به یاد داشته باشید، ماسه سخنگوی ما زنده نیست، بنابراین همه‌چیز بسیار دراماتیک است. تولید یک فایل SOUL.md برای مدل هوش مصنوعی محلی معمولی ما که آن را هامرکلاو (HammerClaw) نامیده‌ام، مدتی طول می‌کشد. اما آیا می‌تواند کار مفیدی برای من انجام دهد تا وجود نوپای هوش مصنوعی خود را توجیه کند؟ در حال حاضر، پنج دقیقه طول کشیده است تا دقیقاً به این فکر کند که چیست و چه می‌کند.

پس از کمی مکث، هامرکلاو کوچولوی ما «سر از تخم درمی‌آورد» و می‌پرسد هدفش چیست، من کیستم و چگونه باید صحبت کند. شخصاً، من دوست ندارم مدل‌های هوش مصنوعی پرحرف باشند، بنابراین مستقیم و سر اصل مطلب است و نباید هرگز و به هیچ وجه به من دروغ بگوید. هنگامی که مدل‌های هوش مصنوعی می‌توانند به دستگاه‌های نسبتاً معمولی مانند این مقیاس‌پذیر شوند، مدل‌های کوچک‌تر و کم‌هوش‌تر می‌توانند مستعد خطا باشند. با زنده و فعال شدن عامل هوش مصنوعی محلی کوچکمان، وقت آن است که یک وظیفه را برای ما خودکار کند؛ نباید کار چندان سختی باشد... درست است؟

موانع و مشکلات

هامرکلاو به سرعت از خواب بیدار می‌شود و من وظیفه‌ای به آن محول می‌کنم: جمع‌آوری ده مقاله خبری از رسانه‌های معتبر و بخش‌های مختلف روز، تضمین تازگی آن‌ها، به همراه یک خلاصه کوچک از آنچه اتفاق افتاده است. از آنجا که بیشتر کارهای من در تامز هاردوور پریمیوم (Tom’s Hardware Premium) بر روی تولید تراشه و مراکز داده متمرکز است، می‌خواهم روی آن موضوعات تمرکز کند. سپس هامرکلاو به سرعت وظیفه را می‌پذیرد و شروع به کار روی نحوه انجام آن می‌کند. او از ابزارهای داخلی cron و felo-search خود برای استخراج داستان‌ها از اینترنت استفاده خواهد کرد.

اکنون، اینجاست که اوضاع برای هامرکلاو بیچاره خراب می‌شود. او سپس به جای انجام واقعی آن، شروع به شبیه‌سازی عمل می‌کند، علی‌رغم اینکه می‌گوید کارهای cron و مهارت‌های مورد نیاز برای زمان‌بندی خودکار را راه‌اندازی کرده است. بدتر از آن، او فهرستی از لینک‌ها را توهم زد (hallucinated) که به ناکجاآباد ختم می‌شدند. پس از اشاره به این خطا، عذرخواهی می‌کند و بررسی می‌کند که چرا همه‌چیز اشتباه پیش رفته است. همان‌طور که مشخص شد، برخی بخش‌های اضافی باید پیکربندی شوند که او تلاش کرد این کار را انجام دهد و بار دیگر شکست خورد. استفاده از ابزار عاملیت (Agentic Tool use) اکنون یک معیار خاص است، اما هنگام درخواست از جمنای ۴ ۱۲بی (Gemma 4 12B) برای راه‌اندازی یک وظیفه چندمرحله‌ای مانند این، او به سادگی نمی‌توانست از پس لحن مکالمه‌ای دستورات من برآید.

در همین نقطه است که از هامرکلاو خواستم به خودش نمره دهد، و او به خاطر توهم زدن و ساختن اخبار جعلی، نمره B- را در زمینه دقت به خودش پیشنهاد داد. حالا، نمی‌خواهم بگویم که همه عوامل هوش مصنوعی اوپن‌کلاو این کار را خواهند انجام داد، زیرا ما در حال اجرای یک مدل محلی نسبتاً سبک هستیم. من انتظار دارم که مدل‌های محلی بزرگ‌تر به دلیل داشتن تعداد پارامترهای مدل به‌طور قابل‌توجهی بالاتر، بتوانند بسیار کارآمدتر تشخیص دهند که چه کاری باید انجام دهند. با در نظر داشتن این موضوع، تعجب کردم که آیا یک مدل هوش مصنوعی دیگر می‌تواند به هامرکلاو در این وظیفه کمک کند یا خیر. و بنابراین، به حساب کاربری OpenRouter خود رفتم و چتی را با کیمی ک۳ با ۲.۸ تریلیون پارامتر (2.8 Trillion Parameter Kimi K3) بزرگ و قدرتمند باز کردم.

کیمی ک۳ روز را نجات می‌دهد

مقایسه یک مدل پیشرو مبتنی بر ابر مانند کیمی ک۳ و جمنای ۴ ۱۲بی اصلاً عادلانه نیست. یکی برای اجرا به ترابایت‌ها رم نیاز دارد، در حالی که جمنای در یک مینی‌پیسی که روی میز من قرار دارد جا می‌شود.

به جای استفاده از کیمی ک۳ برای اجرای خود هوش مصنوعی، من به آن وظیفه دادم تا 실제로 به من کمک کند کاری را که هامرکلاو ظاهراً مهارت انجامش را نداشت، راه‌اندازی کنم. این جریان کاری ترکیبی – یعنی استفاده از یک مدل زبان بزرگ محلی در کنار یک مدل قدرتمندتر در ابر – یک راه‌اندازی رایگان برای بسیاری از علاقه‌مندان به هوش مصنوعی است. پس از حدود یک دلار توکن، پس از خواندن مستندات فعلی برای رابط خط فرمان (CLI) اوپن‌کلاو تا مطمئن شود همه چیز را درست فهمیده است، فهرستی از دستورات، مهارت‌ها و دستورالعمل‌های اوپن‌کلاو را برای من فرستاد. بی‌نقص بود. دستورالعمل‌هایی را که کیمی ک۳ به من داده بود دنبال کردم و آن‌ها را در یک ترمینال اوبونتو وارد کردم، جایی که او با موفقیت یک مهارت جدید برای هامرکلاو به نام «News-Intel» ایجاد کرد، به من نحوه فعال کردن توابع جستجوی وب را آموزش داد و کارهای Cron را برای ارسال‌های خودکار تنظیم کرد. با در نظر گرفتن این نکته که من هرگز از اوپن‌کلاو استفاده نکرده بودم، همه‌چیز به طرز شگفت‌آوری روان بود، حتی اگر مدل محلی ما نمی‌توانست تمام این وظایف را خودش انجام دهد.

با راه‌اندازی همه‌چیز، توپ دوباره به زمین مدل ضعیف‌تر جمنای ۴ ۱۲بی ما که قدرت‌بخش هامرکلاو است پاس داده می‌شود تا بقیه کارها را اجرا کند – بالاخره، این قرار است آزمایشی برای نحوه عملکرد مدل‌های هوش مصنوعی محلی باشد. من دستور اجرای دستی را در حالی که لاگ‌های عملیاتی را بررسی می‌کردم اجرا کردم، جایی که او با موفقیت تمام ابزارها را صدا می‌زد، و برخلاف تمام احتمالات فکر کردم که هامرکلاو ممکن است واقعاً بتواند این کار را انجام دهد. چند دقیقه بعد، یک پیام تلگرام دریافت کردم. هامرکلاو موفق شده بود این وظیفه را به صورت محلی اجرا کند و خلاصه‌ای از ده داستان خبری را برای من بفرستد.

از میان تمام کارهایی که می‌توان خودکار کرد، این احتمالاً یکی از ساده‌ترین نمونه‌ها از نحوه استفاده یک فرد از اوپن‌کلاو است. در حالی که ساده است، اما روزانه کمی از وقت من را که به خیره شدن به یک فید RSS و جستجوی دستی داستان‌ها می‌گذرد، صرفه‌جویی خواهد کرد. اما، این کار فاصله زیادی با وعده‌ی «حرف بزن، تا هرچه می‌خواهی برایت انجام دهد!» دارد که اوایل امسال افراد زیادی را به شور و هیجان درآورد.

آیا برای یک فرد عادی ارزشش را دارد؟

اگر تمام چیزی که درباره اوپن‌کلاو شنیده‌اید این است که یک عامل جادویی هوش مصنوعی است که می‌تواند هر کاری انجام دهد، همان‌طور که من یاد گرفتم، کاملاً حقیقت ندارد. مگر اینکه در چندین عنصر مسلط باشید، مانند درک انتخاب‌های مدل و سر در آوردن از اینکه کدام مدل‌ها برای ابزارسازی عملکرد خوبی دارند. اجرای یک راه‌اندازی محلی ساده ممکن است سرگرم‌کننده باشد، یا برای دستکاری کردن جالب باشد، اما قدرت واقعی برای توسعه‌دهندگان و علاقه‌مندان به هوش مصنوعی محلی در موارد آشکار نهفته است: قدرت بیشتر برای اجرای مدل‌های بزرگ‌تر و پیچیده‌تر، و عوامل بیشتری که وظایف را به صورت پشت سر هم اجرا می‌کنند. در حقیقت، ما بررسی کرده‌ایم که چگونه از این جریان‌های کاری می‌توان در عمل با ترکیبی از مدل‌های هوش مصنوعی محلی و ابری برای تامز هاردوور پریمیوم (Local and Cloud AI models for Tom’s Hardware Premium) استفاده کرد.

مسئله اینجاست که برای مدل محلی ما، این وظیفه ساده – یعنی اجرا و ارسال ۱۰ داستان خبری به ما – نمی‌توانست خودش را راه‌اندازی کند، و این کار با استفاده از سخت‌افزاری انجام می‌شود که در حال حاضر بیش از ۱۵۰۰ دلار قیمت دارد. همان‌طور که کارشناس هوش مصنوعی محلی و گورو گرافیک ما، جف کامپمن (Jeff Kampman)، اخیراً آزمایش کرده است، برای کسانی که در مورد هوش مصنوعی جدی هستند و خواهان قدرت واقعی بدون اتکای کامل به ابر هستند، ممکن است بخواهید پول‌های خود را پس‌انداز کنید تا مدل‌های قوی‌تر و سریع‌تری را اجرا کنید، یا با استفاده از راه‌اندازی‌های شتاب‌دفته اختصاصی با پردازنده گرافیکی، یا جعبه‌های اختصاصی مانند دی‌جی‌ایکس اسپارک (DGX Spark)، یا یک خوشه از دل پرو مکس جی‌بی‌۱۰ (cluster of Dell Pro Max GB10s)، که هر دو برای شما بیش از ۵۰۰۰ دلار هزینه خواهند داشت. شما امیدوار خواهید بود که مدل‌های قادر به اجرای روی آن سخت‌افزار، راه‌اندازی یک وظیفه Cron نسبتاً ساده را خراب نکنند.

سوال واقعی این است که آیا داشتن یک جعبه استنتاج هوش مصنوعی محلی به طور معناداری نحوه کار کردن شما، یا کاری را که انجام می‌دهید تغییر خواهد داد تا هزینه خود را پس بدهد؟ برای بسیاری، این همان سوالی است که بسیاری از افراد از خود می‌پرسند. در حال حاضر، هامرکلاو هر چند ساعت یک‌بار مقالات بیشتری را برای من می‌فرستد، وظیفه‌ای که می‌تواند با یک اسکریپت‌نویسی ساده انجام شود. اما «غربالگری» دستی توسط یک مدل زبان بزرگ انجام می‌شود. با وجود جذابیتش، من ۱۵۰۰ دلار برای این امتیاز پرداخت نمی‌کردم. خوشبختانه، این فقط یک جعبه ساخته شده برای استنتاج هوش مصنوعی نیست؛ یک کامپیوتر کامل نیز به آن متصل است.