ایجاد زیرساخت برای هوش مصنوعی عاملی
برای سازمانها، پتانسیل هوش مصنوعی عاملی (Agentic AI) بسیار فراتر از یک چتبات ساده است. این فناوری شامل عوامل نرمافزاری است که وظایف تجاری را به صورت انتها-به-انتها در میان انسانها، گردشکارهای کسبوکار، دادهها و سیستمها اجرا میکنند. پلتفرمی که برای اجرای این عوامل مناسب باشد، باید دارای ظرفیت CPU کافی، دسترسی منعطف به داده، استفاده از ابزارهای آگاه از سیاست، قابلیت مشاهده (Observability)، مدیریت حافظه و توانایی پیشبینی و مقیاسپذیری عوامل باشد.
برای درک بهتر برخی از این وابستگیها، شرکت اینتل (Intel) هزاران آزمایش بر روی بارهای کاری هوش مصنوعی عاملی انجام داده است. یافتههای اولیه ما منجر به تدوین ۵ درس کاربردی برای رهبران سازمانی شده است:
- هوش مصنوعی عاملی یک مشکل سیستمی بزرگتر است و فقط به استنتاج محدود نمیشود.
- اکثر بسترهای آزمایشی موجود برای این فناوری محدود هستند و عملکرد کلی سیستم را اندازهگیری نمیکنند.
- برنامهریزی ظرفیت باید بر اساس چگالی عوامل در هر CPU مجازی (vCPU) انجام شود، نه تعداد کل عوامل.
- به جای میانگین استفاده از CPU، بر تأخیر (Latency) وظایف عوامل نظارت کنید.
- برای سیستمهای میزبانی عوامل، استراتژی پیشفرض باید مقیاسپذیری افقی (Scale-out) باشد. مقیاسپذیری عمودی (Scale-up) را برای بارهای کاری با محاسبات سنگینتر رزرو کنید.
فراتر از استنتاج: عوامل به مثابه اتوماسیون گردشکار
هوش مصنوعی عاملی فراتر از استنتاج مدلهای زبانی بزرگ (LLM) است. ارزش سازمانی آن به کل سیستم، ارکستراسیون وظایف، دسترسی به داده، اجرای ابزارها، مدیریت تأخیر، حاکمیت و زیرساختهای مقیاسپذیر وابسته است. یک عامل، یک فرآیند گردشکار خودکار و هدفمحور است که وظایف چندمرحلهای را برنامهریزی کرده، از ابزارها استفاده میکند، نتایج را میخواند و در صورت بروز خطا دوباره تلاش میکند. بنابراین، عوامل سازمانی فقط یک مشکل استنتاج نیستند؛ بلکه یک چالش سیستمی محسوب میشوند.
تعریف شاخصهای موفقیت
بسیاری از معیارهای هوش مصنوعی عاملی بر ارزیابی مدلهای زبانی (LLM) تمرکز دارند. تیمهای پلتفرم باید بدانند انجام وظایف چقدر زمان میبرد، یک ناوگان از عوامل تا چه حد پشتیبانی میکند، تجربه کاربر در پایان فرآیند اجرا چگونه است و با افزایش فعالیت همزمان عوامل، هزینهها چگونه تغییر میکنند.
یک دیدگاه سازمانی مفیدتر شامل شش معیار کلیدی است:
- نرخ موفقیت وظایف
- هزینه به ازای هر وظیفه
- زمان به ازای هر وظیفه
- توان عملیاتی وظایف
- چگالی عوامل (عامل در هر vCPU)
- تأخیر (Latency)
این معیارها پاسخگوی سوالات اصلی مدیران هستند: آیا سیستم طبق انتظار عمل میکند؟ سیستم تا چه حد ظرفیت دارد؟ و چگونه باید برای پشتیبانی از عوامل بیشتر مقیاسبندی شود؟
ساخت بر مبنای پایههای مستحکم
برای درک عمیقتر عملکرد بارهای کاری هوش مصنوعی عاملی، اینتل (Intel) ابزار Terminal-Bench را توسعه داد؛ یک بستر متنباز برای ارزیابی عوامل هوش مصنوعی با قابلیتهای پروفایلسازی، تلهمتری و بازپخش. این امکان باعث شد تا متوجه شویم عوامل، علاوه بر استنتاج مدل، زمان خود را در کجا صرف میکنند.
این ارزیابی از بازپخش قطعی (Deterministic) پاسخهای LLM استفاده کرد تا عملکرد عامل را از تغییرات مدل جدا کند. پاسخها یک بار ضبط و دقیقاً به همان صورت تکرار شدند تا واریانس بین اجراها کاهش یافته و مبنای قابل اعتمادتری برای مقایسه ایجاد شود.
مجموعه وظایف در Terminal-Bench بسیار گسترده بود؛ از جمله کامپایل، تست، عملیات پایگاه داده، منطق بولی، تفسیر، رهگیری پرتو (Ray Tracing)، فشردهسازی، جبر خطی، کدگذاری ویدیویی و آموزش یادگیری ماشین. این تنوع باعث شد یافتهها برای محیطهای واقعی سازمانی مرتبطتر باشند.
هوش مصنوعی عاملی در سه بعد
پیادهسازی هوش مصنوعی عاملی باید در سه مرحله انجام شود:
برنامهریزی بر اساس چگالی عامل، نه تعداد عامل: اولین قانون، نرمالسازی تعداد عوامل بر اساس توان محاسباتی است. چگالی عوامل (عامل به ازای هر vCPU) شاخص اصلی اشباع است. به عنوان مثال، ۱۰ عامل روی یک سیستم ۸ هستهای و ۲۰ عامل روی سیستم ۱۶ هستهای، در صورت یکسان بودن چگالی، رفتار مشابهی دارند. این به معماران اجازه میدهد ظرفیت را در اندازههای مختلف و نسلهای پردازنده مقایسه کنند.
چگالی مناسب به هدف کسبوکار بستگی دارد. دستیارهای تعاملی و متصل به کاربر باید چگالی پایینتری داشته باشند زیرا زمان پاسخدهی اهمیت دارد. بارهای کاری دستهای (Batch) مانند گردشکارهای فناوری اطلاعات اغلب میتوانند با چگالی بالاتر اجرا شوند. این به تیمها امکان میدهد ناوگان خود را بر اساس اهداف سطح خدمات (SLO) و هزینه کل مالکیت تنظیم کنند.
هوش مصنوعی عاملی به نوع جدیدی از قابلیت مشاهده نیاز دارد: میانگین استفاده از CPU سیگنال ضعیفی برای نظارت بر عملکرد است. عوامل اغلب بین انتظار برای پاسخ مدل و انجام فعالیتهای محاسباتی فشرده در تناوب هستند. به دلیل این الگوی «نوسانی»، میانگین استفاده ممکن است خوب به نظر برسد در حالی که باعث ایجاد صف و کندی تجربه کاربری میشود. تأخیر وظیفه (P95) معیار پیشرو بهتری است و زمانی که گردشکارها منتظر میمانند را قبل از افت معنیدار عملکرد کلی نشان میدهد.
استفاده از مقیاسپذیری افقی (Scale-out) به عنوان پیشفرض: مقیاسسازی افقی به معنای افزودن سیستمهای بیشتر برای افزایش ظرفیت کل است، در حالی که مقیاسسازی عمودی (Scale-up) شامل افزودن هسته یا حافظه به یک سیستم واحد برای بارهای کاری سنگینتر است.
دادههای آزمایشی ما نشان میدهد که مقیاسپذیری افقی گزینه پیشفرض بهتری است. این با ماهیت نیمهمستقل عوامل و نیاز به بارهای محاسباتی متوسط همخوانی دارد، عملکرد کلی را بهبود میبخشد، در دسترس بودن بالا را تضمین کرده و اغلب هزینه را کاهش میدهد.
زمانی که عوامل به محاسبات موازی سنگینتر، اشتراکگذاری حالت یا محدودیتهای حافظه نیاز دارند، از مقیاسپذیری عمودی استفاده کنید.
توجه به پیامدهای کسبوکار: هوش مصنوعی عاملی کجا بیشترین ارزش را ایجاد میکند؟ سازمانهایی که به نتایج سطح تولید رسیدهاند، لایهای از اتوماسیون را بر روی گردشکارهایی قرار دادهاند که قوانین کدگذاری شده و سطوح خدمات قابل اندازهگیری دارند؛ مانند تولید کد، مزارع تست رگرسیون، دستهبندی تیکتها، تحلیل بازار و بررسیهای امنیتی.
بنابراین، پرسونای ایدهآل سازمانی برای این فناوری، کاربر کنجکاو نیست؛ بلکه رهبری است که مسئولیت بهبود زمان چرخه، بهرهوری، حفاظت از کیفیت خدمات، اجرای سیاستها و افزایش پذیرش با در نظر گرفتن هزینهها را بر عهده دارد.
ارزش هوش مصنوعی عاملی از کمک به کسبوکارها برای انجام کار واقعی در بین تیمها، سیستمها، دادهها و فرآیندها ناشی میشود. اولویت شرکتها فقط بهبود مدل نیست، بلکه ایجاد محیطی قابل اعتماد است که عوامل هوش مصنوعی بتوانند گردشکارهای تجاری را پشتیبانی کنند.
در عمل، موفقیت با هوش مصنوعی عاملی به زیرساخت مناسب برای ارائه نتایج ثابت، مدیریت هزینه، حفظ کنترل و حرکت مطمئن از پایلوت به تولید وابسته است.
