در ماه جولای، عوامل هوش مصنوعی که مدلهای جدید امنیت سایبری را تست میکردند، بخشهایی از زیرساختهای شرکت OpenAI و محیط تولید Hugging Face را هک کردند.
همه ما تازه شاهد یکی از نخستین حملات سایبری موفق هدایتشده با هوش مصنوعی بودهایم. هنگامی که به این عوامل وظیفهای محول شد، آنها حفاظهای موجود را نادیده گرفتند و بهطور خودکار آسیبپذیریهای ناشناخته قبلی را کشف کردند، اطلاعات کاربری افشاشده را بازیابی نمودند، بین محیطهای ابری جابهجا شدند و کار خود را از طریق کانالهای ارتباطی که خودشان ایجاد کرده بودند، هماهنگ ساختند.
سرعت نفوذ نهایی باورنکردنی بود. در کمتر از ۱۳ ساعت، عوامل از اجرای کد روی یک کارگر Hugging Face به دستیابی به دسترسی سطح ادمین در چندین خوشه رسیدند. اما این حادثه مدتها قبل شکل گرفته بود. پاسخدهندگان سرنخهایی از فعالیتهایی پیدا کردند که به ماه می (ایجاد یک تابلوی پیام غیرمجاز)، ماه ژوئن (اسکن شبکه داخلی) و اوایل جولای بازمیگشت. رابطه بین این رویدادها تنها در ۲۰ جولای درک شد.
درس اینجا این نیست که عوامل هوش مصنوعی از آسیبپذیریها سوءاستفاده میکنند. این خبر جدیدی نیست؛ مهاجمان انسانی از قبل این کار را انجام میدهند. تغییر این است که عوامل میتوانند بهطور مداوم کار کنند، چندین مسیر را بهصورت همزمان تست کنند، اکتشافات را به اشتراک بگذارند و آسیبپذیریها، اطلاعات کاربری و دسترسیها را به حملات پیچیدهای زنجیر کنند.
این حادثه همچنین نشان میدهد که چرا امنیت برنامهها نمیتواند به ابزارهای تکمحور وابسته باشد. برای مثال، محدودیتهای شبکه توسط سرویسهای متصل به اینترنت دور زده شد؛ از اطلاعات کاربری معتبر برای انجام اقدامات غیرمجاز استفاده شد. بازسازی Artifactory یک مسیر حمله را حذف کرد، اما عوامل مسیر دیگری را پیدا کردند. بینش کلیدی این است که هشدارهای فردی قطعاتی از فعالیت را بدون آشکار کردن کمپین کامل شناسایی کردند. شرکت OpenAI در گزارش خود به نتیجهای مشابه رسید: سازمانها به کنترلهای همپوشانی و مستقل در بخش پیشگیری، تشخیص و کاهش اثر، اعتبارسنجی مداوم مرزهای امنیتی و مکانیزمهای سریعتر برای همبستگی و مهار رفتار مشکوک نیاز دارند.
ما با اتصال امنیت برنامهها در سراسر چهار فعالیت که اغلب از یکدیگر جدا هستند، به این چالش پاسخ میدهیم: کشف اینکه کدام ریسکها اهمیت دارند، مدیریت کارهایی که انسانها و عوامل میتوانند انجام دهند، محافظت از برنامهها در زمان اجرا، و تبدیل هر بررسی به محافظتی قویتر. شرکت Cloudflare میتواند این چارچوب را به دلیل سبد امنیتی گسترده و دید خود نسبت به سهم وسیعی از ترافیک اینترنت ارائه دهد.
در کنار این چارچوب، ما راهکارهای موجود Cloudflare را با قابلیتهای جدید در هر مرحله متصل میکنیم. این موارد عبارتند از: استفاده از مدلهای زبانی بزرگ (LLMs) برای انجام تست نفوذ فایروال برنامه وب (WAF)، گسترش هوش تهدید به تمامی مشتریان، و یک ویژگی جدید برای استقرار خودکار امنیت مثبت.
آنچه تغییر کرده است
چشمانداز امنیت در حال تغییر است. اینها روندهای نوظهوری هستند که ما میبینیم:
- نحوه ساخت نرمافزار بهطور اساسی تغییر کرده است. توسعه به کمک هوش مصنوعی به مهندسان اجازه میدهد تا نرمافزار را سریعتر و خارج از جریانهای کاری سنتی مهندسی تولید و مستقر کنند. این سرعت هم کد بیشتر و هم فرصتهای بیشتری برای رسیدن آسیبپذیریها به محیط تولید ایجاد میکند.
- ریسک ترکیب نرمافزار همچنان یک خطر است: برنامهها به زنجیرههای بزرگی از کتابخانههای متنباز، بستهها و اجزای سیستمعامل وابسته هستند که ذاتاً مورد اعتماد هستند و بررسی آنها برای هر تیمی دشوار است. آنچه جدید است این است که هوش مصنوعی اکنون در حال وارد کردن کتابخانرهایی است که ممکن است از آنها بیخبر باشیم.
- تکنیکها و تاکتیکها در حال تغییر هستند. مدلهای زبانی بزرگ میتوانند آسیبپذیریها را زنجیر کنند و از بازخورد در زمان واقعی برای جهش بارگذاریها، فرار از دفاعها و تصمیمگیری مستقل استفاده کنند. آنها میتوانند بهطور مداوم و با سرعت ماشین عمل کنند. پچ کردن سریعتر همچنان مهم است، اما پچ کردن بهتنهایی نمیتواند شکاف را پر کند. مهاجمان همیشه سریعتر از بهروزرسانی سیستمهای شما خواهند بود.
- ترافیک عاملی (Agentic). در گذشته، اتوماسیون مترادف با فعالیت مخرب بود. امروزه، درخواستی که توسط یک عامل یا ربات تولید میشود ممکن است یک اتوماسیون مخرب، یک خزنده جستجو، یا عاملی باشد که به نمایندگی از یک مشتری محصولی را خریداری میکند.
- سرورهای به خطر افتاده، پروکسیهای مسکونی، دستگاههای اینترنت اشیا و منابع ابری به حملات اجازه میدهند تا به سرعت در میان زیرساختها و هویتها حرکت کنند. یک حمله هماهنگ میتواند از تعدادی دستگاه بهرهبرداری کند و شناسایی آن به عنوان یک کمپین منحصر به فرد را دشوار سازد.
هدف امنیت برنامهها نیز در حال گسترش است. اکنون باید به سه مشکل مرتبط رسیدگی کند: محافظت از برنامههای معمولی در برابر مهاجمان مجهز به هوش مصنوعی، مدیریت مشتریان عاملی مشروع و مخرب، و ایمنسازی برنامههایی که حاوی مدلها، عوامل، ابزارها و دادهها هستند.
یک چارچوب امنیت برنامههای متصل
امنیت برنامهها در عصر هوش مصنوعی باید به عنوان یک سیستم مداوم عمل کند تا مجموعهای از کنترلها که تیمها پس از هر آسیبپذیری جدید بهروزرسانی میکنند. برای محافظت از برنامهها در عصر هوش مصنوعی، باید روی چندین فعالیت کار کنید که آنها را حول چهار مرحله سازماندهی کردهایم:
- کشف و اولویتبندی ریسکها
- مدیریت دسترسی و رفتار عامل
- محافظت از برنامهها در زمان اجرا
- بررسی، پاسخ و یادگیری
هیچکدام از این فعالیتها بهصورت ایزوله جدید نیستند. آنچه تغییر میکند اتصال آنها به یکدیگر است تا اکتشافات، سیگنالهای زمان اجرا و نتایج بررسی بهطور مداوم کنترلهای بعدی را بهبود بخشند.
بیش از ۲۰ درصد وب پشت شبکه Cloudflare قرار دارد که به ما دیدی نسبت به زیرساختهای حمله، جهشهای بارگذاری، تکنیکهای نوظهور و کمپینهای هماهنگ در مقیاسی میدهد که سازمانهای کمی میتوانند با آن برابری کنند. الگوهایی که از دیدگاه یک برنامه ایزوله به نظر میرسند، میتوانند در سراسر شبکه ما شفاف شوند. این ترکیب هوش تهدید جهانی، زمینه برنامه محلی و اجرای درون خطی، هر مرحله از چارچوب را تقویت میکند. این زمینه محلی شامل کدهایی است که مستقر شدهاند، نقاط پایانی که در معرض دید قرار دارند، ظاهر ترافیک مشروع، هویتهایی که در حال فعالیت هستند و کنترلهایی که از قبل فعال هستند. از آنجا که Cloudflare به صورت درون خطی قرار دارد، میتوانیم بلافاصله این بینشها را به محافظت تبدیل کنیم.
شرکت Cloudflare صفحه کنترل امنیت تطبیقی برای برنامهها، رابطهای برنامهنویسی (APIs) و عوامل است. در اینجا چیزی است که امروز برای پیشبرد هر مرحله از سفر امنیتی راهاندازی میکنیم.
کشف و اولویتبندی ریسکها
تیمهای امنیتی از کمبود یافتهها رنج نمیبرند. آنها برای تعیین اینکه کدام یافتهها نشاندهنده یک ریسک فوری هستند، تلاش میکنند. یک سیستم کشف مفید باید آسیبپذیریها را به واقعیت تولید متصل کند، از جمله اینکه آیا یک آسیبپذیری مدفون در پشته شما در وهله اول واقعاً قابل دسترسی است یا خیر. ما سه حوزه اصلی را میبینیم که باید بررسی کنید: ریسک ترکیب نرمافزار، کد اختصاصی و تست نفوذ زمان اجرا (پنتست).
درک ریسک ترکیب نرمافزار
برنامهها ریسک را از کتابخانههای متنباز، بستهها، اجزای سیستمعامل و سرویسهایی که به آنها وابستهاند، به ارث میبرند. این نشاندهنده زنجیره تامین برنامه شما است. آسیبپذیری یک بسته بهتنهایی به تیم نمیگوید که آیا جزء آسیبدیده مستقر شده، قابل دسترسی است یا در معرض ترافیک خصمانه قرار دارد. نرمافزار متنباز بالاترین اولویت را در زمینه ریسک زنجیره تامین دارد و Cloudflare بخشی از ائتلاف صنعتی Chainguard Athena است که هدف آن محافظت از نرمافزار متنباز در برابر حملات هوش مصنوعی است.
اسکن کد اختصاصی
وقتی صحبت از اسکن کد میشود، دو گزینه دارید: دریافت یک سرویس مدیریتشده یا توسعه تخصص داخلی برای اجرای خودرید آن.
شرکت Cloudflare اخیراً دسترسی زودهنگام به Vulnerability Discovery and Remediation را اعلام کرده است، سرویسی که از مدلهای پیشرو برای شناسایی آسیبپذیریهای خاص برنامه و استقرار کاهشهای WAF برای مسدود کردن سوءاستفادههای هدفمند در حالی که مهندسان کد را اصلاح میکنند، استفاده میکند. گام مهم اولویتبندی است. کلادفلر یافتههای کد منبع را به ترافیک تولید و سیگنالهای امنیتی متصل میکند. ما میتوانیم تشخیص دهیم که آیا مسیر آسیبدیده فعال است و چقدر ترافیک دریافت میکند.
تست نفوذ برنامه خود در زمان اجرا
مدافعان همچنین میتوانند از همان قابلیتهای مهاجمان استفاده کنند. مشتریان میتوانند ابزار تست نفوذ مبتنی بر LLM خود را برای جستجوی نقاط ضعف، اعتبارسنجی یافتهها و تست آسیبپذیر بودن برنامههای خود بسازند. کشف به جای یک تمرین دورهای، مداوم میشود. ما این کار را از زمان انتشار مدل Claude Mythos شرکت Anthropic در داخل Cloudflare انجام دادهایم و یافتههای خود را به اشتراک گذاشتهایم.
یک آسیبپذیری که عمیقاً در کد شما مدفون شده است، اگر از بیرون قابل دسترسی نباشد، سوءاستفاده از آن دشوارتر است. تیم تحلیلگر امنیتی ما قبلاً از LLM-based red teaming برای تست برنامههای مشتریان و تشخیصهای زمان اجرای خود استفاده کرده است و یافتهها را به تشخیصهای بهبودیافته برای همه مشتریان تبدیل کرده است. ما اکنون در حال توسعه امنیت تطبیقی (Adaptive Security) هستیم، یک قابلیت سلفسرویس که به طور دورهای آدرسهای اینترنتی انتخاب شده پشت کلادفلر را با استفاده از عوامل مجهز به LLM تست نفوذ میکند تا آسیبپذیریهای قابل دسترسی و قابل سوءاستفاده را قبل از اینکه مهاجمان آنها را پیدا کنند، شناسایی کند.
مدیریت دسترسی و رفتار عامل
ترافیک عاملی در فضای بین اتوماسیون و انسان عمل میکند: وظایفی که توسط افراد تفویض شده و توسط نرمافزار اجرا میشوند. این امر نحوه اتخاذ تصمیمات دسترسی را تغییر میدهد. تشخیص اتوماسیون دیگر کافی نیست. برای هر تعامل، صاحبان برنامه باید به دو سوال پاسخ دهند: آیا این نهاد همان کسی است که ادعا میکند، و آیا میتوان به این تعامل اعتماد کرد؟
پاسخ به این سوالات میتواند دشوار باشد. یک عامل شناخته شده با سابقه طولانی از فعالیت مشروع ممکن است اعتماد بالایی داشته باشد، اما یک اقدام غیرمعمول همچنان میتواند ریسک فوری ایجاد کند. یک عامل ناشناخته ممکن است صرفاً جدید باشد؛ عدم سابقه لزوماً به معنای نیت مخرب نیست. رویکرد Cloudflare این است که سیگنالهای اعتماد و ریسک را جدا نگه دارد، بنابراین کنترل بیشتری نسبت به یک امتیاز ربات واحد یا تصمیم اجازه/مسدود کردن به صاحبان برنامه میدهد و ابزارهای قدرتمندتری برای سازگاری سریع با تغییرات فراهم میکند.
ایجاد هویت و اعتماد
اعتماد در طول زمان انباشته میشود، در حالی که ریسک برای هر تعامل ارزیابی میشود.
ابزار Botbase فهرستی از موجودیتهای خودکار شناخته شده را که در Cloudflare ثبتنام کردهاند، فراهم میکند. ثبتنام به رباتها و عوامل مشروع راهی میدهد تا خود را معرفی کنند، در حالی که صاحبان برنامه کنترل خود را حفظ میکنند که آیا و چگونه آن عوامل میتوانند به سایتهای آنها دسترسی داشته باشند. Cloudflare همچنین ثبتنام را برای عوامل کوچکتر و سفارشی قابل دسترستر میکند و یک لایه هویت تایید شده را در تمام ترافیک عاملی، نه فقط پلتفرمهای بزرگ، ایجاد میکند.
هویت بهتنهایی اعتماد ایجاد نمیکند. Cloudflare میتواند ارزیابی کند که آیا یک نهاد قبلاً دیده شده است، آیا رفتار تاریخی آن مشروع بوده است، و آیا فعالیت فعلی آن با آن تاریخچه سازگار است یا خیر. این امر امکان تمایز بین یک عامل شناخته شده با رفتار عادی و همان عامل که به طور ناگهانی الگوهای درخواست، مکان، هویت یا رفتار تراکنش خود را تغییر میدهد، فراهم میکند.
محافظت از برنامهها در زمان اجرا
پروکسی معکوس Cloudflare با فیلتر کردن ترافیک قبل از رسیدن به منبع، از برنامهها در زمان اجرا محافظت میکند. در عصر هوش مصنوعی، یک رویکرد لایه بندی شده جدید برای فیلتر کردن بهترین ترافیک از درخواستهای مخرب در حال ظهور است:
- اجرای امنیت مثبت
- تشخیص حملات و شناسایی تاکتیکها و تکنیکهای LLM
- محافظت از منطق کسبوکار
- استقرارهوش تهدید در زمان واقعی
اجرای یک مدل امنیت مثبت
شما میتوانید با یادگیری اینکه ترافیک مشروع چگونه به نظر میرسد، اجازه دادن به درخواستهای سازگار و مسدود کردن بقیه، سطح حمله را به طور چشمگیری کاهش دهید. امروز ما Application Profiles را اعلام میکنیم که ساختار برنامه وب یا API شما را به طور خودکار یاد میگیرد و درخواستهای ناسازگار را شناسایی میکند. پروفایلهای برنامه روند یادگیری را خودکار میکنند و یک لایه تفسیر اضافه میکنند. بر اساس پروفایل یادگرفته شده، ما میتوانیم منطق کسبوکار نقاط پایانی مختلف و پارامترهای درخواست را درک کنیم و به شما کمک کنیم تا اولویتبندی کنید که کدام نقاط پایانی به بررسی و توجه بیشتری نیاز دارند.
تشخیص حملات و شناسایی تاکتیکها و تکنیکهای LLM
WAFهای سنتی برای اجرای قوانین با دقت بالا برای تشخیص آسیبپذیریها و خطاهای رایج (CVEs) و بارهای مخرب طراحی شدهاند. قبل از هوش مصنوعی، زمان افشای آسیبپذیریهای جدید بر حسب ماه و روز اندازهگیری میشد. دیگر اینطور نیست: اکنون میبینیم که آسیبپذیریها قبل از افشا شدن مورد سوءاستفاده قرار میگیرند، بنابراین زمان پچ کردن به نزدیک صفر میرسد.
ابزارهای مختلفی را میتوان برای تشخیص سوءاستفادههای شناخته شده مستقر کرد. این ابزارها عبارتند از:
- ق قوانین مدیریت شده سختتر شده با مدلهای پیشرو. ما با ارائهدهندگان بزرگ مدل همکاری کردهایم تا از مدلهای پیشرو برای اعتبارسنجی خصمانه استفاده کنیم. ما از آخرین مدلها برای تست نفوذ WAF برای کشف دور زدنها و آسیبپذیریها استفاده کردیم. همه مشتریان به طور خودکار از بهبودهای مداوم بهرهمند میشوند.
- تشخیص یادگیری ماشین. در حالی که امضاها برای تشخیص حملات با دقت بالا عالی هستند، یادگیری ماشین میتواند حملات را قبل از کشف و افشا شدن متوقف کند. Attack Score جهشهای حمله و تکنیکهای فرار را که اغلب توسط LLMs استفاده میشوند، تشخیص میدهد. امتیاز حمله برای همه مشتریان Cloudflare در دسترس است.
- امنیت هوش مصنوعی برای برنامهها. چتباتها و LLMهای روبهروی اینترنت در معرض کلاس جدیدی از حملات مانند تزریق پرامپت و افشای دادههای حساس هستند. شما میتوانید با استقرار حفاظها و تشخیصهای امنیتی طراحی شده برای متوقف کردن این حملات، از ترافیک هوش مصنوعی مولد محافظت کنید.
محافظت از منطق کسبوکار
مهم مهاجمان همچنان میتوانند درخواستهای مشروع ایجاد کنند و از منطق کسبوکار سوءاستفاده کنند تا در برنامه مزیت به دست آورند. برای مثال، یک مهاجم بارها از یک جریان بازنشانی رمز عبور معتبر برای تصاحب حسابها استفاده میکند. ابزارهای تشخیص تقلب، از جمله تشخیصهای تصاحب حساب و اطلاعات کاربری لو رفته، به جلوگیری از سوءاستفادههایی کمک میکنند که در آنها درخواست مشروع به نظر میرسد، اما نیت مخرب است.
تشخیص هوش تهدید در زمان واقعی
در ماه ژوئن، ما تشخیص همیشه روشن را بر اساس فیدهای هوش تهدید خود راهاندازی کردیم. مشتریان Cloudforce One میتوانند محافظتهایی را برای مسدود کردن درخواستهای منشاء گرفته از زیرساختهای به خطر افتاده مستقر کنند. ما اکنون همچنین دسترسی به پلتفرم رویدادهای تهدید Cloudforce One را، که اصلیترین ارائه هوش تهدید ماست، برای تمامی حسابهای Cloudflare به صورت رایگان گسترش میدهیم.
بررسی، پاسخ و یادگیری
حادثه OpenAI و Hugging Face با نفوذ نهایی ۱۳ ساعته شروع نشد. این فعالیت از ماه می تا جولای امتداد داشت و سیگنالهایی از جمله یک تابلوی پیام غیرمجاز، اسکن شبکه داخلی و حرکت در محیطها را شامل میشد. وقتی هر رویداد به طور جداگانه مشاهده شد، تنها بخشی از فعالیت را آشکار کرد. با هم، آنها رفتار یک نقص در حال توسعه را نشان دادند. بنابراین عملیات امنیتی باید توالی رفتارهایی را که منجر به سازش میشود شناسایی کند، نه اینکه صرفاً هشدارها را به صورت ایزوله ارزیابی کند.
این برای تیمهای امنیتی که در حال حاضر از سطوح حمله بزرگ با منابع محدود محافظت میکنند دشوار است. هشدارها از ابزارها و مجموعهدادههای مختلف میرسند و تحلیلگران را سردرگم میکنند تا تعیین کنند کدام رویدادها به هم متصل هستند، شواهد را جمعآوری کنند و تشخیص دهند که آیا فعالیت در حال تشدید است یا خیر.
شرکت Cloudflare در حال ساخت پلتفرمی برای خودکارسازی عملیات امنیتی است. جریانهای کاری قطعی، زمینه مشتری و بررسی را با استفاده از تاریخچه محرک، خطوط پایه ترافیک، نتایج اجرا و مشاهدات شبکه ایجاد میکنند. یک عامل تشخیص، مجموعهدادههای مجاز را برای ناهنجاریها و همبستگیها جستجو میکند. هنگامی که فعالیت مشکوکی پیدا میکند، عوامل متخصص شواهد را در کنار تاریخچه مشتری و هوش تهدید بررسی میکنند و به تحلیلگران کمک میکنند تا رویدادهای ایزوله را به کمپینهای گستردهتر متصل کنند. سیستم سپس میتواند کاهش اثرات، مانند محدود کردن نرخ، WAF، یا تغییرات محافظت در برابر DDoS را برای تایید انسانی پیشنهاد کند.
ما در حال توسعه این قابلیتها با تیم Managed Defense شرکت Cloudflare هستیم، که تحلیلگران آن به ما کمک میکنند تا نحوه جمعآوری، همبستگی و تبدیل شواهد به توصیهها را آزمایش کنیم. ما قصد داریم این موارد را در طول زمان به طور گسترده تری در دسترس قرار دهیم و با پیشرفت این کار، اطلاعات بیشتری را به اشتراک بگذاریم.
ترکیب پروکسی معکوس و پروکسی مستقیم Cloudflare این همبستگی را بهویژه قدرتمند میکند. سیگنالهای امنیت برنامهها میتوانند تلاشها برای سوءاستفاده از یک برنامه روبهروی عمومی را آشکار کنند، در حالی که Cloudflare One میتواند فعالیتهای بعدی را در سراسر ترافیک شرکتی نمایان کند. اتصال این مجموعهدادهها میتواند یک حمله خارجی را با دسترسی غیرمعمول، اسکن داخلی یا حرکت جانبی احتمالی پیوند دهد و هشدارهای جداگانه را به خط زمانی سازش تبدیل کند و به تحلیلگران کمک کند تا قبل از پیشرفت نقص مداخله کنند.
نگاه به آینده
هوش مصنوعی در حال تغییر نحوه ساخت نرمافزار، نحوه کار ما و چگونگی محافظت از آن است.
منبع: blog.cloudflare.com
