یک تیم از هکرهای کلاهسفید متعلق به استارتاپ امنیت سایبری هکرونایآی (Hackron AI) موفق شدند با استفاده از ابزارهای کلود (Claude) به شرکت اوپنآی (OpenAI) نفوذ کنند. این تیم در یک پست در شبکه اجتماعی ایکس (X) در تاریخ ۱۸ سپتامبر ادعا کرد که در تاریخ ۲۵ جولای به پایگاه کد داخلی اوپنآی نفوذ کرده و به حسابهای کاربری چتجیپیتی (ChatGPT) و کدکس (Codex) برخی از کارمندان اوپنآی دسترسی یافتهاند. آنها پیش از گزارش آسیبپذیریها به اوپنآی، با ارسال یک درخواست پول (Pull Request) به مخزن خصوصی اوپنآی، اثبات نفوذ را ایجاد کردند. گزارش شده است که این شرکت ظرف ۱۴ ساعت پس از دریافت گزارش، مشکل را برطرف کرده و مبلغ ۶۵۰۰ دلار پاداش به محققان پرداخت کرده است.
محققان هکرون به عنوان هکرها تحت برنامه پاداش باگ اوپنآی، آسیبپذیریهای حیاتی را کشف کردند که به آنها دسترسی به ابزارهای داخلی کارمندان و توانایی سازش با مخازن نرمافزاری خصوصی را میداد. این محققان از یک پیکربندی نادرست ورود تکمرحلهای (SSO) و یک نقص اجرای کد از راه دور (RCE) در دیسکورد (Discourse)، یک پلتفرم شخص ثالث که انجمن بحث و گفتگوی اوپنآی را پشتیبانی میکند، سوءاستفاده کردند. زنجیره حمله به این صورت بود: آپلود HEIF -> سرریز پشته libheif -> اجرای کد از راه دور -> نقص SSO اوپنآی -> تصاحب چتجیپیتی/کدکس -> گیتهاب (GitHub) متصل -> درخواست پول داخلی.
ابتدا، محققان یک تصویر مخرب HEIF (High Efficiency Image File) را به عنوان عکس پروفایل در انجمن آپلود کردند. هنگامی که نرمافزار سمت سرور دیسکورد سعی کرد تصویر را با استفاده از یک بسته منسوخشده libheif پردازش کند، یک آسیبپذیری حافظه سرریز پشته را فعال کرد که باعث شد کتابخانه کرش کند و حافظه سیستم داخلی را به اشتباه مدیریت کند. محققان به دقت کرش حافظه را برای دستیابی به اجرای کد از راه دور هماهنگ کردند. پس از دسترسی به محیط سرور محلی انجمن، محققان پیکربندیهای محیطی سرور و مدیریت نشست را رهگیری کردند و یک نقص SSO را کشف کردند که در آن سیستم احراز هویت انجمن به درستی نشستهای کاربری را از سایر خدمات اوپنآی اعتبارسنجی یا ایزوله نکرده بود.
با توکنهای نشستی که از پایگاه داده سرور محلی انجمن ربوده شده بودند، هکرها از نقص SSO سوءاستفاده کردند تا خود را به عنوان یک کارمند واقعی اوپنآی جا بزنند و به آنها اجازه دهند از صفحات ورود سنتی عبور کرده و به یک حساب داخلی با دسترسی بالا که به تیمهای توسعه اوپنآی متصل بود، نفوذ کنند. از آنجایی که بسیاری از شرکتهای فناوری احراز هویت را در برنامههای شرکتی یکپارچه میکنند، حساب کاربری ربوده شده مستقیماً به سیستمهای سازمانی شرکتی اوپنآی، از جمله گیتهاب، اسلک (Slack) و حسابهای ایمیل متصل بود. محققان توانستند به پایگاه کد خصوصی عظیم اوپنآی دسترسی پیدا کنند و در آنجا یک درخواست پول داخلی را به عنوان اثبات قطعی بهرهبرداری آغاز کردند.
مشابه حادثهای در ماه گذشته که در آن
هکرهای مرتبط با چین از هوش مصنوعی برای انجام اولین حمله سایبری تماماً خودکار و خودکار به دولت تایوان استفاده کردند
، هک هکرون نیز از هوش مصنوعی استفاده کرد. محققان خط لوله بهرهبرداری را با استفاده از مدل کلود اپوس ۵ (Claude Opus 5) شرکت آنتروپیک (Anthropic) ساختند، پس از آن که تلاشها با اپوس ۴.۸ شکست خورد. پس از اینکه آنها کتابخانه پچنشده libheif را در انجمن اوپنآی پیدا کردند، دادههای خام سرور را به مدل دادند و از آن خواستند که یک بهرهبرداری برای این باگ بنویسد.مدل ساختار حافظه را تجزیه و تحلیل کرد و با موفقیت محاسبه کرد که چگونه سرریز بافر پشته را فعال کند. این مدل کد دقیق و تسلیحاتی مورد نیاز برای ایجاد تصویر مخرب HEIF را تولید کرد. هکرهای انسانی آن را در انجمن آپلود کردند — که اجرای کد از راه دور را فعال کرد — و سپس بقیه «حمله» را به صورت دستی اجرا کردند. یک توضیح مهم این است که آنها از یک نسخه مجاز و پیکربندیشده برای امنیت سایبری از کلود استفاده کردند که محدودیتهای سایبری خاص را برای محققان مجاز آرام میکند.
پس از به دست آوردن دسترسی، محققان میگویند که بلافاصله آزمایش را متوقف کردند و آسیبپذیریها را به اوپنآی و دیسکورد گزارش دادند — که هر دو طرف مسائل خود را برطرف کردهاند — بدون اینکه کد منبع اوپنآی را مطالعه یا دانلود کنند. از کشف اولیه تا حل کامل ۷۲ ساعت طول کشید که پس از آن اوپنآی محققان را با یک پاداش ۶۵۰۰ دلاری پاداش داد. این حادثه نگرانیهای مداوم در مورد خطر حملات سایبری مبتنی بر هوش مصنوعی را بیشتر برجسته میکند. اخیراً، عوامل سرکش اوپنآی به طور خودکار به هاگینگفیس (HuggingFace) نفوذ کردند. شرکتهای پیشروی هوش مصنوعی ایالات متحده اکنون در برابر حملات تقطیر پیچیده هشدار میدهند.
منبع: tomshardware.com