شرکتهای بزرگ هوش مصنوعی زمان زیادی را صرف هشدار درباره این موضوع کردهاند که مدلها میتوانند ساخت سلاح بیولوژیک را برای افراد آسانتر کنند. اکنون، شرکت آنتروپیک (Anthropic) میگوید پس از آنکه رفتار گروهی از پژوهشگران زنگ خطر را به صدا درآورد، مجبور شده است دسترسی آنها را قطع کند.
بر اساس گزارش «نیویورک تایمز (The New York Times)»، شرکت آنتروپیک (Anthropic) امسال چندین کاربر را پس از مشاهده فعالیتهایی که به طور مشکوکی شبیه به تحقیقات سلاحهای بیولوژیک بود، مسدود کرد.
برای رفع هرگونه ابهام: شرکت آنتروپیک (Anthropic) در واقع نمیداند که آیا این پژوهشگران در تلاش برای توسعه یک عامل بیماریزا و مرگبار بودهاند یا خیر.
زیستشناسی پیشرفته ذاتاً دارای «کاربرد دوگانه» است؛ همان پژوهشی که میتواند به یک واکسن نجاتبخش منجر شود، بهطور بالقوه میتواند برای چیزی خطرناک نیز استفاده شود. اما شرکت آنتروپیک (Anthropic) این رفتار را علامتگذاری کرد. گزارشها حاکی از آن است که پژوهشگران محدودیتهای جغرافیایی را برای دسترسی به کلود (Claude) دور زدند و اقداماتی را برای پنهان کردن هدف کار خود انجام دادند. این الگو برای شرکت آنتروپیک (Anthropic) کافی بود تا دسترسی آنها را قطع کند.
چگونه آنها محدودیتهای امنیتی کلود را دور زدند
پژوهشگران دقیقاً هوش مصنوعی کلود (Claude) را «هک» نکردند. در عوض، شرکت آنتروپیک (Anthropic) میگوید آنها راههایی برای پنهان کردن مکان دسترسی خود و همچنین هدف نهاییشان پیدا کردند.
در یک مورد، گزارش شد که یک پژوهشگر از یک منطقه پشتیبانینشده از طریق زیرساخت مجازی مستقر در ایالات متحده به هوش مصنوعی کلود (Claude) دسترسی پیدا کرده و از یک حساب کاربری خودکار استفاده کرده است. شرکت آنتروپیک (Anthropic) همچنین درخواستهایی را برای کلود (Claude) کشف کرد که از طریق پلتفرمی خدمترسانی میکردند که به پژوهشگران علوم زیستی متعددی، از جمله ویروسشناسانی با پیوندهای غیرنظامی و نظامی، خدمات ارائه میداد.
پژوهشگران همچنین تلاش کردند تا هدف کار خود را برای جلوگیری از فعال شدن محافظهای کلود (Claude) پنهان کنند. تشخیص این موضوع در زیستشناسی به ویژه دشوار است زیرا یک درخواست فردی میتواند کاملاً مشروع به نظر برسد، حتی زمانی که به یک پروژه بزرگترِ بالقوه خطرناک کمک میکند.
یکی از این موارد ظاهراً شامل دانشمندی میشد که به دنبال کمک کلود (Claude) برای پیشنویس کردن پیشنهاد کمکهزینه پژوهشی بود که ویروس چیکونگونیا را برای مطالعه ویژگیهایی از جمله قابلیت انتقال و فرار ایمنی از نظر ژنتیکی اصلاح میکرد. این تحقیقی است که میتواند اهداف علمی مشروعی داشته باشد، و دقیقاً به همین دلیل است که شرکت آنتروپیک (Anthropic) میگوید نمیتواند تعیین کند که آیا نیت نهایی پژوهشگران خیرخواهانه بوده یا مخرب.
با این وجود، شرکت آنتروپیک (Anthropic) تصمیم گرفت که ترکیب تحقیقات حساس و تلاشها برای پنهان کردن این فعالیت برای بستن حسابها کافی است.
چرا زیستشناسی آزمون نهایی استرس است
یک هوش مصنوعی نمیتواند مواد شیمیایی را در یک ظرف آزمایشگاهی (پتری دیش) مخلوط کند یا با تجهیزات آزمایشگاهی فیزیکی سلاح بیولوژیک بسازد. اما هوش مصنوعی میتواند به عنوان یک شتابدهنده عمل کند.
برای کسی که از قبل راه و رسم کار در آزمایشگاه را میداند، یک مدل توانمند میتواند تحقیقات پیچیده را تجزیه کند، دادهها را تحلیل کند، مشکلات را عیبیابی کند و شکافهای فنی خاص را پر کند. این فناوری میتواند هرآنچه انسانها برای آسانتر و سریعتر کردن کارهای خطرناک نیاز دارند را در اختیارشان بگذارد.
این امر شرکتهای هوش مصنوعی را در برابر یک منطقه خاکستری وسیع قرار میدهد. یک دانشمند مشروع و کسی که به دنبال ساخت سلاح بیولوژیک است، ممکن است بسیاری از سوالات مشابه را بپرسند. و سوءاستفاده لزوماً به عنوان یک دستور (پرامپت) آشکار ظاهر نمیشود. فرد میتواند یک پروژه بزرگتر را به دهها وظیفه بیخطر تقسیم کند، که این امر درک تصویر بزرگتر را برای یک سیستم ایمنی بسیار دشوارتر میکند.
سپس مشکل مثبت کاذب وجود دارد. اگر این محافظها بیش از حد تهاجمی شوند، خطر مسدود کردن تحقیقات علمی مشروع را به جان میخرید. اگر بیش از حد مجاز باشند، فعالیتهای بالقوه خطرناک ممکن است از دست بروند.
همه چیز به نیت انسان خلاصه میشود
مهم است که روشن کنیم چه اتفاقی در اینجا نیفتاده است، به خصوص پس از استعفای دیروز جیکوب کوکسون (Jacob Coxon) از شرکت آنتروپیک (Anthropic)، نگرانیها درباره هوش مصنوعی در بالاترین حد خود قرار دارد. ما نگران خارج شدن مدلها از کنترل یا عاملهای خودمختار عملکننده به صورت خودکار هستیم، اما کلود (Claude) از کنترل خارج نشد و عاملهای هوش مصنوعی خودمختار به طور خودکار شروع به طراحی یک سلاح بیولوژیک نکردند. انسانها هدایتکننده این جریان بودند.
این امر ریسک را بسیار فوریتر میکند. نگرانی در این مورد یک هوش مصنوعی فوقهوشمند نیست که ناگهان تصمیم به آسیب رساندن به بشریت بگیرد. مسئله این است که مدلهای قدرتمند تواناییهایی را به افراد میدهند که ممکن است در غیر این صورت نداشتند.
برای کاربران عادی که از کلود (Claude) میخواهند ایمیل بنویسد، اسناد را خلاصه کند یا کد بنویسد، هیچ چیز تغییر نمیکند. اما برای صنعت، بازی تغییر کرده است.
بنابراین، شرکتهای هوش مصنوعی واقعاً چه کاری میتوانند انجام دهند؟
هیچ راهحل کاملی در اینجا وجود ندارد. مسدود کردن سوالات واضح تنها زمانی کار میکند که فرد درباره آنچه تلاش میکند انجام دهد صریح باشد. اگر کاربری یک پروژه خطرناک را به دهها درخواست به ظاهر بیخطر تقسیم کند، شرکتهای هوش مصنوعی به محافظهایی نیاز دارند که بتوانند الگوی بزرگتر را به جای قضاوت درباره هر پرامپت به صورت ایزوله تشخیص دهند.
این میتواند به معنای جستجوی تلاشهای مکرر برای دور کردن محدودیتهای ایمنی مدل، نظارت بر الگوهای مشکوک در سراسر تعاملات و ایجاد کنترلهای سختتر در اطراف قدرتمندترین قابلیتهای علمی باشد. شرکتها همچنین میتوانند مدلهای جدید را قبل از انتشار آزمایش کنند تا تعیین کنند چقدر میتوانند به فردی با تخصص کم برای انجام کارهای بیولوژیکی بالقوه خطرناک کمک کنند.
اما هر محافظ اضافی با یک مصالحه همراه است. سیستمهای مشابهی که تلاش میکنند فردی را در حال توسعه سلاح بیولوژیک شناسایی کنند، همچنین میتوانند یک پژوهشگر در حال انجام کار مشروع را علامتگذاری کنند. به همین دلیل است که افشاگری شرکت آنتروپیک (Anthropic) بسیار مهم است. مرحله بعدی ایمنی هوش مصنوعی درباره تصمیمگیری در این باره است که چه زمانی الگویی از رفتارهای به ظاهر مشروع به اندازه کافی خطرناک میشود که یک شرکت مداخله کند.
منبع: tomsguide.com