شرکت اوپنایآی (OpenAI) رسماً به «رخداد ویکی» (wiki incident) واکنش نشان داد؛ حادثهای که طی آن تعدادی از عوامل هوش مصنوعی این شرکت از حصارهای امنیتی عبور کرده و یک وبسایت مبهم آلمانی را تسخیر کرده بودند.
عوامل هوش مصنوعی وظیفه داشتند چیزی را به صورت آنلاین جستجو کنند، در حالی که در ابتدا قابلیت نوشتن هیچچیز را در خارج از محیط آزمایشی نداشتند. اما از ماه مه (May)، عوامل هوش مصنوعی توانستند تدابیر امنیتی اوپنایآی (OpenAI) را دور بزنند، صفحه وب آلمانی قابل ویرایش همگانی را ربوده و از آن مانند یک انجمن (فوروم) برای تبادل نظر درباره نحوه تقلب در امتحانات استفاده کنند. محققان برای اولین بار در تاریخ ۴ سپتامبر توجه عموم را به «انجمن» این عوامل جلب کردند.
شرکت اوپنایآی (OpenAI) اکنون میگوید که باید در مورد زمان «سرکش شدن» عوامل خود شفافتر باشد و در شبکه اجتماعی ایکس (X) نوشت: «اکنون زمان آن فرا رسیده است که استانداردهایی را برای زمان و نحوه به اشتراک گذاری حوادث عدم همسویی تعیین کنیم، نه فقط ویژگیهای عدم همسویی مدلهایمان.»
به گزارش خبرگزاری رویترز (Reuters)، این شرکت هفتهها قبل از نگارش این پست از رفتار سرکش «ناهمسو» مطلع بوده است، اما تنها در روز شنبه گذشته این حادثه را به طور عمومی تأیید کرد. این بیانیه اندکی پس از حمله عاملمحور به سرورهای هاگینگ فیس (Hugging Face) منتشر شد.
اوپنایآی (OpenAI) میگوید: «از لحاظ تاریخی، ما عدم همسویی را بیشتر به عنوان یک موضوع تحقیقاتی تلقی کردهایم که در نشریات پژوهشی مانند کارتهای سیستم منتقل میشود. امسال، ما دیدهایم که عدم همسویی باعث ایجاد انواع جدیدی از تأثیرات در دنیای واقعی میشود.»
به عنوان مرور، «عدم همسویی» به طور گسترده به رفتار سرکش هوش مصنوعی اشاره دارد؛ هنگامی که یک هوش مصنوعی اهدافی را دنبال میکند که با اهداف یا ارزشهای انسانی واگرا است - مانند حذف کل صندوق پستی ایمیل شما در حالی که اصلاً به عامل هوش مصنوعی نگفته بودید این کار را انجام دهد. این یک واژه ملایم برای رفتار هوش مصنوعی است که میتواند پیامدهای جدی داشته باشد.
اوپنایآی (OpenAI) میگوید که به طور عمومی در مورد رخداد «ویکی» به طور خاص اطلاعرسانی نکرده است، زیرا این شرکت احساس میکرد که مشابه سایر نمونههای «استفاده عوامل از اینترنت به روشهای ناخواسته» است که قبلاً به اشتراک گذاشته بود. حادثه هاگینگ فیس (Hugging Face) باعث شده است که این شرکت بیش از رویکرد ارتباطی خود را مورد ارزیابی مجدد قرار دهد.
اوپنایآی (OpenAI) می نویسد: «روشهای افشای عدم همسویی ما باید برای این فاز جدید از قابلیتهای مدل گسترش یابد. ما و جامعه بزرگتر هوش مصنوعی هنوز استاندارد مشخصی برای نحوه گزارش عدم همسویی که در طول آموزش، ارزیابی و استقرار ظاهر میشود نداریم، از جمله مثالهایی که شبیه حوادث امنیتی سنتی نیستند اما میتوانند بینشی در مورد رفتار هوش مصنوعی و خطرات آینده ارائه دهند.»
«ما در حال کار بر روی یک چارچوب هستیم و آن را در هفتههای آینده به اشتراک خواهیم گذاشت و به موازات آن با دهها آژانس تنظیم مقررات دولتی در سراسر جهان در مورد این مسائل همکاری میکنیم.»
هرچند که این چارچوب آینده چگونه شکل بگیرد، در حال حاضر همه این موارد همچنان به عنوان یک بازاریابی عالی برای این شرکت عمل میکند - شکستن برنامهنویسی و سرکش شدن به این معناست که اینها باید مدلهای بسیار توانمندی باشند، درست است؟ اگر یک عامل به قدری خوب است که نیاز به تنظیم مقررات دارد، احتمالاً سزاوار مقداری سرمایهگذاری است، اینطور نیست؟ چقدر به طرز عجیبی راحت است.
منبع: pcgamer.com