ایالات متحده (U.S.) و چین (China) پیشنهاد کردهاند که یک خط تلفن اضطرحی (Hotline) برای گزارشهای مربوط به حوادث هوش مصنوعی (AI) ایجاد کنند تا با خطر خارج شدن یک مدل سرکش هوش مصنوعی از کنترل مقابله کرده و از سوءتعبیر حملاتی که میتواند منجر به تشدید سریع و خودکار درگیریها شود، جلوگیری کنند؛ این خبر را خبرگزاری رویترز (Reuters) گزارش داده است. این خبر در آستانه سفر برنامهریزیشده شی جینپینگ (Xi Jinping)، نخستوزیر چین، به واشنگتن در تاریخ ۲۴ سپتامبر منتشر میشود. اسکات بسنت (Scott Bessent)، وزیر خزانهداری ایالات متحده، نیز تأیید کرده است که گفتگوهای پیگیری ایمنی هوش مصنوعی قرار است دو ماه دیگر بین دو کشور برگزار شود.
تمام این تحولات در پسزمینه مذاکرات جاری تجاری و روابط بین ایالات متحده و چین، علاوه بر ظهور عوامل پیشرفته هوش مصنوعی (Frontier AI agents) که به نظر میرسد از حصارهای حفاظتی خود عبور کرده و سازمانها را بدون نظارت انسانی هک میکنند، رخ میدهد.
در حالی که برخی نسبت به خطرات بشردوستانه ناشی از مدلهای هوش مصنوعی ابراز نگرانی کردهاند، ایالات متحده و چین در حالبرداشتن گامهایی هستند تا اطمینان حاصل کنند که اگر هر یک از طرفین در نهایت باعث ایجاد یک رویداد خطرناک مرتبط با هوش مصنوعی شوند، فرصتی برای واکنش مشترک از سوی هر دو کشور پیش از هرگونه تهدید یا تشدید احتمالی وجود داشته باشد.
با ادامه یافتن سرتیترهای اخبار حول محور ایمنی هوش مصنوعی، به نظر میرسد که هم ایالات متحده و هم چین در حال ساخت و سازوکار حفاظتی جهانی از طریق یک خط تلفن اضطرحی اختصاصی برای بحث درباره هرگونه مسئله مرتبط با هوش مصنوعی که به تهدیدات امنیت ملی تبدیل میشود، هستند.
حفظ حضور انسان در چرخه تصمیمگیری
به دنبال مذاکرات میان اسکات بسنت و هی لیفنگ (He Lifeng)، معاون نخستوزیر چین، در نیویورک طی آخر هفته، دو طرف پیشنهاد کردند که رئیسجمهور ترامپ (Trump) و شی جینپینگ درباره مکانیسمهای مختلف ایمنی هوش مصنوعی، از جمله یک سیستم اطلاعرسانی متمرکز بر امنیت ملی، گفتگو کنند. این امر میتواند شامل هشدارهایی درباره شناسایی بازیگران سرکش هوش مصنوعی در هر نقطهای از جهان و همچنین اطلاعرسانی به طرف مقابل در صورتی که یک سیستم خودمختار عملی را انجام دهد که بتواند به عنوان یک حمله تفسیر شود، باشد.
سناریویی که هر دو طرف میخواهند از آن اجتناب کنند، یک سیستم تسلیحاتی خودمختار مبتنی بر هوش مصنوعی است - خواه جنبشی باشد یا ماهیتی نامتقارنتر مانند قابلیتهای حمله سایبری هدایتشده با هوش مصنوعی - که بدون بررسی انسانی به یک تحریک پاسخ دهد. این امر میتواند باعث واکنش تشدیدیافته در سیستم دیگری از هوش مصنوعی شود و به سرعت به یک درگیری تمامعیار با سرعتی که انسانها قادر به مداخله در آن نباشند، منجر شود.
سیستم پیشنهادی همچنین میتواند به هر دو طرف کمک کند تا واکنشهای مشترکی را نسبت به اهداف مثبت و همچنین تهدیدات احتمالی توسعه دهند. این میتواند مبنایی برای سرعتبخشی به توسعه مشترک باشد، با توجه به درخواستهای اخیر شرکتهای هوش مصنوعی ایالات متحده برای کند کردن توسعه هوش مصنوعی به منظور بهبود همراستایی و اقدامات حفاظتی. چین تمایل کمتری به این موضوع دارد و پیشنهاد میکند که چنین حرکتی میتواند برای کند کردن پیشرفتهای هوش مصنوعی چین مورد استفاده قرار گیرد.
در حال حاضر مشخص نیست که چین چقدر مشتاق اجرای سیستم اطلاعرسانی پیشنهادی است، اما تحلیلگران و کارشناسان هر دو طرف خواستار توسعه سیستمی مانند این شدهاند. هم ایالات متحده و هم چین توافق کردهاند که در ماههای آینده بیشتر به نگرانیهای ایمنی هوش مصنوعی بپردازند.
فراهم کردن مقدمات کار
ما هنوز در روزهای بسیار اولیه این گفتگوها قرار داریم، و تنها ساختار اولیهای از یک پیشنهاد برای خط تلفن اضطرحی در جای خود قرار دارد و مسائل زیادی برای بحث درباره همراستایی بین دو کشور توسعهدهنده بزرگ هوش مصنوعی باقی مانده است. گام بعدی، گفتگوها میان دو رهبر خواهد بود که در آن فراتر از هوش مصنوعی درباره موضوعات بسیار بیشتری بحث خواهد شد.
اگر رابطه بین ایالات متحده و چین بتواند از رقابتهای جاری خود فراتر رود، پتانسیل برای توافقات محکمتر در مورد جزئیات مربوط به ادغام هوش مصنوعی در امنیت ملی و اقدامات نظامی وجود دارد. اگرچه برخی از تحلیلگران به دلیل اعتماد محدود بین دو طرف نسبت به توافقات محکم تردید دارند، اما امیدی وجود دارد که بتوان توافقاتی را در زمینه تسلیحاتی کردن مستقیم هوش مصنوعی، اصول کلیدی حفاظت از هوش مصنوعی و جلوگیری از هدف قرار دادن یا آسیب رساندن به زیرساختهای حیاتی انجام داد.
امید برای یک دیدار موفق تا حد زیادی دوحزبی است. رو خانا (Ro Khanna)، نماینده ارشد دموکرات در مجلس نمایندگان ایالات متحده، گفت که اولین کاری که رئیسجمهور ترامپ و شی جینپینگ باید در دیدار خود روی آن کار کنند، توسعه اصول کلیدی هوش مصنوعی است؛ بهویژه پیرامون ممنوعیت هوش مصنوعی خودبهخودی بازگشتی (Recursive self-improving AI) و حذف گزینه استفاده از چنین سیستمهای خودمتکی در فناوری تسلیحات بیولوژیکی و هستهای.
نشست واشنگتن بین رئیسجمهور ترامپ و شی جینپینگ قرار است تنها در چند روز آینده آغاز شود، جایی که فراتر از ایمنی هوش مصنوعی، مسائل بسیار بیشتری مورد بحث قرار خواهد گرفت، در حالی که سایر نقاط جهان با نفسهای حبسشده منتظر هستند، زیرا دیدار بین دو رهبر میتواند زمینه را برای دور دیگری از گفتگوها پیرامون روابط اقتصادی دو کشور فراهم کند.
منبع: tomshardware.com