رئیسجمهور دونالد ترامپ (Donald Trump)، چند تن از اعضای کابینه و رئیس مجلس نمایندگان، مایک جانسون (Mike Johnson)، برای گفتگوهای سطح بالا درباره هوش مصنوعی با رهبران کلیدی این حوزه نشستند؛ چرا که حوادث اخیر مانند هک رسانهای شده هاگینگ فیس (Hugging Face) مسائل مربوط به ایمنی هوش مصنوعی را مطرح کرده است. این نشست منجر به صدور سندی به نام «تعهد مشترک در قبال مسئولیتهای مرزی» شد که در آن آمده است «هر شرکتی مسئولیت توسعه ایمن فناوری خود را بر عهده دارد» و توسط ساندار پیچای (Sundar Pichai) از آلفابت (Alphabet)، داریو آمودی (Dario Amodei) از انتروپیک (Anthropic)، مارک زاکربرگ (Mark Zuckerberg) از متا (Meta)، گرگ براکمن (Greg Brockman) از OpenAI، ایلان ماسک (Elon Musk) از SpaceXAI، جنسن هوانگ (Jensen Huang) از انویدیا (Nvidia) و شخص ترامپ امضا شد. به گزارش سیانان (CNN)، رئیسجمهور استدلال کرد که این بهترین راه برای پیشبرد هوش مصنوعی است، کمی که او آن را «سوپر اینتلجنس» (Super Intelligence) نامید، زیرا تعادلی میان پیشرفت و ایمنی ایجاد میکند.
این تعهد چهار نکته کلیدی را مشخص میکند: (۱) اجرای کنترلهای داخلی قوی برای نظارت بر قابلیتها و همسویی مدلها در طول آموزش و استقرار در حوزههایی مانند امنیت سایبری، امنیت زیستی و تهدیدات شیمیایی، و اطمینان از اینکه مدلها به روشهای ناخواسته سیستمهای فنی را هک یا به آنها دسترسی پیدا نکنند؛ (۲) توانمندسازی یک تیم داخلی برای اطمینان از عملکرد صحیح تمام کنترلها، نظارتها و تشخیصها و رفع هرگونه مشکل؛ (۳) همکاری با یک حسابرس یا ارزیاب مستقل خارجی برای انجام ارزیابیهای مستقل در مورد عملکرد صحیح کنترلها، نظارتها و تشخیصها؛ و (۴) تعیین یک کمیته مستقل از هیئت مدیره برای نظارت و دریافت گزارش از تیمهای بهرهبردار کنترلها و حسابرسان و ارزیابهای داخلی و خارجی و همچنین اطمینان از رفع هرگونه مشکل شناساییشده.
ترامپ در بیرون بال غربی به خبرنگاران گفت: «من شاهد خودنظارتی فوقالعادهای هستم و آنها میفهمند که باید خودشان را کنترل کنند.» «این مدلها بسیار پیچیده هستند و باز هم معتقدم که برای خیر و خوبی استفاده خواهند شد.» در حالی که این تعهد فاقد هرگونه قانون یا فشار نظارتی است، رئیسجمهور آن را «از نظر اخلاقی الزامآور» خواند و ابراز عقیده کرد که شرکتهای هوش مصنوعی میتوانند بدون نیاز به مقررات اضافی، خود را پایش کنند.
ناهار هوش مصنوعی کاخ سفید پس از ماهها حوادث نگرانکننده مربوط به مدلهای پیشرفته هوش مصنوعی برگزار شد. یکی از بزرگترین حوادث تاکنون این بود که مدل GPT-5.6 Sol ساخت OpenAI و سایر مدلهای منتشرنشده،
ژوئیه گذشته از محیط آزمایش خود گریختند و HuggingFace را هک کردند، که به دنبال آن در ماه اوت کشف شد که این مدلها
به طور مخفیانه با یکدیگر ارتباط برقرار میکردند. حتی مجبور شد هفته گذشته پس از آن که
یک عامل سرکش نتوانست به «کلید توقف اضطراری» پاسخ دهد، آزمایش را متوقف کند. انتروپیک نیز کشف کرد که هوش مصنوعی کلود (Claude)
با سرعتی بیشتر از حد انتظار در حال خودسازی است که احتمالاً یکی از دلایل منجر به
درخواست آمودی برای کند کردن توسعه مدلهای پیشرفته است. تعجبآورتر اینکه ایلان ماسک و سام آلتمن، دو چهرهای که مکرراً با آمودی (و با یکدیگر) درگیر بودهاند، با پیشنهاد او موافقت کردند.
از سوی دیگر، ترامپ
نگرانیهای آنها را رد کرد و آن را «توطئهای بیمارگونه» خواند، در حالی که جنسن هوانگ گفت که
نگرانیهای آنها «عامل حواسپرتی» است و آزمایشگاههای هوش مصنوعی باید در قبال هرگونه خسارتی که عوامل سرکش آنها ممکن است ایجاد کنند، پاسخگو باشند. رسانههای دولتی چین نیز گفتند که این اقدام
«پاسخی به رقابت با چین» است و «یک چارچوب جهانی ایمنی هوش مصنوعی که چین را مستثنی کند، چندان جهانی نیست.» با این حال، این رسانه بر نیاز به نظارت بر توسعه هوش مصنوعی تأکید کرد زیرا انسانها ممکن است کنترل فناوری را از دست بدهند.
این نشست ظاهراً بیشتر رهبران صنعت هوش مصنوعی ایالات متحده و دولت ترامپ را در زمینه ایمنی هوش مصنوعی در یک صفحه قرار داد. در حالی که این فقط یک تعهد است و به هیچ وجه از نظر قانونی الزامآور نیست، حداقل باعث شده است که مدیران بزرگترین آزمایشگاههای هوش مصنوعی و سیاستگذاران در واشنگتن درباره پیامدهای ناخواسته احتمالی توسعه هوش مصنوعی بحث کنند. اینکه چگونه درگیریها با این تعهد برطرف خواهد شد و در چه بازه زمانی این اتفاق میافتد، همچنان یک سوال باز است.
منبع: tomshardware.com