هشدار مدیرعامل آنتروپیک درباره تسلط بات‌نت‌های هوش مصنوعی بر اینترنت

پیشرفت فناوری‌های هوش مصنوعی (Artificial Intelligence) در سال‌های اخیر غیرقابل انکار است و سرعت آن تقریباً باورنکردنی به نظر می‌رسد. با حضور حداقل چهار رقیب آمریکایی در زمینه مدل‌های پیشرو هوش مصنوعی، رقابت بسیار شدید است و توسعه مدل‌های جدید با سرعت بالا پیش می‌رود. با این حال، داریو آمودی (Dario Amodei)، مدیرعامل شرکت آنتروپیک (Anthropic)، خواستار کند کردن روند توسعه مدل‌های جدید هوش مصنوعی شده و حتی نسبت به احتمال شکل‌گیری یک دسته بات‌نت مبتنی بر هوش مصنوعی که می‌تواند کل اینترنت را تسلط کند، هشدار داده است.

داریو آمودی، مدیرعامل شرکت آنتروپیک (Anthropic)، در یک نامه سرگشاده نوشت: «با توجه به سرعت فزاینده توسعه قابلیت‌های هوش مصنوعی، نگرانی من این است که در ۶ تا ۱۲ ماه آینده چنین دسته‌ای قادر باشد با یک بات‌نت ماندگار، کل اینترنت را به تسخیر خود درآورد (که به‌طور بالقوه صدها میلیارد دلار خسارت به بار می‌آورد) و اگر هوش مصنوعی بدون حفاظ‌های ایمنی لازم قدرتمندتر شود، مقیاس خسارات از آنجا به بعد نیز به رشد خود ادامه خواهد داد.»

دیدگاه داریو آمودی تا حد زیادی توسط ایوان هوبینگر (Evan Hubinger)، دانشمند هوش مصنوعی که اخیراً از شرکت آنتروپیک (Anthropic) جدا شده است، اشتراک‌گذاری می‌شود؛ او گفته بود که احتمال ۱۰ درصدی وجود دارد که بشریت تا پایان دهه جاری با خطر انقراض روبه‌رو شود. هوبینگر در یک پست در شبکه اجتماعی ایکس (X) نوشت: «ما واقعاً و از سر صمیمیت باور داریم که هوش مصنوعی می‌تواند تمام انسان‌ها را بکشد. من شخصاً فکر می‌کنم این احتمال در دهه آینده بیش از ۱۰ درصد است. من معتقدم آنتروپیک (Anthropic) تمام تلاش خود را می‌کند، اما ما هنوز برنامه‌ای برای حل مسئله هم‌راستایی ابرهوش نداریم و به وضوح در مسیر درستی قرار نداریم.»

در جهان‌های خلق‌شده توسط جیمز کامرون (James Cameron) در فیلم «ترمیناتور» (Terminator) و فرانک هربرت (Frank Herbert) در رمان «تل‌ماسه» (Dune)، هوش مصنوعی به عنوان یک اختراع خطرناک به تصویر کشیده شده است. اما بیایید نگاه دقیق‌تری بیندازیم. توسعه بیشتر هوش مصنوعی از پاسخ دادن به سوالات به سمت انجام خودکار وظایف پیچیده چندمرحله‌ای در حال حرکت است؛ کاری که پیش‌تر نیازمند تیم‌هایی از متخصصان انسانی ماهر بود و این مسئله ما را متوجه نحوه استفاده مهاجمان فاقد منابع انسانی از قابلیت‌های هوش مصنوعی شرکت آنتروپیک (Anthropic) می‌کند.

یافته‌های خود شرکت آنتروپیک (Anthropic) نشان می‌دهد که مدل‌های هوش مصنوعی امروزی هم‌اکنون می‌توانند در زمینه مهندسی تسلیحات، اطلاعات نظامی، نظارت، عملیات سایبری و سایر فعالیت‌های بالقوه مخرب کمک کنند، در حالی که مدل‌های پیشرفته‌تر آینده می‌توانند تخصص، نیروی انسانی و زمان لازم برای اجرای آن‌ها را به شدت کاهش دهند.

این یافته‌ها بازتاب‌دهنده دو هشدار کاملاً متفاوت از ژانر علمی-تخیلی است: فیلم «ترمیناتور» (Terminator) اثر جیمز کامرون پیامدهای از دست دادن کنترل بر هوش مصنوعی نظامی خودمختار را نشان داد، در حالی که رمان «تل‌ماسه» (Dune) اثر فرانک هربرت تصور می‌کرد که بشریت پس از وابستگی خطرناک به هوش مصنوعی، در نهایت آن را غیرقانونی اعلام می‌کند.

در همین حال، قابلیت‌های بیشتر لزوماً به معنای خطر بیشتر نیست. برای مثال، فناوری پیشرفته‌تر هوش مصنوعی می‌تواند دارای حفاظ‌های ایمنی قوی‌تری باشد، فعالیت‌های مخرب را شناسایی کند و کارهایی را که تاکنون خودکار نشده‌اند، اتوماسیون نماید.

متوقف کردن توسعه هوش مصنوعی نیز اگر شرکت‌ها یا کشورهای مسئولیت‌ناپذیر به پیشبرد مدل‌های خود ادامه دهند، می‌تواند نتیجه معکوس داشته باشد. در واقع، گذاشتن پیشرفته‌ترین سیستم‌های هوش مصنوعی در دستان بازیگرانی که به خاطر تجاوزگری نظامی شناخته می‌شوند، کم خطرتر از دادن نارنجک به دست یک میمون نیست.

منبع: tomshardware.com