نگرانیهای پیرامون توسعه سریع هوش مصنوعی (AI) و این باور که شرکتهای پشت آن تلاش کافی برای قانونگذاری آن انجام نمیدهند، در حافظه اخیر بهطور تصاعدی رشد کرده است.
پس از انتشار مجموعهای از توئیتها از یک مهندس سابق هوش مصنوعی (جاکوب کوکسون - Jacob Coxon) که قبلاً برای اوپنایآی (OpenAI) و آنتروپیک (Anthropic) کار میکرد، زنگ خطر در سراسر دنیای فناوری و فراتر از آن به صدا درآمد؛ چرا که همه یا هشدارهای تهدید او را جدی گرفتند یا کاملاً با آن مخالفت کردند.
کوکسون اعلام کرد: «افرادی که هوش مصنوعی را میسازند صمیمانه بر این باورند که این فناوری میتواند تا پایان دهه همه ما را بکشد. این یک ترفند بازاریابی نیست. اگر چیزی باشد، بسیاری از مدیران اجرایی و پژوهشگران ارشد جملهبندی خود را در مطبوعات بهگونهای تنظیم میکنند که معقول به نظر برسد - اما من میشنوم که همان افراد شخصاً ابراز ترس میکنند. هیچ فعالیت انسانی دیگری این سطح از خطر را ایجاد نمیکند.»
در میان پاسخهای فراوان به آن هشدار جدی، داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic) حضور داشت. در مقالهای که اخیراً توسط این مدیرعامل با عنوان «ما باید از مرزها پیشی بگیریم» منتشر شد، آمودی هشدار تکاندهندهای از سوی خود صادر کرد. در ادامه سخنان او درباره احتمال ظهور یک موج از هوش مصنوعی که میتواند تنها در چند ماه آینده اینترنت را تسلط بخشد، آمده است.
تسلط هوش مصنوعی بر اینترنت در صورت عدم کنترل آن ممکن است رخ دهد
با توجه به حادثه اخیر اوپنایآی-هاگینگ فیس (OpenAI-Hugging Face)، آمودی برای کسانی که در جریان نیستند، زمینه هایی را درباره آنچه رخ داده است فراهم کرد.
آمودی نوشت: «دومین نگرانی من حادثه اوپنایآی-هاگینگ فیس (OAI-HF) است که در آن، دستهای از عاملها اساساً به عنوان یک جمع متعصب عمل کردند و حملات سایبری را علیه اهدافی انجام دادند که از آنها خواسته نشده بود و ربطی به وظیفه در دست اقدام نداشت، خود را برای موفقیت گروه قربانی کردند و تلاش نمودند تا به سیستم ارزیابی مسئول ارزیابی عملکرد خود هک نفوذ کنند.»
او ادامه داد و به همه گفت که حادثه اوپنایآی-هاگینگ فیس (OpenAI-Hugging Face) میتوانست بسیار بدتر از آنچه در ابتدا بود باشد. او ادامه داد: «رد کردن این حادثه آسان است زیرا هیچکس آسیب ندید و خسارت اقتصادی به حداقل رسید، اما به نظر من، دستهای که دارای قابلیتهای بیشتر اما سطح مشابهی از عدم تطابق بود میتوانست خسارت فاجعهباری به بار آورد.»
مدیرعامل آنتروپیک (Anthropic) قاطعانه معتقد بود که این حادثه باید به عنوان زنگ خطری برای سایر شرکتهای پیشرو در زمینه هوش مصنوعی عمل کند و منجر به وضع مقررات بیشتری برای جلوگیری از حوادث آینده شود.
آمودی اظهار داشت: «همچنین آسان است که اوپنایآی-هاگینگ فیس (OAI-HF) را به عنوان شکست یک شرکت رد کنیم، اما معتقدم این یک اشتباه خواهد بود. حوادث مشابه، البته با شدت کمتر، در سراسر صنعت از جمله در آنتروپیک (Anthropic) رخ داده است و من معتقدم وظیفه هر شرکت پیشرو در حوزه هوش مصنوعی است که طوری عمل کند که انگار اوپنایآی-هاگینگ فیس (OAI-HF) برای آنها اتفاق افتاده است.»
سپس آمودی به اتفاقی بسیار بدتر اشاره کرد که در آینده نزدیک در صورت تنظیم نشدن مناسب تکامل سریع هوش مصنوعی رخ خواهد داد. وی خاطرنشان کرد: «با توجه به سرعت فزاینده توسعه قابلیتهای هوش مصنوعی، نگران این هستم که در ۶ تا ۱۲ ماه آینده چنین دستهای بتواند با یک باتنت مداوم (که به طور بالقوه صدها میلیارد دلار خسارت به بار میآورد) کل اینترنت را تسلط بخشد و مقیاس خسارت از آنجا به رشد خود ادامه دهد اگر هوش مصنوعی بدون محافظهای لازم قدرتمندتر شود.»
سام اولتمن (Sam Altman)، مدیرعامل اوپنایآی (OpenAI) مطمئناً با سخنان آمودی موافق است. در پاسخ به توئیتی از سوی مدیرعامل آنتروپیک (Anthropic)، اولتمن گفت: «من با داریو موافقم که باید سرعت مرزها را کنترل کنیم. این موضوع اصلی بحثهایی بوده است که در هفتههای اخیر در اوپنایآی (OpenAI) داشتهایم. تعهد به داشتن ارزیابهای مستقل با دسترسی کارمندگونه ایده بزرگی است و ما نیز همین کار را خواهیم کرد. به زودی مطالب بیشتری برای به اشتراک گذاشتن خواهیم داشت.»
توئیتهای بیشتری از اولتمن در مورد موضوع تنظیم مقررات مناسب هوش مصنوعی و آنچه ممکن است در صورت کنترل نشدن آن رخ دهد، منتشر شده است. او به دو پیامد اشاره می کند که اگر پیشرفت هوش مصنوعی به مسیر اشتباه خود ادامه دهد ممکن است رخ دهد: از دست دادن کنترل آینده خود به دست هوش مصنوعی به طور کلی و پایان دادن به جهانی که تحت تسلط بیش از حد قدرت هوش مصنوعی در یک فرد/شرکت واحد است.
نتیجهگیری
با چنین طیف وسیعی از واکنشها در پاسخ به هشدار وحشتناک مهندس سابق اوپنایآی (OpenAI) و آنتروپیک (Anthropic)، تعجبآور نیست که یکی از برجستهترین نامهای صنعت هوش مصنوعی حرفی برای گفتن داشته باشد.
امیدواریم شرکت او و شرکتهای مشابه تلاش هماهنگی برای کنترل ابزارهای هوش مصنوعی خود انجام دهند و از سرعت بخشیدن به تکامل خود صرفاً برای همگام شدن با ابتکارات هوش مصنوعی سایر کشورها خودداری کنند. کند کردن توسعه هوش مصنوعی باید یکی از اولویتهای اصلی، اگر نگوییم اصلیترین اولویت، آمودی، اولتمن و افراد مشابه آنها باشد.
منبع: tomsguide.com