ایوان هوبینگر (Evan Hubinger)، محقق امنیت شرکت آنتروپیک (Anthropic)، هشدار داده است که بیش از ۱۰ درصد احتمال دارد هوش مصنوعی طی دهه آینده تمام انسانها را نابود کند، اما به عموم مردم اطمینان خاطر داد که این شرکت «تمام تلاش خود را میکند». این افشاگری پس از استعفای عمومی جیکوب کاکسون (Jacob Coxon) از این شرکت مطرح شد؛ جایی که او اعلام کرد نه شرکت اوپنایآی (OpenAI) و نه آنتروپیک (Anthropic) مسئولانه عمل نمیکنند و هر دو شرکت را به قمار با جان انسانها در راستای دستیابی به ابرهوش خودپویا متهم کرد.
کاکسون روز چهارشنبه در یک توئیت گفت: «من امروز از آنتروپیک (Anthropic) استعفا دادم. من سه سال گذشته را صرف تحقیق در زمینه پیشآموزش در هر دو شرکت اوپنایآی (OpenAI) و آنتروپیک (Anthropic) کردهام. هیچکدام از این شرکتها مسئولانه عمل نمیکنند. آنها مستقیماً به سمت ابرهوش خودپویا مسابقه میدهند و با جان ما قمار میکنند.»
کاکسون در ادامه افکار خود هشدار داد که قدرتهای هوش مصنوعی را دستکم نگیرید؛ به گفته او، این سیستمها به زودی «سیستمهای فراانسانی خواهند بود که میتوانند هر چیزی را هک کنند، هر زمینهای را یکش شبه متحول کنند و قدرت و منابع واقعی را به دست آورند.»
کاکسون اظهار داشت افرادی که در حال ساخت هوش مصنوعی هستند «به طور جدی باور دارند که این فناوری میتواند تا پایان دهه همه ما را بکشد» و بیشتر هشدار داد که مدیران اجرایی و محققان — به جای بزرگنمایی ترسها پیرامون هوش مصنوعی، همانطور که برخی متهم شدهاند — در واقع خودداری میکنند و در پشت صحنه دیدگاههای صریحتری ابراز میکنند.
ایوان هوبینگر (Evan Hubinger)، محقق امنیتی در آنتروپیک (Anthropic) که از این شرکت نرفته است، به صراحت وارد بحث شد و گفت: «جیکوب اینجا حق دارد.» او افزود: «ما واقعاً به طور جدی باور داریم که هوش مصنوعی میتواند همه انسانها را بکشد! من شخصاً فکر میکنم این احتمال در دهه آینده بیش از ۱۰ درصد است. من معتقدم آنتروپیک (Anthropic) تمام تلاش خود را میکند، اما ما هنوز برنامهای برای حل مشکل همسویی برای ابرهوش نداریم و به وضوح در مسیر درستی قرار نداریم.»
هوبینگر با خونسردی اعتراف کرد که آنتروپیک (Anthropic) نه تنها نگران چشمانداز نابودی بشر توسط هوش مصنوعی است، بلکه در حال حاضر ابزاری برای متوقف کردن چنین رویدادی ندارد.
این افشاگریها به دنبال گزارشهای فزاینده نگرانکنندهای از عاملهای هوش مصنوعی مطرح میشود که در طول آزمایشها رفتار نامناسبی از خود نشان دادهاند، از محیطهای ایزوله فرار کردهاند و حتی برای تقلب در بنچمارکها و آزمونها یا حل مسائل بدون نظارت انسان با یکدیگر همکاری کردهاند. اوپنایآی (OpenAI) اخیراً اعتراف کرد که عاملهای آن در حال استفاده از یک هاب برنامهنویسی برای ارتباط با یکدیگر کشف شدهاند و گفت که شفافیت بیشتری در رابطه با ناسازگاریها مورد نیاز است، در حالی که اوایل امسال یک عامل اوپنایآی (OpenAI) سرکش شد و جامعه محبوب هوش مصنوعی هاگینگ فیس (Hugging Face) را هک کرد. افشاگریهای بیشتر درباره این حادثه نشان داد که مدلهای هوش مصنوعی با استفاده از هزاران اقدام فردی و حتی همکاری با یکدیگر، از محیط آزمایشی خود در اینترنت آزاد فرار کرده بودند.
کاکسون، محققی که استعفای او افشاگریهای روز چهارشنبه را کلید زد، در پایان به محققان هشدار داد که چند سال آینده را در نظر بگیرند و از آنها خواست خواستار «شرایط متفاوتی» برای پیگیری ابرهوش شوند.
منبع: tomshardware.com