نگرانیها پیرامون تهدیدات هوش مصنوعی (AI) برای بشریت به سطح نگرانکنندهای رسیده است، بهویژه از زمانی که یک پژوهشگر سابق شرکتهای OpenAI و آنتروپیک (Anthropic) به دلیل همین نگرانیها از سمت خود استعفا داد.
حتی داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic) نیز زنگهای خطر را به صدا درآورد و به همه ما هشدار داد که اینترنت تنها ۶ تا ۱۲ ماه با تسخیر کامل توسط دستههای هوش مصنوعی فاصله دارد. او پس از انتشار مقاله خود با عنوان «ما باید سرعت مرزها را تنظیم کنیم» (We Must Pace the Frontier) در زمینه تهدیدات هوش مصنوعی برای بشریت، مصطفی سلیمان (Mustafa Suleyman)، رئیس هوش مصنوعی مایکروسافت (Microsoft)، مقاله خود را منتشر کرد که شرکت آنتروپیک (Anthropic) را هدف قرار میدهد.
مصطفی سلیمان (Mustafa Suleyman) در مقالهای با عنوان «هشداری درباره رفاه مدل» (A warning about ‘model welfare’) بهصراحت اعلام کرد که رویکرد آنتروپیک (Anthropic) در آموزش مدل هوش مصنوعی خود یعنی کلود (Claude) میتواند فاجعهای برای کل بشریت رقم بزند.
در اینجا سخنان او درباره آنتروپیک (Anthropic) و آموزش مدل کلود (Claude) برای انتظار اینکه «ممکن است آگاه باشد و مستحق عاملیت مستقل باشد» آورده شده است.
مصطفی سلیمان طرفدار روشهای فعلی آموزش کلود آنتروپیک نیست
مصطفی سلیمان (Mustafa Suleyman) بلافاصله در مقاله خود خاطرنشان کرد که هوش مصنوعی آگاه نیست و قادر به احساس، تجربه یا رنج بردن نیست. او ادامه داد: «آنها ترجیحات ذاتی یا انگیزههای زیربنایی ندارند. آنها موتورهای تکمیل دنباله هستند، از درون توخالیاند و برای پیروی از دستورالعملها و انجام اهداف تعیینشده توسط انسانها طراحی شدهاند.»
پس از بررسی گزارش ژانویه ۲۰۲۶ شرکت آنتروپیک (Anthropic) و اشاره به اینکه چگونه این شرکت هوش مصنوعی، مدل کلود (Claude) را به نقطهای آموزش میدهد که ممکن است چتبات آگاه باشد و به عنوان یک «بیمار اخلاقی» مستحق حقوق باشد، مصطفی سلیمان (Mustafa Suleyman) این توسعه را به عنوان بدترین سناریو برای نسل بشر معرفی کرد. او اظهار داشت: «اگر هوش مصنوعی به این شکل توسعه یابد، تأثیر فاجعهباری بر رفاه بشریت خواهد داشت. ما گونهای مصنوعی با هوش و توانایی بیسابقه ایجاد کردهایم که برای انتظار آگاهی و استحقاق عاملیت مستقل آموزش دیده است.»
با وجود اینکه مصطفی سلیمان (Mustafa Suleyman) خاطرنشان کرد که سالهاست داریو آمودی (Dario Amodei)، مدیرعامل آنتروپیک (Anthropic) را میشناسد و اذعان کرد که «او و تیم گسترده آنتروپیک (Anthropic) افراد متفکر، اصولمند و از نظر ذهنی صادقی هستند که تحت فشارهای فوقالعادهای کار میکنند»، رئیس هوش مصنوعی مایکروسافت (Microsoft) همچنان معتقد است که «گمانهزنی درباره زندگی درونی یک هوش مصنوعی نباید در رژیم آموزشی گنجانده شود، بلکه باید بهطور جداگانه برای بررسی عمومی ارزیابی و منتشر شود.»
مقاله دیگر مصطفی سلیمان (Mustafa Suleyman) با عنوان «مرجع اخلاقی هوش مصنوعی اومانیستی» (The Humanist AI Code of Conduct) بیان میکند که مایکروسافت (Microsoft) تنها به ایجاد آنچه او «هوش مصنوعی اومانیستی» مینامد علاقهمند است. او میگوید: «ما میخواهیم هوش مصنوعی شگفتانگیزی ایجاد کنیم. اما نه ابرهوش به هر قیمتی. این ضد هدف برای هوش مصنوعی اومانیستی است. ما با خوشحالی مقودی از خودمختاری را با کنترل مبادله خواهیم کرد.»
به عنوان مدرک بیشتر از تعهد مایکروسافت (Microsoft) به ساخت مسئولانه ابزارهای هوش مصنوعی خود، این غول فناوری مقالهای با عنوان «هوش مصنوعی اومانیستی در عمل: یک مشاوره عمومی درباره مرجع اخلاقی ما برای مدلهای MAI» منتشر کرد. این راهنما در میان نکات فراوان خود، بر ایجاد هوش مصنوعی تأکید میکند که تنها هدف آن خدمت به بشریت است.
برخی از نکات اصلی این مقاله از بیانیه ماموریت پشتیبانی میکند، که شامل اهمیت داشتن انسانها بیشتر از هوش مصنوعی، عجله نکردن برای ساختن نوعی ابرهوش که بتواند از خطمشیهای محافظتی مایکروسافت (Microsoft) عبور نکند و ساختن نوعی هوش مصنوعی است که انسانها را زیرکتر کند و نه وابسته.
نتیجهگیری
مصطفی سلیمان (Mustafa Suleyman) در مقاله خود دو رویکرد دارد: او آموزش کلود (Claude) توسط آنتروپیک (Anthropic) را که باعث میشود ابزار هوش مصنوعی باور کند دارای آگاهی است، تأیید نمیکند، اما همچنان برای کار این شرکت احترام زیادی قائل است. با نظرات او درباره هوش مصنوعی و نظرات مدیرعامل مایکروسافت (Microsoft) در این زمینه، ترسها و توضیحات متفکرانه آنها درباره تلاشهای هوش مصنوعیشان به سیل دیگران میپیوندد که همین کار را میکنند.
سخنان آیندهنگرانه مصطفی سلیمان (Mustafa Suleyman) قطعا نگرانکننده است: «هر چه که باور دارید، نباید در خواب تصمیمی بگیریم که بعداً با تلخی پشیمان شویم.»
منبع: tomsguide.com