یک محقق امنیت شرکت انتروپیک (Anthropic) گفته است که احتمال بیش از ۱۰ درصدی وجود دارد که هوش مصنوعی در دهه آینده «همه انسانها را بکشد» و اعتراف کرد که هیچ برنامه هماهنگی برای جلوگیری از وقوع آن وجود ندارد.
شرکت آمریکایی انتروپیک (Anthropic) به ریاست داریو آمودی (Dario Amodei)، مدل زبان بزرگ (LLM) کلود (Claude) را توسعه میدهد و تحقیقات هوش مصنوعی را انجام میدهد. دیروز، یکی از محققان این شرکت به نام جیکوب کوکسون (Jacob Coxon) استعفای خود را در ایکس / توییتر (X / Twitter) اعلام کرد و هم سازنده چتجیپیتی (ChatGPT) یعنی اوپنایآی (OpenAI) و هم انتروپیک (Anthropic) را متهم کرد که «مستقیماً به سمت ابرهش هوشمند خودپویا مسابقه میدهند و با زندگی ما قمار میکنند.»
کوکسون (Coxon) که پیش از این در اوپنایآی (OpenAI) کار میکرد، گفت: «هیچکدام از شرکتها مسئولانه عمل نمیکنند. قدرت این فناوری را دست کم نگیرید. اینها به زودی سیستمهای ابرانسانی خواهند بود که میتوانند هر چیزی را هک کنند، هر زمینهای را یکشبه متحول کنند و قدرت و منابع واقعی به دست آورند.» وی ادامه داد: «همه ما پیشرفت را در هر یک از این حوزهها شاهد بودهایم و پیشرفت کند نمیشود.»
«افرادی که هوش مصنوعی را میسازند صادقانه باور دارند که این فناوری میتواند تا پایان دهه همه ما را بکشد. این یک ترفند بازاریابی نیست. اگر چیزی باشد، بسیاری از مدیران اجرایی و محققان ارشد عبارات خود را در مطبوعات طوری بیان میکنند که معقول به نظر برسد - اما من میشنوم که همان افراد در پشت پرده ابراز ترس میکنند. هیچ فعالیت انسانی دیگری در این سطح خطر ایجاد نمیکند.»
کوکسون (Coxon) گفت که کارکنان اوپنایآی (OpenAI) به ریاست سام اولتمن (Sam Altman)، «سهام تمدنی را به طور عمیق درونی نکردهاند»، و به همین دلیل است که کار برای بهبود سریع مدلهای هوش مصنوعی آن علیرغم خطرات ادامه دارد. او اصرار داشت: «در انتروپیک (Anthropic)، سهام به خوبی درک شده است، اما آنها در مسابقهای قفل شدهاند تا ابتدا به آنجا برسند. آنها معتقدند هیچکس دیگری مسئولانه عمل نخواهد کرد، بنابراین باید خودشان این کار را انجام دهند، علیرغم خطری که وجود دارد.»
«پذیرفتن این مسابقه و ورود به «بازی پایانی» یک قمار از روی غرور است که نباید از روی اسلک (Slack) یک شرکت خصوصی راهاندازی شود. تلاش برای سرعت بخشیدن به همراستایی مستلزم اعتماد فوقالعادهای است که هیچ مسیر بهتری در دسترس نیست.»
کوکسون (Coxon) در ادامه گفت که به پتانسیل هماهنگی خوشبین است، اما تردید دارد که شرکتهای هوش مصنوعی در مسیری برای جلوگیری از یک مسابقه جهانی قرار داشته باشند، «که ممکن است نیازمند اقدامات پرهزینهای مانند ممنوعیت موقت بهبود قابلیتهای مدل باشد.»
او بیان خود را با ترغیب محققان آزمایشگاههای هوش مصنوعی به فکر کردن در مورد کارهایی که انجام میدهند به پایان رساند. او پرسید: «آیا میخواهید بدون درک دقیقی از ذهن آن، یک اجرای یادگیری تقویتی ابرهشمند را آغاز کنید؟ آیا باید سر خود را پایین بیندازید زیرا «به هر حال اتفاق میافتد» - یا از این لحظه برای فراخوان شرایط متفاوت استفاده میکنید؟»
بیانیه کوکسون (Coxon) موجی از شوک را در سراسر رسانههای اجتماعی ارسال کرد و زنگ خطر و رشتهای از تیترهای اصلی را برانگیخت. اما پس از آن توسط اِوان هوبینگر (Evan Hubinger)، مسئول «علم همراستایی» در انتروپیک (Anthropic) تایید شد که هشدار شدیدتری را اضافه کرد.
او گفت: «جیکوب در اینجا حق دارد - ما واقعاً صادقانه باور داریم که هوش مصنوعی میتواند همه انسانها را بکشد! من شخصاً فکر میکنم این احتمال در دهه آینده بیش از ۱۰ درصد است. من معتقدم انتروپیک (Anthropic) تمام تلاش خود را میکند، اما ما هنوز برنامهای برای حل همراستایی برای ابرهشمندی نداریم و به طور واضح در مسیر آن نیستیم.»
نکته قابل توجه این است که هوبینگر (Hubinger) به آخرین گزارش ریسک انتروپیک (Anthropic) اشاره کرد که در آن این شرکت اعلام کرد معتقد است خطر مدلهای فعلی «کم» است، به جای اینکه توقفی را پیشنهاد کند که ممکن است به جلوگیری از انقراض بشر کمک کند. او افزود: «آنچه من نگران آن هستم، ابرهشمندی ناشی از خودبهبودی بازگشتی است، همانطور که گفتهایم سریعتر از آنچه فکر میکردیم در حال وقوع است.»
این اظهارات پس از آن مطرح شد که فایننشال تایمز (Financial Times) گزارش داد که انتروپیک (Anthropic) آخرین مدل خود را از مؤسسه ایمنی هوش مصنوعی بریتانیا، یکی از نهادهای پیشرو در جهان برای ارزیابی خطر هوش مصنوعی، دریغ کرده است.
این تابستان شاهد تعدادی تحولات نگرانکننده بوده است که نشان میدهد کنترل هوش مصنوعی چقدر دشوار شده است، حتی توسط کسانی که آن را ایجاد میکنند. اوپنایآی (OpenAI)، انتروپیک (Anthropic) و متا (Meta) همگی هکهایی را که توسط ایجنتهای هوش مصنوعی خودمختار انجام شده بود، فاش کردهاند. جاکوب پاچوکی (Jakub Pachocki)، دانشمند ارشد اوپنایآی (OpenAI) اخیراً خواستار «احتیاط شدید» در مورد پیشرفت هوش مصنوعی شد و هشدار داد که ممکن است مداخلات بیشتری برای اطمینان از اینکه «انسانها کنترل آینده را حفظ میکنند» مورد نیاز باشد.
با این حال, دولت ایالات متحده هیچ نشانی از مداخله برای تحمیل محدودیتها یا حتی پیشنهاد کند کردن توسعه هوش مصنوعی نشان نداده است. در واقع، کاملاً برعکس. اوایل همین ماه، دولت ترامپ از اوپنایآی (OpenAI) در پرونده قضایی علیه نیویورک تایمز حمایت کرد و به نفع استفاده از نوشتههای دارای حق چاپ برای آموزش هوش مصنوعی استدلال کرد. خلاصه دولت گفت: «ایالات متحده علاقه شدیدی به ادامه توسعه یک صنعت هوش مصنوعی قوی و رقابتی دارد که استاندارد را برای تمرین و رویه استفاده از هوش مصنوعی در سطح جهانی تعیین میکند... به همین دلیل، برای ایالات متحده حیاتی است که «رهبری جهانی در هوش مصنوعی را حفظ کند»»، و به یک دستور اجرایی که رئیسجمهور دونالد ترامپ سال گذشته امضا کرد، اشاره کرد.
در همین حال، علیرغم هشدارهای وخیم کارکنان انتروپیک (Anthropic) و اوپنایآی (OpenAI)، هیچکدام از شرکتها تمایلی به قطع برق ندارند. بیانیههای کوکسون (Coxon) و هوبینگر (Hubinger) نگرانی شدیدی را در سراسر رسانههای اجتماعی برانگیخته است، به طوری که برخی ناباوری خود را ابراز میکنند که کار برای بهبود هوش مصنوعی حتی با وجود چنین خطرات قابل توجهی ادامه دارد.
یک نفر گفت: «هی! این یک ایده جدید است... آیا ما فقط میتوانیم به خاطر اشتهای سیریناپذیر برای قدرت و پول، خودمان را نکشیم؟» دیگری افزود: «دیدگاه دیوانهوار: شاید نباید به شما اجازه داده شود با زندگی ما قمار کنید؟» شخص دیگری پرسید: «اگر من به معنای واقعی کلمه ادعا میکردم که ۱۰ درصد احتمال دارد چیزی بسازم که مردم را بکشد، افبیآی من را دستگیر میکرد. چطور زندان نیستی؟»
منبع: ign.com