اگر طی هفته گذشته اخبار هوش مصنوعی (AI) را دنبال کرده باشید، ممکن است متوجه شده باشید که برخی از افرادی که برای ساخت قدرتمندترین مدلهای هوش مصنوعی جهان مسابقه میدهند، ناگهان خواستار کندی این مسابقه شدهاند.
داریو آمودی (Dario Amodei)، مدیرعامل شرکت آنتروپیک (Anthropic) میگوید توسعه پیشرو هوش مصنوعی نیازمند تنظیم سرعت است و سام آلتمن (Sam Altman)، مدیرعامل اوپنایآی (OpenAI) نیز با این موضوع موافق است. ایلان ماسک (Elon Musk) نیز از این ایده حمایت کرده است، همانطور که دمیس هاسابیس (Demis Hassabis)، مدیرعامل گوگل دیپمایند (Google DeepMind) این کار را انجام داده است.
و این هشدارها بسیار جدی هستند. آمودی نوشت که هوش مصنوعی «به طور چشمگیری سریعتر» در حال پیشرفت است و به طور خاص به توانایی رو به رشد مدلها در کمک به ساخت نسل بعدی هوش مصنوعی اشاره کرد. پیشنهاد او شامل اعطای دسترسی عمیقتر به ارزیابان مستقل به آزمایشگاههای پیشرو، هماهنگی بین شرکتهای هوش مصنوعی و توافقنامههای بینالمللی پیرامون ایمنی هوش مصنوعی است.
سپس مایکل بری (Michael Burry) وارد گفتگو شد. سرمایهگذاری که با فیلم «رکود بزرگ» (The Big Short) معروف شد، توضیح بسیار متفاوتی برای تمایل ناگهانی صنعت هوش مصنوعی به ترمز کردن دارد. او استدلال میکند که این هشدارها صرفاً مربوط به حفظ امنیت بشریت نیستند. او فکر میکند که آنها برای کسبوکار نیز مفید هستند.
بری فکر میکند آخرالزمان هوش مصنوعی بازاریابی خوبی است
بری فشار برای کند کردن توسعه هوش مصنوعی را «خودخواهانه» خواند و استدلال کرد که OpenAI و Anthropic دلایل مالی قوی دارند تا فناوری خود را فوقالعاده قدرتمند به تصویر بکشند و در عین حال سرعت سبقت گرفتن رقبا را محدود کنند.
بری استدلال میکند که کند کردن توسعه و به تأخیر انداختن عرضه اولیه عمومی (IPO) زمان بیشتری به شرکتها میدهد و در عین حال این روایت را تقویت میکند که فناوری آنها به قدری قدرتمند میشود که اقدامات احتیاطی فوقالعادهای مورد نیاز است.
در مسابقه هوش مصنوعی، به راحتی میتوان فراموش کرد که فناوریهای بزرگی مانند OpenAI و Anthropic بسیار بیشتر از آزمایشگاههای تحقیقاتی هستند، آنها شرکتهایی هستند که در یکی از سریعترین بازارهای فناوری که تا به حال دیدهایم رقابت میکنند؛ و رقابت در سطح جهانی تنها در حال تشدید است.
بری استدلال میکند که پیشرفتهای توسعهدهندگان چینی و متنباز (Open-Source) هوش مصنوعی، بخشی از مزیت مورد علاقه بزرگترین شرکتهای هوش مصنوعی آمریکایی را از بین میبرد. به نظر او، کند کردن توسعه پیشرو میتواند از بازیگران مستقر محافظت کند و در عین حال بسته شدن شکاف را برای رقبا دشوارتر کند.
اما بخش دیگری از استدلال او وجود دارد که توجه مرا به خود جلب کرد. زیرا اگر به جهان بگویید فناوریای که ایجاد کردهاید به اندازه کافی قدرتمند است که بالقوه بشریت را تهدید کند، به جهان نیز میگویید که فناوری فوقالعاده قدرتمندی ایجاد کردهاید. این پیامی بسیار قانعکننده برای شرکتی است که در نهایت امیدوار است سرمایهگذاران را از ارزش خود متقاعد کند.
زمانبندی عرضه اولیه عمومی (IPO) این موضوع را بهویژه جذاب میکند
استدلال بری اگر با اتفاقاتی که در حال حاضر در OpenAI رخ میدهد نبود، به راحتی به عنوان هشدار حباب دیگری از هوش مصنوعی رد میشد. آلتمن اخیراً گفت که OpenAI در سال ۲۰۲۶ عمومی نخواهد شد، همانطور که توسط رویترز (Reuters) گزارش شده است، و تمرکز فعلی روی ایمنی، این زمان را به یک «لحظه نامناسب» برای عرضه اولیه عمومی تبدیل میکند.
آلتمن گفت: «ما کارهای زیادی برای انجام دادن داریم»، و افزود که OpenAI میتواند سوالات فعلی ایمنی و همسویی را راحتتر در حالی که یک شرکت خصوصی باقی میماند، مدیریت کند.
بری چیز دیگری را در آن تصمیم میبیند و استدلال میکند که کند کردن توسعه و به تأخیر انداختن عرضه اولیه عمومی زمان بیشتری به شرکتها میدهد و در عین حال این روایت را تقویت میکند که فناوری آنها به قدری قدرتمند میشود که اقدامات احتیاطی فوقالعادهای مورد نیاز است.
این یک ادعا است تا یک توضیح ثابت شده برای رفتار OpenAI یا Anthropic، و هیچ یک از هشدارهای دو شرکت درباره ریسک هوش مصنوعی از این هفته شروع نشده است. به ویژه شرکت Anthropic سالهاست که به طور عمومی درباره خطرات فاجعهبار هوش مصنوعی صحبت میکند و خواستار تنظیم مقررات ایمنی است.
اما بری تنها کسی نیست که زیر سوال میبرد آیا کندسازی پیشنهادی میتواند به شرکتهایی که خواستار آن هستند سود برساند یا خیر.
منتقدان از سراسر طیف سیاسی ابراز نگرانی کردهاند که یک توافقنامه به رهبری صنعت میتواند از شرکتهای مستقر هوش مصنوعی در برابر رقابت محافظت کند یا به آنها اجازه دهد قوانین حاکم بر فناوری خود را شکل دهند. به عنوان مثال، مقام سابق کمیسیون تجارت فدرال، آلوارو بیدویا (Alvaro Bedoya)، استدلال کرده است که قانون ضد انحصار نباید برای اجازه دادن به شرکتهای بزرگ هوش مصنوعی برای هماهنگی به گونهای استفاده شود که رقبا ارزانتر را بیرون از بازار نگه دارد.
این بدان معنا نیست که نگرانیهای امنیتی واقعی نیستند
من امروز از Anthropic استعفا دادم. من سه سال گذشته را صرف تحقیق پیشآموزشی در OpenAI و Anthropic کردهام. هیچکدام از شرکتها مسئولانه عمل نمیکنند. آنها مستقیماً به سوی هوش فوقالعاده خودبهبودی مسابقه میدهند و با زندگی ما قمار میکنند. افکار بیشتر در ادامه.
دلایلی وجود دارد که محققان هوش مصنوعی به طور مشروع نگران هستند. منظورم این است که این بحث فعلی از هیچ کجا ظاهر نشد. این بحث پس از آن تشدید شد که محقق آنتروپیک، جاکوب کوکسون (Jacob Coxon) استعفا داد و هشدار داد که شرکتهای پیشرو هوش مصنوعی «با زندگی ما قمار میکنند». آمودی متعاقباً به حوادث امنیتی اخیر و توانایی به سرعت در حال بهبود سیستمهای هوش مصنوعی برای کمک به توسعه خود هوش مصنوعی به عنوان دلایلی اشاره کرد که صنعت باید محتاطتر شود.
همچنین نمونههای ملموسی از مدلهایی وجود داشته که رفتار کارآمدی را در امنیت سایبری و سایر حوزههای بالقوه خطرناک نشان دادهاند. با این حال، آلتمن گفته است که تنظیم سرعت توسعه نباید به معنای متوقف کردن آن باشد.
و اینجاست که استدلال بری پیچیدهتر میشود.
یک تناقض ناخوشایند در اینجا وجود دارد
شرکتهای هوش مصنوعی میتوانند واقعاً باور داشته باشند که فناوری آنها خطرات جدی ایجاد میکند و در عین حال از گفتن اینکه فناوری آنها چقدر قدرتمند شده است، سود مالی ببرند. این موارد متقابلاً انحصاری نیستند.
شرکتهایی که هوش مصنوعی را توسعه میدهند میخواهند به اندازه کافی به آنها اعتماد کنیم تا عاملهایشان وظایفی را از طرف ما انجام دهند. اما این شرکتها به ما میگویند که مدلهای آنها در نهایت میتواند به اندازه کافی قدرتمند شود که کل صنعت نیاز به کند کردن عمد داشته باشد.
برای مصرفکنندگان، بخش عجیب و غریب موقعیتی است که از ما خواسته میشود بپذیریم. شرکتهایی که هوش مصنوعی را توسعه میدهند میخواهند به اندازه کافی به آنها اعتماد کنیم تا مدلهای آنها را روی گوشیها، رایانهها و در نهایت درون عاملهای قادر به انجام وظایف از طرف ما قرار دهیم.
در عین حال، برخی از این شرکتها به ما میگویند که مدلهای آنها در نهایت میتواند به اندازه کافی قدرتمند شود که کل صنعت نیاز به کند کردن عمد داشته باشد.
این بحث حتی در داخل سیلیکون ولی (Silicon Valley) نیز حل نشده است.
در حالی که آلتمن، آمودی، ماسک و هاسابیس از تنظیم سرعت توسعه هوش مصنوعی حمایت کردهاند، مارک زاکربرگ (Mark Zuckerberg)، مدیرعامل متا و جنسن هوانگ (Jensen Huang)، مدیرعامل انویدیا با کندسازی هماهنگ مخالفت کردهاند. همچنین مشکلات عملی فوقالعادهای برای وادار کردن شرکتهای رقیب — چه رسد به کشورهای رقیب — به کند کردن همزمان وجود دارد.
دولت ایالات متحده همچنان رهبری هوش مصنوعی را تا حدی از لنز رقابت با چین میبیند، در حالی که شرکتهای هوش مصنوعی با فشار فوقالعادهای از سوی سرمایهگذاران و مشتریان برای انتشار مدلهای بهتر مواجه هستند. حتی مدیرانی که موافقند کند کردن ضروری است، هنوز مشکل نحوه انجام آن را بدون اجازه دادن به شخص دیگری برای سبقت گرفتن حل نکردهاند.
بنابراین آیا باید هشدارهای آخرالزمان هوش مصنوعی را باور کنید؟
در حال حاضر روش قابل اعتمادی برای تعیین تاریخ برای یک فاجعه هوش مصنوعی وجود ندارد، و ادعاهایی مبنی بر اینکه هوش مصنوعی بشریت را در یک تعداد سال خاص از بین خواهد برد، به جای حقایق ثابت شده، پیشبینی باقی میمانند. در عین حال، رد کردن هر هشدار به عنوان بازاریابی در جهت دیگر بسیار پیش خواهد رفت.
کاری که استدلال بری انجام میدهد این است که سوال دیگری را اضافه میکند که ارزش پرسیدن دارد هر زمان که یک شرکت هوش مصنوعی به ما میگوید فناوریاش چقدر میتواند خطرناک شود. شرکت از اینکه ما آن را باور کنیم چه چیزی به دست میآورد؟
وقتی شرکتی به جهان میگوید که فناوریاش میتواند به اندازه کافی قدرتمند شود که تمدن را تغییر دهد — یا حتی آن را تهدید کند — سخت است بفهمیم که آیا این یک هشدار است یا یک تبلیغ فروش عالی.
منبع: tomsguide.com