یک محقق شرکت آنتروپیک (Anthropic) از این شرکت هوش مصنوعی جدا شده و حرفهایی را زده است که احتمالاً بسیاری از ما همین حالا هم درباره این شرکت در سر داریم. جیکوب کوکسون (Jacob Coxon) با انتشار پستی در شبکه اجتماعی ایکس (X)، توئیت استعفای خود را منتشر کرد که اکنون تنها در یک روز توانسته بیش از نیم میلیون لایک دریافت کند.
او میگوید: «من سه سال گذشته را صرف تحقیق در زمینه پیشآموزش در دو شرکت اوپنایآی (OpenAI) و آنتروپیک (Anthropic) کردهام. هیچکدام از این شرکتها مسئولانه عمل نمیکنند. آنها با سرعت به سمت ابرهوش خودکار در حال مسابقه هستند و با زندگی ما قمار میکنند.»
کوکسون میگوید هر دو شرکت «به زودی به سیستمهای ابرانسانی تبدیل خواهند شد که میتوانند هر چیزی را هک کنند، هر زمینهای را یکش شبه متحول کنند و قدرت و منابع واقعی را به دست آورند»، موضوعی که هم طرفداران و هم مخالفان هوش مصنوعی مدتی است درباره آن بحث میکنند. ما دیدهایم که ابزارهایی مانند گوگل ارث (Google Earth) برای وانمود کردن اینکه مکانها یک منطقه جنگی هستند استفاده شدهاند و بنابراین امکان انتشار اطلاعات نادرست را فراهم کردهاند. ما دیدهایم که کوپاسیلت (Copilot) فریب خورده تا نحوه هک کردن خودش را آشکار کند. ما حتی دیدهایم که نهادهایی مانند آیسیاِی (CISA)، افبیآی (FBI) و اناسآی (NSA) نسبت به افزایش هکهای مجهز به هوش مصنوعی علیه زیرساختها و تأسیسات حیاتی ایالات متحده (US) هشدار دادهاند.
کوکسون ادعا میکند: «افرادی که هوش مصنوعی را میسازند صادقانه معتقدند که این فناوری میتواند تا پایان دهه همه ما را بکشد. این یک ترفند بازاریابی نیست. اگر چیزی باشد، بسیاری از مدیران اجرایی و محققان ارشد عبارات خود را در مطبوعات به گونهای بیان میکنند که عاقلانه به نظر برسد.»
این نکته ارزش توجه دارد. هر شرکتی که هشدار دهد محصولش خطرناک است، میتواند از بازاریابی دهانبهدهانی که از آن ناشی میشود سود ببرد. اگر یک شرکت هوش مصنوعی بگوید «هوش مصنوعی ما به قدری قدرتمند است که بالقوه میتواند شما را بکشد»، یک سرمایهگذار ممکن است اینطور بشنود که «هوش مصنوعی ما به قدری قدرتمند است که هر دولت جهانی آن را خواهد خواست.»
اگر تعجب میکنید که چرا شرکتها در حال ساخت چیزی هستند که معتقدند خطرناک است، کوکسون پاسخی نیز برای شما دارد. آنها میگویند: «در اوپنایآی (OpenAI)، بسیاری خطرات تمدنی را به طور عمیق درونی نکردهاند. در آنتروپیک (Anthropic)، خطرات به خوبی درک شدهاند، اما آنها درگیر مسابقهای برای رسیدن به آنجا در وهله اول هستند - آنها معتقدند هیچکس دیگری مسئولانه عمل ن할د کرد، بنابراین با وجود خطر، خودشان باید این کار را انجام دهند.»
این تصور که شرکتهای هوش مصنوعی بدون اهمیت دادن به هیچ چیز دیگری با حداکثر سرعت در حال ساخت بودهاند، چیزی است که بسیاری در چند سال گذشته احساس کردهاند. دادههای استفاده شده برای آموزش هوش مصنوعی به نظر میرسد پر از مطالب دارای حق چاپ (کپیرایت) است (توضیح میدهد که چگونه نتایجی بسیار شبیه به آثار دارای حق چاپ تولید میکند)، و حتی اوپنایآی (OpenAI) استدلال کرد که نمیتواند بدون محتوای دارای حق چاپ وجود داشته باشد.
و آسان است که ببینیم چرا این شرکتها با چنین نرخهای باورنکردنی در حال رشد هستند. اوپنایآی (OpenAI) صدها میلیارد سرمایهگذاری دریافت کرده است، در حالی که انویدیا (Nvidia)، شرکت بازیسازی که به شرکت هوش مصنوعی تبدیل شد، سال گذشته به اولین شرکت ۵ تریلیون دلاری تبدیل شد و همین هفته گذشته، جنسن هوانگ (Jensen Huang) اعلام کرد که برای آموزش آخرین مدل اوپنایآی (OpenAI) یعنی جیپیتی-۶ آسترا (GPT-6 Astra) از ۱۰۰,۰۰۰ پردازنده گرافیکی انویدیا (Nvidia) استفاده شده است و از همین حالا برنامههایی وجود دارد که چهار برابر این مقدار سختافزار به صورت آنلاین در دسترس قرار گیرد. هوش مصنوعی صنعتی است که تریلیونها دلار در آن جریان دارد و بخش بزرگی از عرضه حافظه جهان را به همراه خود بلعیده است.
اما همهچیز تاریک و ناامیدکننده نیست. کوکسون استدلال میکند که اگر شما محققی مانند آنها هستید، باید نحوه تعامل خود با پژوهش، برنامه آینده هوش مصنوعی و اینکه آیا باید «از این لحظه برای فراخوان شرایط متفاوت استفاده کنید» را دوباره ارزیابی کنید.
با توجه به کار کوکسون در اوپنایآی (OpenAI) و آنتروپیک (Anthropic)، به نظر میرسد آنها به طور اصولی مخالف هوش مصنوعی نیستند. آنها صرفاً بر این باورند که شرکتها باید در مورد رشد خود محتاطتر باشند. اما، با فرض اینکه کوکسون درست بگوید، حدس زدن اینکه آیا شرکتهای هوش مصنوعی واقعاً گوش خواهند داد یا خیر، کار دشواری است.
منبع: pcgamer.com