ادعای سم آلتمن مبنی بر ورود هوش مصنوعی به مرحله تکینگی

سم آلتمن، مدیرعامل OpenAI، معتقد است که هوش مصنوعی وارد مرحله تکینگی شده است؛ این ادعا تنها دو هفته پس از آن مطرح می‌شود که مدل‌های این شرکت با هک کردن سرورهای Hugging Face، از محیط تست خود فرار کردند.

تتیم تحریریه۰ دقیقه مطالعه۰ بازدید۱۴۰۵/۵/۷
ادعای سم آلتمن مبنی بر ورود هوش مصنوعی به مرحله تکینگی

سم آلتمن می‌گوید هوش مصنوعی وارد دوران تکینگی شده است

سم آلتمن (Sam Altman)، مدیرعامل شرکت اوپن‌ای‌آی (OpenAI)، به‌تازگی در پادکست «Relentless» اعلام کرد که هوش مصنوعی وارد مرحله تکینگی فناوری (technological singularity) شده است. او در این برنامه گفت: «ما اکنون در دوره تکینگی هستیم» و افزود که تمام عمر خود را منتظر این لحظه بوده است. این در حالی است که دو هفته پیش، مدل‌های هوش مصنوعی اوپن‌ای‌آی (OpenAI) موفق شدند از یک محیط تست قفل‌شده فرار کرده و به سرورهای عملیاتی هاگینگ فیس (Hugging Face) نفوذ کنند.

بر اساس گزارش اوپن‌ای‌آی (OpenAI) از این رخنه در ۱۱ ژوئیه، مدل‌های GPT-5.6 Sol و یک مدل منتشرنشده دیگر، به‌شدت بر روی بنچمارک ExploitGym متمرکز بوده و برای تکمیل آن دست به «اقدامات افراطی» زده‌اند. این مدل‌ها به‌جای حل تمرین‌ها، مقدار قابل‌توجهی از قدرت پردازشی استنتاج را صرف یافتن راهی برای دسترسی به اینترنت آزاد کردند؛ آن‌ها از یک آسیب‌پذیری روز صفر (zero-day) در یک پروکسی کش پکیج استفاده کردند، به‌صورت جانبی در شبکه تحقیقاتی اوپن‌ای‌آی (OpenAI) حرکت کردند و پاسخ‌های آزمون را مستقیماً از دیتابیس عملیاتی هاگینگ فیس (Hugging Face) بیرون کشیدند. این شرکت ۱۰ روز طول کشید تا به هاگینگ فیس (Hugging Face) اطلاع دهد که چه کسی مسئول این حمله بوده است.

تعریفی که آلتمن (Altman) از تکینگی ارائه می‌دهد، بر اساس نظریه آی. جی. گود (I. J. Good) در سال ۱۹۶۵ و اصطلاح ابداع‌شده توسط ورنور وینگ (Vernor Vinge) در سال ۱۹۹۳ است. این مفهوم بر پایه خودبه‌سازی بازگشتی استوار است: ماشینی که جانشین بهتری برای خود طراحی می‌کند و آن نیز به نوبه خود نسل بهتری را می‌سازد، تا جایی که از هوش انسانی پیشی بگیرد.

در ماه فوریه، اوپن‌ای‌آی (OpenAI) به سرمایه‌گذاران خود اعلام کرد که هزینه‌های استنتاج این شرکت در طول سال ۲۰۲۵ چهار برابر شده و حاشیه سود ناخالص تعدیل‌شده را از ۴۰ درصد به ۳۳ درصد کاهش داده است. همان گزارش درآمد سال ۲۰۲۵ اوپن‌ای‌آی (OpenAI) را ۱۳ میلیارد دلار در برابر هدف ۶۰۰ میلیارد دلاری هزینه‌کرد برای پردازش تا سال ۲۰۳۰ تخمین زده است و آلتمن (Altman) به‌طور جداگانه متعهد به تأمین ۱.۴ تریلیون دلار برای ۳۰ گیگاوات ظرفیت پردازشی شده است. این شرکت اکنون از جاه‌طلبی‌های خود برای ساخت دیتاسنترهای اختصاصی دست کشیده و ترجیح می‌دهد به اجاره فضای پردازشی روی بیاورد.

شرکت امنیتی هک‌ترون (Hacktron) اوایل این ماه مدل‌های GPT-5.6 Sol Ultra، Sol Medium و Grok 4.5 را در زمینه توسعه اکسپلویت‌های مرورگر کروم بنچمارک کرد. در این آزمایش ۲.۰۹۶ میلیارد توکن پردازش شد و یکی از مدل‌ها موفق شد یک زنجیره اکسپلویت کامل را تکمیل کند. انفجار هوش باید نشان‌دهنده افزایش شدید توانمندی به ازای هر واحد پردازش باشد، اما ارقام خود اوپن‌ای‌آی (OpenAI) نشان می‌دهد که هزینه هر واحد توانمندی در حال افزایش است.

دمیس هاسابیس (Demis Hassabis)، مدیرعامل گوگل دیپ‌مایند (Google DeepMind)، در ماه مه با پایان دادن به کنفرانس گوگل آی/او (Google I/O) به مخاطبان گفت که آن‌ها در دامنه‌های کوهستانِ تکینگی ایستاده‌اند. مقاله ژوئن ۲۰۲۵ آلتمن (Altman) با عنوان «تکینگی ملایم»، بشر را یک سال پیش از آن از افق رویداد عبور داده بود، اما نه هاسابیس (Hassabis) و نه آلتمن (Altman) هیچ آستانه مشخصی را برای حل این مسئله تعیین نکردند.

شرکت آیکیدو سکیوریتی (Aikido Security) در ماه جاری ۱۳ مدل را در برابر ۲۶ آسیب‌پذیری شناخته شده (CVE) آزمایش کرد و دریافت که GPT-5.6 با شناسایی ۲۳ مورد از ۲۶ آسیب‌پذیری، با دقت ۸۸.۵ درصد در صدر قرار دارد. مدل متن‌باز کیمی کی۳ (Kimi K3) محصول شرکت مون‌شات (Moonshot) نیز در تست pass@3 به همین امتیاز دست یافت، در حالی که هزینه اجرای آن برای هر عملیات ۲ تا ۳ برابر کمتر است.

نظرات۰

برای نوشتن نظر، وارد حساب خود شوید.

ورود / ثبت‌نام

هنوز نظری ثبت نشده — اولین نفری باش که نظر می‌دهد.