فریب مدل‌های زبانی بزرگ و احیای نیروگاه‌های زمین‌گرمایی

این شماره امروز خبرنامه دانلود (The Download) است؛ خبرنامه روزکاری ما که دوز روزانه‌ای از اتفاقات جهان فناوری را در اختیارتان می‌گذارد.

یک نقص بنیادی، مدل‌های زبانی بزرگ (LLM) را در برابر حملات به‌شدت آسیب‌پذیر می‌کند

گروهی از محققان در مقاله‌ای که اوایل همین ماه در یک کنفرانس برتر هوش مصنوعی ارائه شد، استدلال می‌کنند که به دلیل وجود یک نقص بنیادی در نحوه کارکرد مدل‌های زبانی بزرگ (LLM)، غیرممکن است که بتوان آن‌ها را در برابر هک‌ها کاملاً ایمن ساخت.

این نقص به نحوه تشخیص مدل‌های زبانی بزرگ مربوط می‌شود که چه کسی یا چه چیزی به آن‌ها دستور می‌دهد. با بهره‌برداری از این نقص، محققان توانستند مدل‌های محبوب LLM را وادار کنند اطلاعاتی را که برای افشای آن‌ها آموزش ندیده‌اند بیرون بدهند؛ اطلاعاتی مانند نحوه سنتز کوکائین و نحوه اخلال در سیستم ناوبری یک هواپیمای تجاری.

مقاله ما را درباره نقصی که محققان پیدا کردند، پیامدهای آن و اینکه چرا ممکن است هرگز برطرف نشود، بخوانید.

—ویل داگلاس هیون (Will Douglas Heaven)

چگونه یک نیروگاه زمین‌گرمایی نادیده‌گرفته‌شده شانس دوباره‌ای به دست آورد

در ژوئن ۲۰۲۴، شرکت کوچکی به نام زان‌اسکار (Zanskar) یک نیروگاه برق زمین‌گرمایی در نیومکزیکو (New Mexico) را خریداری کرد که با سرعت زیادی در حال از کار افتادن بود. آب خارج شده از مخزن زیرزمینی روز به روز سردتر می‌شد و بهره‌برداری از نیروگاه را از نظر اقتصادی غیربهینه می‌کرد.

اکنون، دو سال بعد، به لطف یک چاه جدید، آن نیروگاه دوباره با ظرفیت کامل کار می‌کند. این شرکت با کمک مدل‌سازی پیشرفته و فناوری حفاری مدرن توانست یک مکان مناسب‌تر برای حفر چاه پیدا کند، هزاران پا به اعماق زمین حفاری کند و کل این عملیات را احیا نماید.

همان‌طور که جهان به دنبال منابع بیشتری از برق بدون انتشار کربن است که به‌صورت ۲۴ ساعته در دسترس باشند، لایتنینگ دوک (Lightning Dock) نشان می‌دهد که پتانسیل‌های پنهان زیادی همچنان در اعماق زمین وجود دارد. مقاله کامل را بخوانید.

—کیسی کراونهارت (Casey Crownhart)

این داستان از اسپارک (The Spark)، خبرنامه هفتگی فناوری اقلیمی ما گرفته شده است. برای دریافت آن در صندوق ایمیل خود در هر چهارشنبه، ثبت‌نام کنید.

روایت ام‌آی‌تی تکنولوژی ریویو: جذاب‌ترین مردهای مجرد جدید کره جنوبی، کارگران تراشه هستند

بک (Baek)، مدیر ۳۵ ساله در غول نیمه‌هادی کره جنوبی یعنی اس‌کی هاینیکس (SK Hynix)، یک سال پیش در یک شرکت همسریابی ثبت‌نام کرد. مادرش در اقدامی که از والدین مضطرب کره‌ای بعید نیست، او را ثبت‌نام کرده بود به این امید که همسر خوبی برای پسرش پیدا کند.

بک می‌گوید اخیراً او و همکاران خیره‌سرش شانس بهتری در یافتن قرار ملاقات دارند – احتمالاً به دلیل پاداش‌های شگفت‌انگیزی که تازه دریافت کرده‌اند. اس‌کی هاینیکس با داشتن سودهای نجومی ناشی از رونق تراشه‌های هوش مصنوعی، موافقت کرد که ۱۰ درصد از سود عملیاتی خود را به کارمندان پرداخت کند که این مبلغ امسال به ۴۷۶۰۰۰ دلار اضافی برای هر کارمند تبدیل می‌شود.

داستان ما را درباره اینکه چگونه کارگران تراشه‌ای مانند بک به پرتقاض‌ترین مجردها در کره جنوبی تبدیل شده‌اند، بخوانید.

—میشل کیم (Michelle Kim)

این آخرین داستان ماست که به پادکست روایی ام‌آی‌تی تکنولوژی ریویو تبدیل شده است و آن را هر هفته در اسپاتیفای (Spotify) و اپل پادکستس (Apple Podcasts) منتشر می‌کنیم. کافی است به بخش «MIT Technology Review Narrated» در هر یک از این پلتفرم‌ها بروید و ما را دنبال کنید تا به محض انتشار، مطالب جدید را دریافت کنید.

مطالب ضروری

من اینترنت را زیر و رو کرده‌ام تا سرگرم‌کننده‌ترین، مهم‌ترین، ترسناک‌ترین و جذاب‌ترین داستان‌های امروز درباره فناوری را برای شما پیدا کنم.

۱ دولت ایالات متحده به تازگی جاروبرقی‌های رباتیک رومبا (Roomba) را ممنوع کرده است
این فقط ربات‌های انسان‌نمای چینی نیستند – جاروبرقی‌های رباتیک نیز در یک ممنوعیت جدید از سوی کمیسیون فدرال ارتباطات (FCC) گنجانده شده‌اند. (The Verge $)
+ چه کسی از ممنوعیت ربات‌های خارجی برنده و چه کسی بازنده می‌شود؟ (Ars Technica)
+ چین می‌گوید تلافی خواهد کرد. (CNBC)

۲ آتش‌سوزی‌های در حال وقوع در اروپا رکوردهای مدرن را می‌شکنند
و احتمالاً تخریب‌های بیشتری در راه است. (New York Times $)
+ هزاران نفر در جزیره یونانی کرت (Crete) تخلیه شده‌اند. (BBC)

۳ گوگل دیپ‌مایند (Google DeepMind) تیم برنده جایزه نوبل آلفافولد (AlphaFold) خود را منحل کرد
این موضوع بازتاب‌دهنده یک تغییر گسترده در صنعت از ابزارهای تخصصی به سمت ایجنت‌های عمومی‌تر و مبتنی بر هوش مصنوعی برای علم است. (FT $)
+ گوگل آی/او (Google I/O) نشان داد که مسیر علم مبتنی بر هوش مصنوعی چگونه در حال تغییر است. (MIT Technology Review)

۴ ساخت مراکز داده آسان است. اداره کردن آن‌ها چطور؟ به هیچ وجه!
برای این کار، به زمان و پول نیاز دارید تا در زیرساخت شبکه، مانند خطوط انتقال جدید سرمایه‌گذاری کنید. (404 Media $)
+ خط برقی که می‌تواند شبکه نیویورک را متحول کند با مشکلاتی مواجه شده است. (MIT Technology Review)
+ شرکت‌های هوش مصنوعی در حال استخدام هزاران برق‌کار و نجار هستند تا مراکز داده را راه‌اندازی کنند. (New York Times $)

۵ دوردش (DoorDash) قصد دارد یک برنامه تحویل با پهپاد را راه‌اندازی کند
البته مدتی طول می‌کشد تا بتوانیم از آن استفاده کنیم. (TechCrunch)
+ ایالات متحده ممکن است به سوی آینده‌ای پر از پهپاد حرکت کند. (MIT Technology Review)

۶ هوش مصنوعی نابرابری دیجیتال جهانی را تسریع می‌کند
پول، زیرساخت و استعدادها در تعداد نسبتاً کمی از مکان‌ها در حال تجمع هستند. (IEEE Spectrum)

۷ رایانه‌های کوانتومی نوید ابرقدرت‌های ریاضیاتی را می‌دهند
و به نظر می‌رسد که ما به یک ماشین تجاری نزدیک‌تر می‌شویم. (The Economist $)
+ سای‌کوانتوم (PsiQuantum) برنامه‌ای دارد تا یک رایانه کوانتومی عظیم از نور بسازد. (MIT Technology Review)

۸ دانشجویان مضطرب چینی برای پذیرش دانشگاه از هوش مصنوعی استفاده می‌کنند
استخدام مربیان خصوصی برای عبور از این تصمیم سرنوشت‌ساز امری رایج است، اما شرکت‌های هوش مصنوعی اکنون این خدمات را به صورت رایگان ارائه می‌دهند. (Rest of World)
+ چگونه دیپ‌سیک (DeepSeek) به فالگیر جوانان چین تبدیل شد. (MIT Technology Review)

۹ بچه‌پولدارها مدام به نوه‌های خود کتاب‌های چرث تولیدشده با هوش مصنوعی هدیه می‌دهند
و این موضوع والدین نسل هزاره (Millennial) را دیوانه کرده است. (Wired $)
+ ۱۰ ماینکرفت (Minecraft) به کودکان کمک می‌کند شهرهای خود را دوباره طراحی کنند
این نشان می‌دهد که چگونه خلاقیت حتی در میان جنگ می‌تواند شکوفا شود. (New York Times $)

نقل‌قول روز

«من می‌خواهم خون، عرق و اشک‌هایی را که صرف آن شده است ببینم.»

—ری اسلاتر بری (Ray Slater Berry)، بنیانگذار آژانس بازاریابی dslx، به وایرد می‌گوید که چرا به متن نوشته شده توسط انسان‌ها جذب می‌شود.

یک چیز دیگر

چشم‌انداز پر از پهپاد اروپا برای آینده جنگ

اروپا آزمایش یک شبکه هوش مصنوعی خودکار نامرئی را آغاز کرده است که به عنوان یک «وب هدف‌گیری دیجیتال» شناخته می‌شود و تحت نام پروژه آسگارد (Project ASGARD) شکل گرفته است. هدف آن اتصال هر چیزی است که به دنبال اهداف می‌گردد — در اصطلاح نظامی «سنسورها» — و هر چیزی که به آن‌ها شلیک می‌کند («تیراندازان») به یک مغز الکترونیکی بی‌سیم واحد و مشترک.

هشتاد سال پس از آنکه جنگ تمام‌عیار آخرین بار قاره را متحول کرد، این سیستم نشانگر محاسبات وحشیانه جدیدی برای دفاع اروپا است. اسون وایزنگر (Sven Weizenegger)، رئیس هاب نوآوری سایبری ارتش آلمان می‌گوید: «روس‌ها پشت در هستند.»

داستان ما را بخوانید که استراتژیست‌ها و سیاست‌گذاران چگونه روی ابزارهای خودکار میدان نبرد حساب باز کرده‌اند تا از نفوذ آن‌ها جلوگیری کنند.

—آرتور هلند میشل (Arthur Holland Michel)

ما هنوز هم می‌توانیم چیزهای خوب داشته باشیم

+ این داستان را درباره حادثه استودیویی که صدای درام «گیتد ریورب» (gated reverb) دهه ۱۹۸۰ را به وجود آورد، دوست دارم.
+ وب‌سایت Wewere.online مرورگردی انفرادی را با رندر کردن مسیرهای زنده مکان‌نمای سایر بازدیدکنندگان به یک تجربه چندنفره تبدیل می‌کند.
+ تصور کنید اقامت در این کلبه ساحلی در تاسمانی چقدر شما را آرام می‌کند.
+ چرا گربه‌ها همیشه روی چهار دست و پا فرود می‌آیند؟ این به خاطر ستون‌های فقرات شگفت‌انگیز و انعطاف‌پذیر آن‌ها است.