توییچ (Twitch) فاش کرده است که اکنون از محتوای استریمها «برای آموزش مدلهای محتوای هوش مصنوعی مولد در سراسر آمازون (Amazon)» استفاده میکند و بدتر از همه این که همه کاربران به طور پیشفرض در این برنامه آموزشی ثبتنام داده شدهاند.
شایعات درباره یک برنامه آموزش هوش مصنوعی حداقل از چند هفته پیش مطرح بود - زک باسی (Zach Bussey)، استریمر، در ماه جولای در بل اسکای (Bluesky) درباره آن پستی منتشر کرد - اما امروز به طور بسیار غیرمستقیم توسط اطلاعیه پشتیبانی توییچ در ایکس (X) تأیید شد که تنظیماتی را برای انصراف استریمرها فراهم میکند.
این به طور طبیعی بدان معناست که تنظیمات پیشفرض روی حالت ثبتنام است، که بازخورد خوبی نداشته است: پاسخها به پیام در ایکس عمدتاً یا توضیحاتی درباره نحوه خاموش کردن آموزش هوش مصنوعی است یا فحاشیهای مشتاقانه. یک موضوع در توییچ یوزر ویس (Twitch User Voice) در این زمینه که در ماه می منتشر شده بود و خواستار «اختیاری و انصراف پیشفرض» تمامی قابلیتهای هوش مصنوعی شده بود، تا زمان نگارش این مطلب به ۲۲۸ صفحه و نزدیک به ۱۴۰۰۰ رای موافق منفجر شده است.
در مورد اینکه چرا سیستم جدید آموزش هوش مصنوعی مولد به طور پیشفرض فعال است، مایک مینتون (Mike Minton)، مدیر ارشد محصول توییچ، در جریان یک استریم زنده پاسخ فوقالعاده صادقانهای داد و به تبع آن تأیید کرد که توییچ به خوبی از احساس واقعی مردم نسبت به این موضوع آگاه است: «اگر اختیاری بود، هیچکس آن را انتخاب نمیکرد.» بنابراین، حداقل به خاطر صداقتش، به او امتیاز میدهم.
انصراف از طرح آموزش هوش مصنوعی مولد توییچ چندان دشوار نیست. کافی است به تب «امنیت و حریم خصوصی» (security and privacy) در تنظیمات توییچ خود بروید، سپس به پایین صفحه اسکرول کنید تا کلید «آموزش برای هوش مصنوعی مولد» (Training for Generative AI) را ببینید. روی آن کلیک کنید (و من به شدت شما را تشویق میکنم که این کار را بکنید)، و کار تمام است.
مشکل این است که اگر مردم ندانند آنجا وجود دارد، سهولت استفاده هیچ فایدهای ندارد و توییچ به نظر نمیرسد تلاش زیادی برای اطمینان از آگاهی همه انجام دهد. فاش کردن سیستم جدید از طریق پستی درباره یک ویژگی مرتبط در کانال پشتیبانی توییچ به جای یک اطلاعیه متعارف در وبلاگ توییچ، به هیچ وجه روشی با دید بالا برای انتشار خبر نیست، و پاسخ به پست اخیر باسی درباره این قابلیت با این جمله که «توییچ در حال آموزش مدلهای هوش مصنوعی مولد روی محتوای استریمرها نیست» آب را گلآلود کرد.
اما سؤالات متداول تنظیمات حساب کاربری خود توییچ نشان میدهد که دقیقاً همین کار را انجام میدهد. تحت این سؤال که «مدلهای محتوای هوش مصنوعی مولد چیستند و استفاده از محتوای من برای آموزش آنها به چه معناست؟»، توییچ نوشت:
«مدلهای محتوای هوش مصنوعی مولد ابزارهای هوش مصنوعی هستند که میتوانند به ایجاد یا سنتز خروجیهای محتوایی مانند متن یا تصاویر هنگامی که دستورات یا پرامپتها به آنها داده میشود کمک کنند زیرا آنها نیز روی محتوا آموزش دیدهاند. هنگامی که اجازه آموزش را میدهید، به این معناست که ممکن است محتوای شما برای بهبودهای آینده مدل هوش مصنوعی مولد استفاده شود. نمونهای از آنچه هنگام اجازه دادن به محتوایتان برای آموزش یک مدل محتوای هوش مصنوعی مولد رخ میدهد این است که صدای شما ممکن است به اصلاح مدلهایی که گفتار را به متن تبدیل میکنند کمک کند، که به بهبود زیرنویسها در توییچ کمک میکند اما همچنین به بهبود زیرنویسها در سراسر آمازون کمک خواهد کرد.»
این به اندازه کافی واضح به نظر میرسد، بنابراین آن بیانیه در ایکس به چه معناست؟ بهترین حدس من این است که توییچ تلاش میکند ادعا کند آمازون از محتوای استریمرها برای آموزش مدلهای هوش مصنوعی مولد استفاده میکند، نه خود توییچ - تفاوتی که کاملاً بدون تفاوت است با توجه به اینکه توییچ بخشی از آمازون است. من برای درخواست شفافسازی با توییچ تماس گرفتهام.
بخش سؤالات متداول همچنین خاطرنشان میکند که انصراف از آموزش هوش مصنوعی مولد «شما را از تمام کاربردهای هوش مصنوعی یا یادگیری ماشین در توییچ منصرف نمیکند». این پلتفرم همچنان میتواند از دادههای شما، از جمله استریمها، ویدیوهای درخواستی (VODs) و بقیه موارد، برای «ویژگیهای پشتیبانیشده با هوش مصنوعی» مانند زیرنویسهای خودکار استفاده کند، اگرچه این دادهها برای آموزش مدلهایی که میتوانند محتوای جدید تولید کنند، نگهداری نمیشوند.
این به سختی اولین گندکاری بزرگ توییچ است. اگر چیزی باشد، این پلتفرم در طول سالها کانون تصمیمات بد بوده است، در موضوعاتی از محتوای جنسی گرفته تا دونالد ترامپ (Donald Trump)، فلسطین، «سیاست و مسائل حساس اجتماعی»، و اینکه چه زمانی میتوانید یا نمیتوانید کلمه «صهیونیست» را به کار ببرید - و این فقط مربوط به سه سال گذشته است.
اما این اقدام میتواند تأثیرگذارتر از بیشتر موارد باشد: مایک فوتر (Mike Futter)، همبنیانگذار و تحلیلگر شرکت مشاوره بازی اف-اسکوئرد (F-Squared)، گفت که سیستم آموزش هوش مصنوعی مولد جدید توییچ پیامدهای به طور بالقوه بسیار عمیقتری برای استریمرها دارد نسبت به آنچه ممکن است در نگاه اول آشکار باشد: «چه اتفاقی میافتد اگر یک خالق، بازی شما را استریم کند و در آن ثبتنام کرده باشد؟ آیا توییچ فکر میکند حق دارد بازی یک توسعهدهنده را به کارخانه آشغالساز هوش مصنوعی خود تزریق کند؟»
فوتر به پیسی گیمر گفت: «من فکر میکنم بسیاری از استودیوها طی چند روز آینده با وکلای خود صحبت خواهند کرد. برای کسانی از ما که از هوش مصنوعی مانند طاعون اجتناب کردهایم، این یک خطر آشکار و حاضر برای کسبوکارها و کارهای خلاقانه ما است.»
فوتر که مدیر عملیات و نشر در توسعهدهنده مستقل کازوی استودیوز (Causeway Studios) نیز هست، افزود: «در دورهای که صنعت ما به بیشترین حمایت ممکن، بهویژه از سوی شرکتهایی که هر روز از محتوای ما برای غنیسازی خود استفاده میکنند، نیاز دارد، این بسیار خصمانه به نظر میرسد.»
فوتر افزود: «ما یک استودیوی سرسختانه ضد هوش مصنوعی هستیم و این اکنون تهدید واقعی برای کار خلاقانه ما ایجاد میکند.» و در حالی که او فکر میکند توییچ و آمازون با مقاومتهایی از سوی بازیسازان بر سر برنامه آموزش هوش مصنوعی مولد خود روبرو خواهند شد، «این نبرد داوود و جالوت است. ما به جرم منتقدی از استودیوها و خالقان نیاز داریم تا درباره این موضوع سر و صدا به پا کنند.»
با توجه به تاریخچه عقبنشینیهای توییچ، تعجب نمیکنم که ببینم این ویژگی جدید به خاطر واکنشها کنار گذاشته شود - اما با توجه به استقبال مصمم آمازون از هوش مصنوعی مولد، من همچنین از آن تعجب خواهم کرد. در هر صورت، نکته کلیدی در این نقطه این است که مدل آموزش هوش مصنوعی مولد جدید برای توییچ در چند سطح یک آشفتگی است و به نظر میرسد بیشتر احتمال دارد بدتر شود تا اینکه به زودی از بین برود.