توئیچ (Twitch) فاش کرده است که اکنون از محتوای استریمها «برای آموزش مدلهای محتوای هوش مصنوعی مولد در سراسر آمازون (Amazon)» استفاده میکند و برای بدتر کردن اوضاع، همه کاربران به طور پیشفرض در این برنامه آموزشی ثبتنام داده شدهاند.
شایعات درباره یک برنامه آموزش هوش مصنوعی حداقل از چند هفته پیش مطرح شده بود - زک باسی (Zach Bussey)، استریمر، در ماه جولای درباره آن در بلو اسکای (Bluesky) پستی منتشر کرد - اما امروز به طور بسیار غیرمستقیم توسط اطلاعیه پشتیبانی توئیچ در ایکس (X) درباره تنظیماتی که به استریمرها اجازه انصراف میدهد، تأیید شد.
این به طور طبیعی به این معناست که تنظیمات پیشفرض به صورت «ثبتنام شده» است که بازخورد خوبی نداشته است: پاسخها به پیام در ایکس یا عمدتاً توضیحاتی درباره نحوه خاموش کردن آموزش هوش مصنوعی هستند یا ناسزاهای مشتاقانه. یک موضوع توئیچ یوزر ویس (Twitch User Voice) در این مورد که در اصل در ماه می منتشر شده بود و خواستار این بود که تمام ویژگیهای هوش مصنوعی «اختیاری و به صورت پیشفرض غیرفعال» باشند، همانطور که من این را مینویسم به ۲۲۸ صفحه و نزدیک به ۱۴۰۰۰ رأی موافق منفجر شده است.
در مورد اینکه چرا سیستم جدید آموزش هوش مصنوعی مولد به طور پیشفرض فعال است، مایک مینتون (Mike Minton)، مدیر ارشد محصول توئیچ، در طول یک استریم زنده امروز پاسخ به طور غیرمنتظرهای صادقانهای داد و به تبع آن تأیید کرد که توئیچ به خوبی از احساس واقعی مردم نسبت به آن آگاه است: «اگر به صورت اختیاری بود، هیچکس شرکت نمیکرد.» بنابراین، حدس میازم بهخاطر حداقل صریح بودن در این مورد، اعتباری به او تعلق میگیرد.
they know we don't want it. they do not care.
انصراف از طرح آموزش هوش مصنوعی مولد توئیچ چندان دشوار نیست. کافی است به تب «امنیت و حریم خصوصی» (security and privacy) در تنظیمات توئیچ خود بروید، سپس به پایین صفحه اسکرول کنید تا کلید «آموزش برای هوش مصنوعی مولد» (Training for Generative AI) را ببینید. روی آن کلیک کنید (و من به شدت شما را تشویق میکنم که این کار را انجام دهید)، و کار تمام است.
مشکل این است که اگر مردم ندانند آنجا وجود دارد، آسانی استفاده هیچ فایدهای ندارد و به نظر نمیرسد توئیچ تلاش زیادی برای اطمینان از اینکه همه از آن آخبر دارند انجام دهد. فاش کردن سیستم جدید از طریق پستی درباره یک ویژگی مرتبط در کانال پشتیبانی توئیچ به جای یک اطلاعیه متعارف در وبلاگ توئیچ به هیچ وجه روشی با دید بالا برای رساندن خبر نیست، و پاسخ به پست اخیرتری توسط باسی درباره این ویژگی با این جمله که «توئیچ در حال آموزش مدلهای هوش مصنوعی مولد روی محتوای استریمرها نیست»، آب را گلآلود کرد.
اما بخش سوالات متداول تنظیمات حساب کاربری خود توئیچ نشان میدهد که دقیقا این کار را انجام میدهد. تحت این سوال که «مدلهای محتوای هوش مصنوعی مولد چیستند و استفاده از محتوای من برای آموزش آنها به چه معناست؟»، توئیچ نوشت:
«مدلهای محتوای هوش مصنوعی مولد ابزارهای هوش مصنوعی هستند که میتوانند به ایجاد یا سنتز خروجیهای محتوا مانند متن یا تصاویر در هنگام دریافت دستورات یا پرامپتها کمک کنند زیرا روی محتوا نیز آموزش دیدهشدهاند. هنگامی که شما اجازه آموزش را میدهید، به این معنی است که محتوای شما ممکن است برای بهبودهای آینده مدل هوش مصنوعی مولد استفاده شود. نمونهای از آنچه هنگام اجازه دادن به محتوای خود برای آموزش یک مدل محتوای هوش مصنوعی مولد اتفاق میافتد این است که صدای شما ممکن است به اصلاح مدلهایی که گفتار را به متن تبدیل میکنند کمک کند، که به بهبود زیرنویسها در توئیچ کمک میکند اما همچنین به بهبود زیرنویسها در سراسر آمازون کمک خواهد کرد.»
این به اندازه کافی واضح به نظر میرسد، پس آن بیانیه در ایکس به چه معناست؟ بهترین حدس من این است که توئیچ تلاش میکند ادعا کند که آمازون از محتوای استریمرها برای آموزش مدلهای هوش مصنوعی مولد استفاده میکند، نه خود توئیچ - تمایزی که با توجه به اینکه توئیچ بخشی از آمازون است، کاملاً بیمعنی است. من برای درخواست توضیحات با توئیچ تماس گرفتهام.
بخش سوالات متداول همچنین خاطرنشان میکند که انصراف از آموزش هوش مصنوعی مولد «شما را از تمام کاربردهای هوش مصنوعی یا یادگیری ماشین در توئیچ انصراف نمیدهد». این پلتفرم همچنان میتواند از دادههای شما، از جمله استریمها، ویدیوهای درخواستی (VODs) و بقیه موارد، برای «ویژگیهای پشتیبانی شده با هوش مصنوعی» مانند زیرنویسهای خودکار استفاده کند، اگرچه این دادهها برای آموزش مدلهایی که میتوانند محتوای جدید تولید کنند، نگهداری نمیشوند.
این به سختی اولین اشتباه بزرگ توئیچ است. اگر چیزی باشد، این پلتفرم در طول سالها به کانونی برای تصمیمات بد تبدیل شده است، در موضوعاتی از محتوای جنسی گرفته تا دونالد ترامپ (Donald Trump)، فلسطین، «سیاستها و مسائل اجتماعی حساس»، و اینکه چه زمانی مجاز هستید یا نیستید کلمه «صهیونیست» را به کار ببرید - و این فقط مربوط به سه سال گذشته است.
اما این اقدام میتواند تأثیرگذارتر از بیشتر موارد باشد: مایک فوتر (Mike Futter)، همبنیانگذار و تحلیلگر در شرکت مشاوره بازی اف-اسکوئرد (F-Squared)، گفت که سیستم آموزش هوش مصنوعی مولد جدید توئیچ پیامدهای بالقوه بسیار عمیقتری برای استریمرها نسبت به آنچه ممکن است بلافاصله آشکار شود دارد: «چه اتفاقی میافتد اگر یک خالق بازی شما را استریم کند و انصراف نداده باشد؟ آیا توئیچ فکر میکند حق دارد بازی یک توسعهدهنده را به کارخانه لجن هوش مصنوعی خود تغذیه کند؟»
What happens if a creator streams your game and is opted in? Does Twitch think it has the right to feed a developer's game into its AI slop factory? This has deeper ramifications than it seems on the surface.
فوتر به پیسی گیمر (PC Gamer) گفت: «من فکر میکنم بسیاری از استودیوها طی چند روز آینده با وکلا صحبت خواهند کرد. برای کسانی از ما که مانند طاعون از هوش مصنوعی اجتناب کردهایم، این یک خطر آشکار و موجود برای کسبوکارها و کارهای خلاقانه ما است.»
«در دورانی که صنعت ما به بیشترین حد ممکن به حمایت نیاز دارد، بهویژه از سوی شرکتهایی که هر روز از محتوای ما برای غنیسازی خود استفاده میکنند، این بسیار خصمانه به نظر میرسد.»
فوتر که همچنین مدیر عملیات و انتشار در توسعهدهنده مستقل کازوی استودیوز (Causeway Studios) است، افزود: «ما یک استودیوی به شدت ضد هوش مصنوعی هستیم و این اکنون یک تهدید واقعی برای کار خلاقانه ما ایجاد میکند.» و در حالی که او فکر میکند توئیچ و آمازون با مقاومتهایی از سوی سازندگان بازی بر سر برنامه آموزش هوش مصنوعی مولد خود روبرو خواهند شد، «این نبرد داوود و جالوت است. ما به یک جرم بحرانی از استودیوها و خالقان نیاز داریم که درباره این موضوع فریاد بزنند.»
با توجه به تاریخچه عقبنشینیهای توئیچ، تعجب نمیکنم که ببینم این ویژگی جدید به خاطر واکنش شدید کنار گذاشته شود - اما با توجه به پذیرش مصمم آمازون از هوش مصنوعی مولد، من همچنین از آن تعجب خواهم کرد. در هر صورت، نکته اصلی در این نقطه این است که مدل آموزش هوش مصنوعی مولد جدید برای توئیچ در چندین سطح یک آشفتگی است و به نظر میرسد به جای اینکه به زودی از بین برود، احتمال بدتر شدن آن بیشتر است.