یک روز دیگر و گامی دیگر به سوی یک مدینه فاضله یا دیستوپیا مبتنی بر هوش مصنوعی (AI). شرکت گوگل (Google) به تازگی یک ویژگی «سرگرمکننده» جدید به گوگل ارث (Google Earth) اضافه کرده است؛ ابزار نانو موز ۲ (Nano Banana 2) که ابزار تولید تصویر این شرکت محسوب میشود. تمام کاری که باید انجام دهید این است که روی دکمه «تولید تصویر» کلیک کنید، یک دستور (Prompt) تایپ کنید و چند ثانیه بعد تصویری ساختگی خواهید داشت که خود را به عنوان یک عکس ماهوارهای و هوایی واقعی از گوگل ارث جا میزند.
زمانی این موضوع را مضحک میدانستم که ابزاری طراحی شده برای به نمایش گذاشتن دقیق سیاره ما، ویژگیای را تبلیغ کند که به شما اجازه میدهد مزخرفات مطلق بسازید. اما اکنون ما در دنیایی زندگی میکنیم که محبوبترین موتور جستجو به طور منظم دروغ میبافد.
برای مدتی، گوگل متقاعد شده بود که من متاهل هستم، احتمالاً به این دلیل که من در مقطعی اشاره کرده بودم که شخصیتم در بازی کرسیدر کینگ ۳ (Crusader Kings 3) همسر دارد. حداقل این موضوع تا حد زیادی بیخطر بود - اما خلاصه کارهای هوش مصنوعی گوگل (Google's AI summaries) به طور منظم توهم میزنند و اشیاء را به اشتباه تعبیر میکنند و اطلاعات نادرست را تا حدی پخش میکنند که اصلا نمیتوان به آن اعتماد کرد.
اطلاعات نادرستی مانند ساخت مناطق جنگی، شورشها، جنایات - این موارد کمتر بیخطر هستند. اما گوگل ارث اکنون به شما اجازه میدهد هر چرندیاتی را که میخواهید ایجاد کنید. امروز صبح، از گوگل ارث خواستم تصویری از تانکها و نیروهایی که در خیابانی نزدیکی خانهام حرکت میکنند، تولید کند. من تصویر را ذخیره نکردم، زیرا هیچ قصدی برای قرار دادن چیزی در اینترنت که بتواند برای مقاصد شرورانه استفاده شود، ندارم. اما راحت باشید و خودتان آن را امتحان کنید.
باید اضافه کنم که تصویری که گوگل ارث برای من ایجاد کرد چندان واقعبینانه نبود. برای مثال، برخی از تانکها به بزرگی ساختمانها بودند. و هیچکس به تصویر هدر تولید شده توسط من از طریق گوگل ارث برای این مقاله نگاه نخواهد کرد و فکر نمیکند «وای خدای من، یک سیارک به سمت ما هجوم میآورد!» تولید تصویر با هوش مصنوعی در بهترین حالت ناپایدار است. اما گوگل این را درک میکند، و به همین دلیل است که به شما اجازه میدهد دستورات بیشتری را برای اصلاح تصویر اضافه کنید - تا آنجا که ممکن است آن را واقعبینانه بسازید.
از زمانی که این ویژگی راهاندازی شده است، من تصاویر زیادی دیدهام که بدون دانستن ادغام نانو موز ۲ (Nano Banana 2)، بسیار قانعکننده به نظر میرسند. هنک فان اس (Henk van Ess) از وبسایت دیجیتال دیگینگ (Digital Digging) تصویری از پناهندگان جمعشده در مرز مکزیک ایجاد کرد که نگرانکننده واقعی به نظر میرسید.
دیدن اینکه چگونه از این ابزار میتوان برای تبلیغات و اطلاعات نادرست، برانگیختن نفرت و دامن زدن به ترسها استفاده کرد، آسان است. گوگل این ابزار را به عنوان یک چیز کوچک و بامزه ارائه میکند که به شما اجازه میدهد باغهای محلی را به زمینهای متروک اضافه کنید یا پمپئی باستانی را قبل از فوران وزوو بازسازی کنید. اینطور نیست که قرار باشد از آن استفاده شود.
گوگل در واقع به مقاله دیجیتال دیگینگ در شبکه اجتماعی ایکس (X) پاسخ داد. این چیزی است که گفت:
ما اطلاعات نادرست را جدی میگیریم - هر تصویر ایجاد شده با نانو موز در گوگل ارث شامل واترمارک دیجیتال سینتآیدی (SynthID) است، بنابراین اگر کسی در مورد یک تصویر مطمئن نباشد، میتواند از برنامه جمینای (Gemini) بپرسد یا از لنز در سرچ (Lens in Search) استفاده کند تا ببیند آیا تصویر توسط هوش مصنوعی تولید شده است یا خیر. علاوه بر این، ما جلوگیری میکنیم... ۳۱ جولای ۲۰۲۶
این پاسخ ضعیف است.
بله، گوگل ارث شامل واترمارک دیجیتال سینتآیدی (SynthID) است. بنابراین، طبق معمول، میتوانید از ابزارهای هوش مصنوعی برای شناسایی یک تصویر هوش مصنوعی استفاده کنید. اما این سلب مسئولیت است. ما کسانی هستیم که باید بفهمیم چیزی جعلی است یا نه. با استفاده از ابزارهای گوگل برای انجام این کار.
همانطور که فان اس اشاره میکند، این تنها در صورتی مفید است که تصویر دستنخورده از طریق گوگل به دست شما برسد. او کلیپی از خود را که در حال ایجاد تصویر پناهندگان مکزیکی بود، از طریق ابزار تشخیص هوش مصنوعی هایو (Hive) اجرا کرد. این ابزار ۹۹.۲ درصد مطمئن بود که تصویر واقعی است. زیرا واقعی بود، به این معنا که ضبط تصویرسازی فان اس مشروع بود.
بنابراین دور زدن ابزارهای تشخیص بسیار آسان است. و بله، برخی از افراد زیرک بلافاصله مشکوک خواهند شد مگر اینکه بتوانند تصویر اصلی را ببینند. بیشتر مردم وقت این کار را ندارند. آنها واکنش فوری خواهند داشت. و سپس آن را در سراسر رسانههای اجتماعی به اشتراک میگذارند، جایی که افراد بیشتری فریب آن را خواهند خورد. تا زمانی که به عنوان جعلی شناخته شود، ممکن است آسیب قبلاً وارد شده باشد. و افرادی که فریب خوردهاند برای بررسی دوباره برنخواهند گشت.
نظر دوم توییت گوگل چیست؟ «علاوه بر این، ما از ایجاد تصویر در مورد موضوعات مضر جلوگیری میکنیم و به طور مداوم محافظتهای خود را بهروزرسانی میکنیم.» من زادگاه خودم را به یک منطقه جنگی تبدیل کردم. این یک شوخی کوچک نیست. این میتواند مضر باشد. اما گوگل ارث این تصویر را در چند ثانیه ایجاد کرد. آیا تظاهر به اینکه تجمع بزرگی از پناهندگان در مرز مکزیک منتظرند نیز فقط یک شوخی کوچک بیخطر است؟ یک بیمارستان بمباران شده در غزه چطور، یا یک نیروگاه هست هر در ایران؟ هر سه توسط فان اس ایجاد شدند.
مطمئناً، مردم میتوانند از انواع ابزارهای تولید تصویر هوش مصنوعی برای ساختن جعلهایی مانند این استفاده کنند. اما مردم بیشتر به آنها وزن میدهند که به طور واضح از گوگل ارث میآیند - ابزاری که ما برای اعتماد به آن آموزش دیدهایم.
این یکی از قدرتمندترین و نفوذپذیرترین شرکتهای روی سیاره است که نه تنها دروغ میفروشد، بلکه به کل سیاره ابزارهایی برای ایجاد تکههای کوچک و سرگرمکننده اطلاعات نادرست خود میدهد.
تنها مایه تسلی این است که طبیعتاً گوگل میخواهد از این موضوع درآمدزایی کند. کاربران عادی تنها قادر به ساخت چند تصویر در روز خواهند بود، که میزان هرج و مرجی را که میتوانند ایجاد کنند کاهش میدهد و به طور بالقوه آنها را از توانایی اصلاح تصاویر برای واقعیتر کردن آنها تا حد امکان باز میدارد. بنابراین ترولهای گاه به گاه در آنچه میتوانند انجام دهند بسیار محدود خواهند بود. اما یک دوره آزمایشی رایگان برای کاربران جدید گوگل کلود (Google Cloud) وجود دارد و هزینه ۷۵ تا ۱۵0 دلار در ماه برای مروجان اختصاصیتر اهمیتی نخواهد داشت.
این افتضاح است و من خیلی، خیلی خسته شدهام.
این مقاله پس از انتشار بهروزرسانی شد تا تفکیک بین اطلاعات نادرست (Misinformation) و اطلاعات غلط عمدی (Disinformation) را منعکس کند.