این نهایت توهم اصالت است. یک سازنده محتوا در ماشین خود، با لبخندی گرم و لحنی آرام. کاملاً اصیل. صدا متعلق به خود اوست. تاییدهای ظریف سر و حرکات دست متعلق به اوست. حتی لحن صدا هم مال خودش است. تنها چیزی که مال او نیست، چهرهاش است.
به عصر دزدیدن هویت دیجیتال خوش آمدید؛ گوشهای سریع در حال رشد و پرسود از اینترنت که در آن هر کسی که به ابزارهای هوش مصنوعی دسترسی دارد میتواند حضور فیزیکی شخص دیگری را ربود.
چرا باید چهرهای را روی ویدیوی شخص دیگری قرار داد؟ انگیزهها مبهم است. این کار میتواند برای کلیکها، پرداختهای وابسته یا افزایش تعامل باشد. اما در حالی که هدف نهایی متفاوت است، الگو غیرقابل انکار است: تصرف شباهت یک سازنده محتوا بدون رضایت او.
من با پیج دیویس (Paige Davis)، سازنده محتوایی که اخیراً متوجه شد محتوایش دزدیده و دوباره پست شده است، صحبت کردم تا بفهمم این سرقت چگونه کار میکند - و چرا پلتفرمهایی که این ابزارهای هوش مصنوعی را میسازند، قربانیان را به حال خود رها میکنند.
«این دیگر چه کوفتی است؟»
پیج زمانی متوجه شد هویتش بازسازی شده است که یک دوست و یکی از دنبالکنندگانش ویدیویی هوش مصنوعی با استفاده از صدا، بدن، لباس و پسزمینه او برایش فرستادند.
او به یاد میآورد: «من روی ویدیو کلیک کردم و فکر کردم، این دیگر چه کوفتی است؟ من تا به حال هوش مصنوعی به این دقت ندیده بودم و وقتی این خود شما هستید، بسیار تکاندهندهتر است. این لباس من، صدای من، کمربند ایمنی من است. به معنای واقعی کلمه تنها کاری که او کرد این بود که چهره را تغییر داد.»
اقتصاد پشت این ویدیوها ساده است. ساختن اعتماد پرهزینه است، اما کلون کردن آن ارزان است. به جای تولید یک انسان کاملاً مصنوعی از صفر، بسیار مؤثرتر است که از کاریزما و جذابیت یک انسان واقعی استفاده کنید.
ابزارهایی مانند سینکلبز (SyncLabs) و واوتولیپ (Wav2Lip) صدای دزدیده شده را میگیرند و آن را روی ویدیوی هدف قرار میدهند و حرکات دهان را فریم به فریم به طور خودکار همگامسازی مجدد میکنند.
هنگامی که پیج هزاران نفر از دنبالکنندگان خود را برای گزارش کلیپ وایرالشده دزدیده شده بسیج کرد، به یک دیوار تعدیل خودکار برخورد کرد. او توضیح میدهد: «من هزاران نفر داشتم که آن را گزارش دادند و ظرف ۴۸ ساعت تک تک افراد رد شدند. تک تک افراد همان اعلان را دریافت کردند که میگفت این دختر هوش مصنوعی استانداردهای انجمن را نقض نمیکند.»
روزهای بعد، ویدیو به طور موقت حذف شد، اما تنها ۴۸ ساعت بعد دوباره ظاهر شد. پیج میگوید: «من جشن میگرفتم و به همه میگفتم ویدیو برداشته شده است. و سپس دو روز بعد، تک تک افراد همان اعلان را دریافت کردند که میگفت ویدیو برگشته است.»
فقط پس از ارسال یک درخواست دستی مالکیت معنوی (Intellectual Property)، یک فرم ۲۰ دقیقهای که نیاز به شناسایی صادر شده توسط دولت، مهر زمانی ویدیو و زبان حقوقی رسمی داشت، محتوا پاک شد.
برای سازندگان محتوایی که فالوورهای بسیار زیاد یا سواد حقوقی ندارند، این روند عملاً غیرقابل عبور است.
الگوریتمها به اخلاق اهمیت نمیدهند
یک استاندارد دوگانه آشکار در جریان است. از یک طرف، غولهای فناوری به گزینههای پیشفرض متکی هستند که هویت کاربران را به عنوان مواد خام تلقی میکنند. رونمایی متا از ابزار Muse Image نمونه بارز آن است.
اگر فرصتی برای نشستن مستقیم با مدیران محصول و اجرایی که این ابزارهای پیشفرض را فشار میدهند فراهم شود، پیج میداند چه چیزی خواهد پرسید:
«چگونه فکر کردید این ویژگی ایده خوبی است؟ مزایایی که در نظر داشتید چه بود؟ زیرا اگر آنها بتوانند چند مزیت را به من بگویند، شاید بتوانیم گفتگو کنیم. اما من واقعاً هیچ جنبه مثبتی در آن نمیبینم.»
هنگام بحث درباره راهاندازی اختیاری متا، پیج بلافاصله شباهتی با یکی از بدنامترین اشتباهات دنیای فناوری پیدا میکند. «این مرا یاد زمانی میاندازد که اپل آن آلبوم گروه U2 را روی آیپاد همه قرار داد.»
شرکتهای فناوری یک بار دیگر به طور پیشفرض مالکیت داراییهای شخصی را به عهده میگیرند. به جز این بار، به جای یک آلبوم راک ناخواسته، آنها چهره شما را میگیرند.
از طرف دیگر، وقتی قانونگذاران تلاش میکنند شبکههای ایمنی واقعی بسازند، شرکتهای هوش مصنوعی برای از بین بردن آنها شکایت میکنند. نمونه بارز: شکایت شرکت xAI برای لغو ممنوعیتهای ایالتی بر روی دیپفیکهای غیرمجاز.
با ادعای اینکه مسئولیت پلتفرم نقض گفتار محافظتشده است، xAI کتاب بازی گستردهتر این صنعت را آشکار میکند: انتقال کل بار دفاع بر دوش قربانیان در حالی که ادعای مصونیت کامل برای ابزارهای تسهیلکننده سرقت دارد.
فراتر از اقتصاد سازندگان محتوا
در حالی که سازندگان تماموقت دنبالکنندگان اختصاصی ایجاد کردهاند، فناوری زیربنایی تهدید حتی خطرناکتری را برای کاربران عادی اینترنت ایجاد میکند.
پیج میگوید: «میلیونها نفر به عنوان سازندگان محتوای حرفهای در اینستاگرام هستند... این شغل من است اکنون. آنها از کسانی که از پلتفرم خود برای آنچه که برای آن در نظر گرفته شده استفاده میکنند، محافظت نمیکنند.»
وقتی سرقت هویت به چند کلیک تقلیل مییابد، اهداف بسیار فراتر از اینفلوئنسرها گسترش مییابند. پیج اشاره میکند: «این همان چیزی است که درباره افراد عادی که سازنده محتوا نیستند ترسناک و ناامیدکننده است. آنها پلتفرم بزرگتری ندارند، فالووری ندارند که به آنها در پاک کردن چیزها کمک کند.»
پیج هشدار میدهد: «این طول و عمقی که برای استفاده از هوش مصنوعی در چهره و تصاویر افراد طی میشود فوقالعاده خطرناک است. این پیامدهای بزرگی برای شغل و زندگی مردم دارد.»
پلتفرمهایی مانند متا و تیکتاک ممکن است هیچ عجلهای برای رفع کلاهبرداری که مردم را درگیر نگه میدارد نداشته باشند و نسخه مصنوعی شما هرگز خسته نخواهد شد. اما کد نمیتواند تا ابد پاسخگویی را جعل کند. هر بار که این گفتگوها را انجام میدهیم، فروش این اسکینواکر (Skin-walker) دیجیتال را سختتر میکنیم. ممکن است الگوریتم را کنترل نکنیم، اما همچنان حقیقت را کنترل میکنیم.