تصویری از فرزندانم در ساحل، پسرم در حال بازی فوتبال یا حتی کل خانوادهام که جلوی خانهمان لبخند میزنند، همگی نمونههایی از عکسهایی هستند که در شبکههای اجتماعی منتشر کردهام. میدانم که در این کار تنها نیستم، با توجه به اینکه چقدر مکرراً تصاویر مشابهی را دیدهام که اتفاقات زندگی مدرن را برجسته میکنند.
اما هوش مصنوعی (AI) خطر جدید نگرانکنندهای را ایجاد کرده است که به موجب آن میتوان از عکسهای معمولی کودکان واقعی مانند مواردی که در بالا ذکر کردم، بدون اینکه کودک یا والدینشان هرگز مطلع شوند، سوءاستفاده کرده و آنها را به تصاویر سوءاستفاده جنسی تبدیل کرد.
برای وضوح بیشتر، این یک تهدید تئوری نیست.
۳۳۲ تبلیغ حاوی مطالب سوءاستفاده جنسی از کودکان که توسط هوش مصنوعی تولید شده بود، از سیستمهای نظارتی عبور کردند
تحقیقات جدید از سوی پروژه شفافیت فناوری (Tech Transparency Project) نشان داد که صدها تبلیغ حاوی مطالب سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی (CSAM) در فیسبوک (Facebook) و اینستاگرام (Instagram) در حال اجرا بوده است. به گزارش وایرد (WIRED)، محققان چهار کودک واقعی را شناسایی کردند که عکسهای معمولیشان دستکاری شده بود، از جمله دو نوجوان اینفلوئنسر، یک کودک پیشدستانی که تصویرش در یک سایت عکس استوک ظاهر شده بود و یک عضو جوان از یک خانواده سلطنتی اروپایی.
در مجموع، پروژه شفافیت فناوری (TTP) ۳۳۲ تبلیغ حاوی مطالب سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی یا همان CSAM را پیدا کرد. بیشتر آنها کودکی را به تصویر میکشیدند که عکسش با استفاده از هوش مصنوعی دستکاری شده بود تا اینطور به نظر برسد که در حال انجام یک عمل جنسی است.
این یافتهها یادآور نگرانکنندهای از این موضوع است که چگونه هوش مصنوعی مولد (Generative AI) خطرات مربوط به اشتراکگذاری عکسهای کودکان به صورت آنلاین را تغییر داده است. ایجاد تصاویر جعلی متقاعدکننده دیگر در وهله اول نیازی به یک عکس صریح ندارد. یک عکس معمولی میتواند مواد اولیه را فراهم کند.
چگونه عکسهای معمولی به تصاویر سوءاستفاده تولید شده توسط هوش مصنوعی تبدیل میشوند
ابزارهای تصویرساز هوش مصنوعی مولد میتوانند یک عکس موجود را بگیرند و بخشهایی از آن را تغییر دهند، در حالی که ویژگیهای قابل تشخیص فرد را در عکس اصلی حفظ میکنند.
محققان میگویند این همان اتفاقی است که برای چندین کودک شناسایی شده در تبلیغات متا (Meta) رخ داده است.
به گزارش وایرد (WIRED)، محققان توانستند تصاویر چهار فرد زیر سن قانونی را به منابع اصلی آنها ردیابی کنند. دو نفر از آنها نوجوانان اینفلوئنسر با حسابهای کاربری عمومی در شبکههای اجتماعی بودند. دیگری یک کودک پیشدستانی بود که عکسش از طریق یک وبسایت عکس استوک در دسترس بود. نفر چهارم یک عضو جوان از یک خانواده سلطنتی اروپایی بود.
هیچکدام از آن عکسهای اصلی نیازی نداشتند که حاوی مطالب جنسی باشند تا مورد سوءاستفاده قرار گیرند.
اما هاردی (Emma Hardy)، مدیر ارتباطات در بنیاد دیدهبان اینترنت (Internet Watch Foundation)، به وایرد (WIRED) گفت: «برنامههای هوش مصنوعی ساخت تصاویر جنایتکارانه واقعگرایانه از سوءاستفاده جنسی از کودکان را بسیار آسان کردهاند و خطر جدیدی ایجاد کردهاند که در آن عکسهای روزمره کودکان گرفته شده و به محتوای جنسی تبدیل میشوند.»
هنگامی که یک تصویر معمولی به صورت عمومی قابل دسترسی باشد، کسی میتواند به طور بالقوه آن را دانلود کرده و به یک ابزار هوش مصنوعی که برای تغییر عکسها طراحی شده است، وارد کند.
هوش مصنوعی متا صدها مورد از تبلیغات را تشخیص نداد
مقیاس این تحقیق جدید همچنین نشان میدهد که متوقف کردن محتوای حاصل چقدر میتواند دشوار باشد.
در ماه اوت، محققان پروژه شفافیت فناوری (TTP) در ابتدا ۵۳ تبلیغ حاوی مطالب سوءاستفاده جنسی از کودکان را در پلتفرمهای متا کشف کردند. متعاقباً متا اعلام کرد که بسیاری از آن تبلیغات قبل از معرفی فناوری جدید هوش مصنوعی توسط این شرکت ظاهر شدهاند؛ فناوری که قصد دارد توانایی آن را در تشخیص تبلیغات متخلف در هنگام آپلود بهبود بخشد.
با این حال، محققان به یافتن آنها ادامه دادند. در واقع، پروژه شفافیت فناوری (TTP) میگوید که در نهایت ۳۳۲ تبلیغ حاوی مطالب سوءاستفاده جنسی از کودکان تولید شده توسط هوش مصنوعی را شناسایی کرده است که صدها مورد از آنها پس از اعلام فناوری تشخیص بهبودیافته متا ظاهر شدند.
این امر بسیار قابل توجه است زیرا اینها صرفاً پستهای فیسبوک یا اینستاگرام نبودند که از نظارت فرار کرده باشند. آنها تبلیغات پولی بودند.
متا میگوید تبلیغات قبل از اجازه اجرا بررسی میشوند و سیستمهای خودکار نقش عمدهای در آن فرآیند دارند.
تریسی کلیتون (Tracy Clayton)، سخنگوی متا، به وایرد (WIRED) گفت که این شرکت برنامههای موسوم به nudify یا سوءاستفاده از کودکان را تحمل نمیکند، چه تصاویر شامل کودکان واقعی باشد و چه توسط هوش مصنوعی تولید شده باشد. متا گفت بازیگران بد عمداً تلاش میکنند از سیستمهای تشخیص آن فرار کنند و برخی از ویدیوها تشخیصپذیرتر سختتر بودند زیرا تصاویر کودکان فقط به طور خلاصه ظاهر میشدند یا تار بودند.
این شرکت گفت که بسیاری از تبلیغات شناساییشده توسط محققان قبلاً حذف شدهاند، بیشتر آنها کمتر از ۲۰۰ بار بازدید (Impression) دریافت کردهاند و کمتر از ۵۰۰۰ دلار پرداخت از این تبلیغات دریافت کرده است. اما محققان مواردی را مستند کردند که در آن پس از گزارش یک تبلیغ، میزان قرار گرفتن در معرض آن افزایش یافته است.
پروژه شفافیت فناوری (TTP) میگوید که یک تبلیغ مربوط به یک نوجوان واقعی زمانی که به متا گزارش شد، به چهار حساب کاربری اروپایی رسیده بود. چند روز بعد، زمانی که متا آن را حذف کرد، این تبلیغ به بیش از ۳۳۰ حساب رسیده بود.
این تحقیق نشان میدهد که ابزارها به جریان اصلی تبدیل شدهاند
محققان تبلیغاتی را پیدا کردند که افراد را به سمت نزدیک به ۵۰ برنامه موجود از طریق اپ استور (App Store) اپل (Apple) و گوگل پلی استور (Google Play Store) هدایت میکردند. به گزارش وایرد (WIRED)، حدود ۳۰۰ تبلیغ از حدود ۳۵۰ تبلیغ بررسی شده در تحقیقات گستردهتر، برنامههای تصویرساز یا ویدیو ساز هوش مصنوعی را تبلیغ میکردند.
اپل (Apple) به وایرد (WIRED) گفت که برخی از توسعهدهندگان در ابتدا نسخههای سازگار برنامههای خود را ارسال کردند و سپس قابلیتهای ممنوعه برهنهسازی (Nudification) را اضافه کردند. اپل گفت ۱۷ برنامه از ۲۰ برنامه شناسایی شده توسط محققان را حذف کرده و علیه ۳ برنامه باقی مانده و همچنین ۷ برنامه اضافی که وایرد شناسایی کرده بود، اقدام کرده است.
گوگل (Google) گفت که تمام برنامههای موجود در گزارش را حذف کرده و صدها برنامه دیگر را به دلیل نقض خطمشیهای خود به حالت تعلیق درآورده است.
با این حال، این یافتهها مشکلی را آشکار میکند که فراتر از هر پلتفرم واحدی است زیرا هوش مصنوعی میتواند برای ایجاد تصویر استفاده شود. یک اپ استور میتواند ابزار مورد استفاده برای ساخت آن را توزیع کند. یک پلتفرم تبلیغاتی نیز میتواند تبلیغات مروج آن را توزیع کند.
هر لایه ممکن است سیستمهای ایمنی خاص خود را داشته باشد، اما مواد توهینآمیز فقط باید یک بار از آن سیستمها عبور کنند تا به کاربران برسند.
اگر تصویر تولید شده توسط هوش مصنوعی از فرزند خود پیدا کردید چه باید بکنید
اگر متوجه تصاویر جنسیشدهی هوش مصنوعی شدید که فرزندتان را درگیر میکند، تصویر را برای هشدار دادن به دیگران دوباره پست نکنید یا به طور گسترده به اشتراک نگذارید.
در عوض، اطلاعاتی را حفظ کنید که میتواند به شناسایی محل ظاهر شدن مواد کمک کند، مانند نام حساب کاربری، آدرس صفحه و سایر جزئیات اطراف، و محتوا را مستقیماً به پلتفرم گزارش دهید.
در ایالات متحده، سوءاستفاده جنسی مشکوک از کودکان را میتوان به خط تلفن سایبری مرکز ملی کودکان گمشده و استثمار شده (National Center for Missing & Exploited Children's CyberTipline) نیز گزارش داد.
والدین همچنین میتوانند از سرویس Take It Down مرکز NCMEC استفاده کنند که برای کمک به متوقف کردن اشتراکگذاری آنلاین تصاویر یا ویدیوهای برهنه، نیمهبرهنه یا صریح جنسی مربوط به فردی زیر ۱۸ سال طراحی شده است. این سیستم یک اثر انگشت دیجیتال یا هش (Hash) از یک تصویر ایجاد میکند بدون اینکه نیازی به آپلود خود تصویر باشد.
از آنجایی که تصاویر تولید شده توسط هوش مصنوعی سناریوهای جدیدتر و پیچیدهتری ایجاد میکنند، والدینی که مطمئن نیستند آیا یک تصویر دستکاریشده واجد شرایط است یا خیر، باز هم باید آنچه را که پیدا کردهاند گزارش دهند تا اینکه خودشان سعی کنند آن را تعیین کنند.
نتیجهگیری
سالهاست که به والدین در مورد اشتراکگذاری تصاویر فرزندان (Sharenting) و ردپای دیجیتال کودکان هشدار داده شده است. شیرنتینگ اصطلاحی است که ترکیبی از «اشتراکگذاری» (Sharing) و «فرزندپروری» (Parenting) است و عمل به اشتراکگذاری تصاویر، ویدیوها و جزئیات شخصی درباره فرزندانشان در شبکههای اجتماعی توسط والدین است.
اگرچه والدین نمیتوانند خطر سوءاستفاده هوش مصنوعی از تصاویر یا ویدیوهایی را که ارسال میکنند به طور کامل از بین ببرند، اما کاهش تعداد عکسهای عمومی قابل دسترس فرزندانشان و گزینشیتر بودن در مورد آنچه به اشتراک میگذارند، میتواند میزان مطالب موجود برای افرادی را که ممکن است از آنها سوءاستفاده کنند، کاهش دهد.
بیشتر بخوانید از تامز گاید (Tom's Guide)
- چتجیپیتی-۶ آسترا (ChatGPT-6 Astra) اینجاست — این یک پرامپت نشان میدهد که واقعاً چه کاری میتواند انجام دهد
- من از چتجیپیتی (ChatGPT)، جمنای (Gemini)، کلود (Claude) و پرپلکسیتی (Perplexity) خواستم ۱۰ شغلی را که بیشتر در معرض جایگزینی با هوش مصنوعی هستند رتبهبندی کنند — این همان چیزی است که همه آنها روی آن توافق داشتند
- کلود فیبل ۵.۱ (Claude Fable 5.1) اینجاست — این یک پرامپت نشان میدهد که واقعاً چه کاری میتواند انجام دهد
منبع: tomsguide.com