مقدمه
در پی شکایتهای گسترده درباره سوءاستفاده از هوش مصنوعی (AI) برای مقاصد غیراخلاقی، دیوید چیو، دادستان شهر سانفرانسیسکو، رسماً از اپل و گوگل خواست تا تمامی اپلیکیشنهای موسوم به «nudify» یا «undressing» را از فروشگاههای خود حذف کنند. این ابزارها با استفاده از تکنیکهای پیشرفته پردازش تصویر، پوشش را از روی عکسهای افراد حذف میکنند.
جزئیات فنی
این هشت اپلیکیشن شناسایی شده که بر بستر یادگیری ماشین (Machine Learning) فعالیت میکردند، به کاربران اجازه میدادند با بارگذاری تصویر هر فرد، خروجیهای غیراخلاقی و غیرواقعی تولید کنند. این نقض حریم خصوصی نه تنها غیراخلاقی است، بلکه در بسیاری از حوزههای قضایی، جرم تلقی میشود. اپل در واکنش به این فشارها اعلام کرده که در حال بررسی و حذف تمامی برنامههایی است که با قوانین سختگیرانه این شرکت در مورد محتوای جنسی و حریم خصوصی در تضاد هستند.
تحلیل و تأثیر
این حادثه بار دیگر پرسشهای جدی درباره مسئولیت پلتفرمهای توزیع نرمافزار در قبال آنچه توسعهدهندگان ارائه میدهند، مطرح کرده است. منتقدان معتقدند سیستم بررسی اپهای اپل پیش از تأیید نهایی، باید رویههای سختگیرانهتری در قبال ابزارهای هوش مصنوعی اعمال کند. حذف این اپها گام بزرگی برای محافظت از حقوق افراد و کاهش خشونتهای مبتنی بر تکنولوژی است.
نتیجهگیری
هوش مصنوعی بدون کنترل میتواند ابزاری برای تخریب حریم خصوصی باشد. این اقدام قضایی علیه اپل نشاندهنده شروع دورهای جدید از نظارت قانونی سختگیرانه بر روی توسعهدهندگان ابزارهای هوش مصنوعی در سطح جهانی است.