اگر از چتجیپتی (ChatGPT) به عنوان یک تختهسیاه خصوصی، درمانگر، شریک برنامهنویسی یا جایی برای کار روی افکار شخصی خود استفاده میکنید، ممکن است بخواهید پیش از فشردن دکمه ارسال، کمی بیشتر فکر کنید.
گزارشی از رسانه فوراوفور مدیا (404 Media) فاش میکند که شرکت اوپنآی (OpenAI) صدها پیمانکار انسانی را برای خواندن، خلاصهسازی و نقد مکالمات واقعی کاربران استخدام میکند. در حالی که اوپنآی تأکید میکند حسابهای کاربری ناشناس باقی میمانند، اسناد داخلی نشان میدهند که ناظران کل مکالمات را میبینند و جزئیات شخصی حساس به طور معمول از پادمانهای خودکار شرکت عبور میکنند.
خبر خوب این است که میتوانید جلوی ارسال چتهای آینده خود به پیمانکاران انسانی را بگیرید. در اینجا اتفاقاتی که پشت صحنه رخ میدهد، خطرات واقعی حریم خصوصی و نحوه انصراف از آن آورده شده است.
پروژه لیلی: چگونه انسانها چتجیپتی را آموزش میدهند
اسناد داخلی نشان میدهند که ابتکار بررسی تحت نام رمز داخلی «پروژه لیلی» (Project Lily) فعالیت میکند.
شرکت اوپنآی (OpenAI) به پیمانکاران خارجی، که اغلب از طریق شرکتهای تأمین نیروی شخص ثالث بیش از ۵۰ دلار در ساعت حقوق دریافت میکنند، پول میدهد تا ربات گفتگو را به صورت دستی آموزش دهند تا کمتر رباتیک به نظر برسد. پیمانکاران پرامپت کاربر را میخوانند، نیت کاربر را خلاصه میکنند و چهار پاسخ بالقوه هوش مصنوعی را در مقیاس ۱ تا ۷ ارزیابی میکنند.
بر اساس راهنماهای آموزشی درز کرده، این ناظران به طور خاص دستور دارند که:
- حذف «زبان هوش مصنوعی»: ایموجیهای تیک غیرضروری، پایانهای جذب تعامل و قالببندی شلوغ را جریمه کنند.
- متوقف کردن انسانانگاری: اطمینان حاصل کنند که چتجیپتی هرگز ادعای تجربههای زیسته انسانی نکند (مثلاً ادعای «به عنوان یک سرآشپز، من دوست دارم...» به شدت ممنوع است).
- کاهش چاپلوسی: پاسخهایی را که در آنها ربات بیش از حد از کاربران تمجید میکند، افکار غیرمنطقی را تأیید میکند یا ناامیدی شخصی را تقویت میکند، علامتگذاری کنند. این یک مشکل شناخته شده است که پیش از این نظارت قانونی را در مورد ایمنی کاربر به همراه داشته است.
چرا پرامپتها ناشناس نیستند
شرکت اوپنآی (OpenAI) اعلام میکند که نامهای کاربری را در اختیار ناظران قرار نمیدهد و تمام مکالمات از یک «فیلتر حریم خصوصی» خودکار عبور میکنند که برای حذف جزئیات شناسایی طراحی شده است. با این حال، این سیستم دارای آسیبپذیریهای عمدهای است.
شرکت اوپنآی (OpenAI) آشکارا در سایت خود اعتراف میکند که فیلتر میتواند اشتباه کند و شناسههای غیرمعمول یا زمینه شخصی مبهم را از دست بدهد. حتی نگرانکنندهتر اینکه، فوراوفور مدیا (404 Media) کشف کرد که داشبورد نمایش داده شده به پیمانکاران اغلب شامل «خلاصه خاطرات کاربر» است. این بخش مروری بر تعاملات قبلی کاربر ارائه میدهد که میتواند ناخواسته موقعیت مکانی عمومی، شغل یا زمینه زندگی شخصی آنها را فاش برخلاف فیدهای عمومی رسانههای اجتماعی، یک پنجره چت بات تمیز و خالی حس کاذبی از صمیمیت خصوصی ایجاد میکند. برخی از پرامپتهای دیدهشده توسط پیمانکاران حتی نشان میداد که کاربران از چتجیپتی میخواهند «این را بین خودمان نگه دار» - غافل از اینکه یک دستور پرامپت، جمعآوری دادههای بکاند پلتفرم را لغو نمیکند.
اوپنآی (OpenAI) تنها غول فناوری نیست که این کار را انجام میدهد. شرکت انتروپیک (Anthropic) تأیید کرد که وقتی کاربران آموزش را فعال نگه میدارند، از ناظران انسانی برای کلود (Claude) استفاده میکند، در حالی که جمنای (Gemini) گوگل به طور واضح یک سلب مسئولیت ارسال میکند که ناظران انسانی چتهای ذخیرهشده انتخابی را میخوانند.
چگونه جلوی استفاده اوپنآی از چتهای خود را بگیرید
اگر یک حساب شخصی (رایگان، پلاس یا پرو) دارید، اوپنآی (OpenAI) بهبود مدل را به صورت پیشفرض فعال میکند. (حسابهای سازمانی، تجاری و آموزشی این ویژگی را به طور خودکار خاموش کردهاند).
برای جلوگیری از هدایت مکالمات آینده خود به مربیان انسانی:
- چتجیپتی (ChatGPT) را در مرورگر یا اپلیکیشن موبایل خود باز کنید.
- روی تصویر نمایه (profile icon) خود در گوشه پایین کلیک کنید و تنظیمات (Settings) را انتخاب کنید.
- گزینه کنترلهای داده (Data Controls) را انتخاب کنید.
- کلید مربوط به «بهبود مدل برای همه» (Improve the model for everyone) را پیدا کرده و آن را روی حالت خاموش (Off) قرار دهید.
افکار پایانی
به خاطر داشته باشید که این انصراف عطف به ما سبق نمیشود. این کار فقط از مکالمات جدید در آینده محافظت میکند؛ پرامپتهایی که قبلاً شناساییزدایی شده و در صف سیستم قرار گرفتهاند، همچنان بخشی از چرخه آموزش باقی میمانند.
علاوه بر این، خاموش کردن این مورد مانع از اسکن خودکار برای شرایط خدمات یا نقض ایمنی نمیشود.
در آینده، قانون طلایی هوش مصنوعی ساده میماند: اگر دوست ندارید یک غریبه آن را بخواند، آن را در پرامپت چتبات تایپ نکنید.
منبع: tomsguide.com