نکته بسیار تناقضآمیزی در اخراج شدن از یک شرکت هوش مصنوعی (AI) به دلیل استفاده از هوش مصنوعی وجود دارد، اما بر اساس گزارش جدیدی از ۴۰۴ مدیا (404 Media)، ظاهراً دقیقاً همین اتفاق برای چندین پیمانکار که به آموزش مدلهای اوپنایآی (OpenAI) کمک میکردند، رخ داده است.
پیمانکارانی که برای بررسی و بهبود پاسخهای تولید شده توسط مدلهای هوش مصنوعی اوپنایآی (OpenAI) استخدام شده بودند، پس از استفاده از هوش مصنوعی برای انجام کارهای خود، اخراج شده یا از پروژهها کنار گذاشته شدند.
این قانون بیشتر از آنچه ممکن است به نظر برسد منطقی است. این کارگران بهطور خاص به دلیل قضاوت انسانی خود استخدام میشوند؛ چیزی که اگر چتجیپیتی (ChatGPT) یا یک ربات گفتگوی هوش مصنوعی دیگر بخواهد قضاوت را برای آنها انجام دهد، به میزان قابل توجهی ارزش خود را از دست میدهد.
یک پیمانکار به ۴۰۴ مدیا (404 Media) گفت که آنها استفاده از هوش مصنوعی را «همواره» میبینند و کارگران بهطور منظم به همین دلیل کنار گذاشته میشوند. پیمانکار دیگری نامهای مبنی بر پایان همکاری را به اشتراک گذاشت که در آن به مشکلات مربوط به «اصالت» کار آنها اشاره شده بود.
نگهداشتن انسانها در چرخه
مدلهای هوش مصنوعی صرفاً همeth یادگیری خود را از استخراج حجم عظیمی از متن از کتابها یا اینترنت به دست نمیآورند.
اوپنایآی (OpenAI) میگوید اطلاعات ارائهشده یا تولیدشده توسط مربیان و محققان انسانی یکی از منابع مورد استفاده برای توسعه مدلهای پایه آن است. بازخورد انسانی نیز مدتهاست در آموزش مدلها به اینکه افراد چه پاسخهایی را ترجیح میدهند و آن مدلها چگونه باید رفتار کنند، نقش داشته است.
این موضوع کیفیت بازخورد انسانی را واقعاً مهم میکند. اوپنایآی (OpenAI) پیشتر در تحقیقات خود اذعان کرده است که مدلهای آموزشدیده با استفاده از بازخورد انسانی میتوانند تحت تأثیر افرادی که آن دادهها را برچسبگذاری میکنند، قرار گیرند.
پیمانکارانی که توسط ۴۰۴ مدیا (404 Media) توصیف شدهاند، در پروژههای مختلف اوپنایآی (OpenAI) کار میکنند که برخی از آنها میتوانند شامل هزاران کارگر باشند. مشاغل آنها میتواند شامل خواندن پاسخهای هوش مصنوعی، رتبهبندی آنها و تصمیمگیری در مورد اینکه کدام پاسخها بهتر هستند، باشد.
اما بر اساس اسناد داخلی به دست آمده توسط ۴۰۴ مدیا (404 Media)، بازبینیکنندگان اجازه ندارند آن قضاوت را به یک هوش مصنوعی برونسپاری کنند. یک مجموعه از دستورالعملها ظاهراً کارگران را از استفاده از هوش مصنوعی برای نوشتن بازخورد یا نظرات منع میکند و بهطور خاص ابزارهایی از جمله گرامرلی (Grammarly) و ترجمه هوش مصنوعی را نام میبرد.
شرکت مرکور (Mercor)، یک شرکت آموزش هوش مصنوعی که پیمانکاران شاغل در پروژههای اوپنایآی (OpenAI) را استخدام میکند، به ۴۰۴ مدیا (404 Media) تأیید کرد که قراردادهای این شرکت کارگران را از استفاده از مدلهای زبانی بزرگ برای تکمیل پروژهها منع میکند.
سیستمهای تشخیص هوش مصنوعی تقلب را کشف نکردند
ممکن است تصور کنید یک شرکت هوش مصنوعی کارگرانی را که از هوش مصنوعی استفاده میکنند با یک ردیاب هوش مصنوعی شناسایی میکند. ظاهراً اینطور نیست.
۴۰۴ مدیا (404 Media) دقیقاً فاش نمیکند که پیمانکاران اخراجشده چگونه دستگیر شدند. اما دستورالعملهای داخلی به دست آمده توسط این نشریه نگاهی جذاب به نحوه تشخیص استفاده مشکوک از هوش مصنوعی توسط بازبینیکنندگان ارائه میدهد.
و ردیابهای هوش مصنوعی بخشی از این فرآیند نیستند.
دستورالعملها ظاهراً به بازبینیکنندگان میگویند از ابزارهایی مانند جیپیتیزیرو (GPTZero) استفاده نکنند زیرا قابل اعتماد در نظر گرفته نمیشوند. در عوض، به بازبینیکنندگان گفته میشود که الگوی کلی ارسالهای یک کارگر را قضاوت کنند و به دنبال سرنخهایی از جمله کلمات تکراری، زمانهای تکمیل غیرعادی سریع و الگوهای نوشتن مرتبط با هوش مصنوعی باشند. حتی استفاده بیش از حد از خط تیره میتواند سوءظن ایجاد کند.
همچنین گزارش شده است که به بازبینیکنندگان دستور داده شده است به کارگران دقیقا نگویند چه چیزی باعث مشکوک شدن آنها به استفاده از هوش مصنوعی شده است، زیرا انجام این کار میتواند پنهان شدن را در آینده آسانتر کند.
این به طرز شگفتآوری در مورد این فرآیند آشکارکننده است: به افرادی که بررسی میکنند آیا انسانها به طور مخفیانه از هوش مصنوعی برای کمک به آموزش چتجیپیتی (ChatGPT) استفاده میکنند یا خیر، صراحتاً گفته میشود که به نرمافزار تشخیص هوش مصنوعی برای انجام این کار اعتماد نکنند.
نتیجه نهایی: انسانها جایگزینناپذیرند
اوپنایآی (OpenAI) از دادههای مصنوعی زیادی استفاده میکند - اطلاعاتی که با کمک مدلهای هوش مصنوعی به عنوان بخشی از برخی فرآیندهای آموزشی تولید میشوند. این شرکت میگوید دادههای مصنوعی میتوانند عملکرد مدل را بهبود بخشند و شکافهایی را که سایر دادههای آموزشی در آنها کمیاب هستند، پر کنند.
اما این با جایگزینی مخفیانه یک مدل هوش مصنوعی به جای فردی که بهطور خاص برای ارائه بازخورد انسانی استخدام شده است، متفاوت است. اگر قرار است یک ارزیاب به اوپنایآی (OpenAI) بگوید که یک انسان کدام پاسخ را ترجیح میدهد، درخواست از یک هوش مصنوعی دیگر برای گرفتن آن تصمیم، هدف استخدام ارزیاب را از بین میبرد.
این بدان معنا نیست که این حوادث چتجیپیتی (ChatGPT) را بدتر کرده است، و هیچ مدرکی در گزارش ۴۰۴ مدیا (404 Media) وجود ندارد که کار پیمانکار تولید شده توسط هوش مصنوعی باعث آسیب قابل اندازهگیری به مدل اوپنایآی (OpenAI) شده باشد.
اما این وضعیت یکی از عجیبترین واقعیتهای رونق هوش مصنوعی را آشکار میکند: حتی شرکتهایی که سیستمهای هوش مصنوعی را میسازند هنوز به انسانها نیاز دارند تا به آن سیستمها بگویند چه زمانی چیزی را درست انجام دادهاند.
منبع: tomsguide.com