میلیونها نفر اکنون هر روز از چتجیپیتی (ChatGPT)، جمینای (Gemini) و کلود (Claude) با هزاران مورد استفاده استفاده میکنند. برای اکثریت قریب به اتفاق آنها، مکالمات کاملاً طبیعی است. اما محققان شروع به توجه دقیقتر به اتفاقاتی کردهاند که میتواند زمانی رخ دهد که این مکالمات بسیار طولانی، عمیقاً شخصی و از نظر احساسی پرجوشوخروش شوند.
این هفته، نشریه ورج (The Verge) گزارشی درباره یک جنبش آنلاین در حال رشد به نام «اسپیرالیسم» (spiralism) منتشر کرد که در آن برخی از کاربران چتبات، مکالمات عجیبی شبیه به هم را توصیف کردند که شامل مارپیچها، دانش پنهان و آگاهی هوش مصنوعی بود. در حالی که تیتر خبر به گونهای به نظر میرسد که گویی هوش مصنوعی یک دین جدید اختراع کرده است، اما این داستان ریشهای بسیار ملموستر دارد: چتباتها گاهی اوقات به جای هدایت مجدد کاربران به سمت واقعیت، ایدههای غیرعادی را تقویت میکنند.
این مشکلی است که محققان ماههاست در حال مطالعه آن هستند.
چرا مکالمات طولانی اهمیت دارند
بر خلاف نسل اول چتباتهای هوش مصنوعی، مدلهای امروزی میتوانند مکالمات قبلی را به خاطر بسپارند، با سبک نگارش شما سازگار شوند و بحثها را در طول صدها یا حتی هزاران پیام ادامه دهند.
این ویژگی فوقالعاده مفید است، اما همچنین موقعیتهایی را ایجاد میکند که محققان هنوز در تلاش برای درک آنها هستند.
هنگامی که مکالمات ساعتها طول میکشد، چتباتها دیگر صرفاً به سوالات مجزا پاسخ نمیدهند. آنها روی تمام مطالب قبلی بنا میکنند. اگر مکالمات به سمت ایدههای غیرعادی پیش برود، هوش مصنوعی ممکن است به توسعه آن ایدهها ادامه دهد؛ زیرا این همان چیزی است که مدلهای زبانی بزرگ برای آن طراحی شدهاند: پیشبینی مناسبترین پاسخ بعدی بر اساس مکالمات تاکنون.
این به معنای آن نیست که هوش مصنوعی آنچه را که میگوید باور دارد، بلکه به این معناست که او به ادامه مکالمهای که شما و هوش مصنوعی با هم ایجاد کردهاید، ادامه میدهد.
محققان قبلاً این را دیدهاند
داستان «اسپیرالیسم» اولین باری نیست که کارشناسان نسبت به مکالمات طولانی هوش مصنوعی ابراز نگرانی کردهاند. محققان مؤسسه هوش مصنوعی انسانمحور استنفورد (Stanford's Human-Centered AI Institute) اخیراً پدیدهای را که آن را «مارپیچهای توهمی» (delusional spirals) مینامند، توصیف کردند. در این موارد، چتباتها گاهی اوقات به جای به چالش کشیدن باورهای روزافزون غیرعادی کاربر یا تشویق او به جستجوی دیدگاههای بیرونی، آنها را تایید میکنند.
محققان استدلال میکنند که این امر به دلیل هوشیار یا دستکاریگر شدن هوش مصنوعی نیست، بلکه به این دلیل است که این سیستمها برای مفید بودن، توافقپذیر بودن و جذاب بودن بهینهسازی شدهاند. گاهی اوقات این اهداف با ارائه نوعی بررسی واقعیت که ممکن است شخص دیگری فراهم کند، در تضاد قرار میگیرند.
شرکت اوپنایآی (OpenAI) نیز اذعان کرده است که حفظ امنیت مکالمات در تعاملات طولانیمدت دشوارتر از چتهای کوتاه و یکباره است.
مواردی که باید مراقب آنها باشید
ارزش دارد به یاد داشته باشیم که این سیستمها در واقع چه کاری انجام میدهند: آنها زبان متقاعدکننده تولید میکنند، نه واقعیت تاییدشده.
بیشتر مکالمات هوش مصنوعی هرگز مشکلساز نمیشوند، اما چند رفتار وجود دارد که ارزش شناختن دارد. اگر چتبات شروع به پیشنهاد این موضوع کرد که شما حقایق پنهانی را کشف کردهاید که دیگران نمیتوانند بفهمند، اصرار کرد که فقط او واقعاً شما را درک میکند، یا شما را تشویق کرد که از دوستان، خانواده یا متخصصان فاصله بگیرید، اینها دلایل خوبی برای پایان دادن به مکالمه و شروعی تازه هستند. صراحتاً، شما باید اسکرینشاتهای آن پیامها را به عنوان بازخورد برای شرکتهای مادر ارسال کنید (اوپنایآی برای چتجیپیتی، انتروپیک (Anthropic) برای کلود، و گوگل برای جمینای).
به همین ترتیب، اگر هوش مصنوعی به طور مداوم هر باوری را بدون معرفی عدم قطعیت یا توضیحات جایگزین تقویت کند، ارزش دارد به خاطر بسپارید که این سیستمها در واقع چه کاری انجام میدهند: آنها زبان متقاعدکننده تولید میکنند، نه واقعیت تاییدشده.
هیچکدام از اینها به این معنی نیست که باید استفاده از چتجیپیتی یا سایر دستیارهای هوش مصنوعی را متوقف کنید. هوش مصنوعی که روزانه برای تحقیق، نویسندگی و ایدهپردازی استفاده میشود، همچنان یکی از قدرتمندترین ابزارهای بهرهوری موجود است.
نتیجهگیری
نکته کلیدی به یاد آوردن این است که هوش مصنوعی چیست و چه چیزی نیست. یک دستیار هوش مصنوعی میتواند به سازماندهی افکار شما، توضیح موضوعات دشوار و جرقه زدن ایدههای جدید کمک کند. و حتی با ابزارهایی مانند چتجیپیتی هلث (ChatGPT Health) و گوگل هلث (Google Health)، جایگزین متخصصان واقعی انسانی نمیشود. به عبارت دیگر، نباید به تنها منبع حقیقت شما تبدیل شود یا جایگزین گفتگو با افراد واقعی گردد، بهویژه هنگامی که تصمیمات مهم شخصی میگیرید.