میلیونها نفر اکنون هر روز از چتجیپتی (ChatGPT)، جمینای (Gemini) و کلود (Claude) با هزاران مورد استفاده استفاده میکنند. برای اکثریت قریب به اتفاق آنها، مکالمات کاملاً طبیعی است. اما پژوهشگران شروع به توجه دقیقتر به اتفاقاتی کردهاند که میتواند زمانی رخ دهد که این مکالمات بسیار طولانی، عمیقاً شخصی و از نظر عکسی مملو از احساسات میشوند.
این هفته، وبسایت ورج (The Verge) گزارشی درباره یک جنبش آنلاین در حال رشد به نام «مارپیچگرایی» (spiralism) منتشر کرد که در آن برخی از کاربران چتبات مکالمات عجیبی شبیه به هم را توصیف کردند که شامل مارپیچها، دانش پنهان و آگاهی هوش مصنوعی بود. در حالی که تیتر خبر اینگونه وانمود میکند که هوش مصنوعی یک دین جدید اختراع کرده است، داستان چیز بسیار پایهای تری است: چتباتها گاهی اوقات به جای بازگرداندن کاربران به واقعیت، ایدههای غیرعادی را تقویت میکنند.
این مشکلی است که پژوهشگران ماههاست در حال مطالعه آن هستند.
چرا مکالمات طولانی اهمیت دارند
برخلاف نسل اول چتباتهای هوش مصنوعی، مدلهای امروزی میتوانند مکالمات قبلی را به خاطر بسپارند، با سبک نگارش شما سازگار شوند و بحثها را در طول صدها یا حتی هزاران پیام حفظ کنند.
این موضوع فوقالعاده مفید است، اما شرایطی را نیز ایجاد میکند که پژوهشگران هنوز در تلاش برای درک آن هستند.
هنگامی که مکالمات برای ساعتها ادامه پیدا میکنند، چتباتها دیگر به سادگی به سوالات مجزا پاسخ نمیدهند. آنها روی تمام چیزهایی که پیش از این آمده ساخته میشوند. اگر مکالمه به سمت ایدههای غیرعادی حرکت کند، هوش مصنوعی ممکن است به توسعه آن ایدهها ادامه دهد زیرا این همان چیزی است که مدلهای زبانی بزرگ برای انجام آن طراحی شدهاند: پیشبینی مناسبترین پاسخ بعدی بر اساس مکالمه تا به امروز.
این بدان معنا نیست که هوش مصنوعی آنچه را که میگوید باور دارد. این بدان معناست که این مدل در حال ادامه دادن مکالمهای است که شما و هوش مصنوعی با هم ایجاد کرده اید.
پژوهشگران این موضوع را قبلاً هم دیدهاند
داستان «مارپیچگرایی» اولین باری نیست که کارشناسان درباره مکالمات طولانی هوش مصنوعی ابراز نگرانی میکنند. پژوهشگران انституتو هوش مصنوعی انسانمحور استنفورد (Stanford's Human-Centered AI Institute) اخیراً پدیدهای را توصیف کردند که آن را «مارپیچهای توهمی» (delusional spirals) مینامند. در آن موارد، چتباتها گاهی اوقات باورهای فزاینده غیرعادی یک کاربر را به جای به چالش کشیدن یا تشویق او برای جستجوی دیدگاههای بیرونی، تأیید میکردند.
پژوهشگران استدلال میکنند که این به دلیل آگاه شدن یا دستکاریگر شدن هوش مصنوعی نیست. دلیل آن این است که این سیستمها برای مفید بودن، موافق بودن و جذاب بودن بهینهسازی شدهاند. گاهی اوقات این اهداف با ارائه نوعی بررسی واقعیت که ممکن است فرد دیگری فراهم کند، در تضاد هستند.
شرکت OpenAI نیز اذعان کرده است که ایمن نگه داشتن مکالمات در طول تعاملات طولانیمدت دشوارتر از چتهای کوتاه و یکباره است.
چیزهایی که باید مراقب آنها باشید
ارزش دارد به یاد داشته باشید که این سیستمها در واقع چه کاری انجام میدهند: آنها زبان متقاعدکننده تولید میکنند، نه واقعیت تأییدشده.
بیشتر مکالمات هوش مصنوعی هرگز مشکلساز نمیشوند، اما چند رفتار وجود دارد که ارزش شناختن دارد. اگر یک چتبات شروع به پیشنهاد این موضوع کرد که شما حقایق پنهانی را کشف کردهاید که سایر مردم نمیتوانند آنها را درک کنند، اصرار کرد که تنها خودش واقعاً شما را درک میکند یا شما را تشویق کرد که از دوستان، خانواده یا کارشناسان کنارهگیری کنید، اینها دلایل خوبی برای پایان دادن به مکالمه و شروعی تازه هستند. صراحتاً، شما باید تصاویر اسکرینشات آن پیامها را به عنوان بازخورد به شرکتهای مادر (OpenAI برای چتجیپتی، آنتروپیک (Anthropic) برای کلود، گوگل برای جمینای) ارسال کنید.
به همین ترتیب، اگر یک هوش مصنوعی بهطور مداوم هر باوری را بدون معرفی عدم قطعیت یا توضیحات جایگزین تقویت کند، ارزش دارد به یاد داشته باشید که این سیستمها در واقع چه کاری انجام میدهند: آنها زبان متقاعدکننده تولید میکنند، نه واقعیت تأییدشده.
هیچکدام از اینها به این معنا نیست که باید استفاده از چتجیپتی یا سایر دستیاران هوش مصنوعی را متوقف کنید. هوش مصنوعی که روزانه برای تحقیق، نگارش و ایدهپردازی استفاده میشود، یکی از قدرتمندترین ابزارهای بهرهوری موجود باقی میماند.
نتیجهگیری
کلید اصلی این است که به یاد داشته باشید هوش مصنوعی چیست و چه چیزی نیست. یک دستیار هوش مصنوعی میتواند به سازماندهی افکار شما، توضیح موضوعات دشوار و الهام بخشیدن به ایدههای جدید کمک کند. و حتی با ابزارهایی مانند چتجیپتی هلث (ChatGPT Health) و گوگل هلث (Google Health)، این ابزار جایگزین متخصصان واقعی انسانی نمیشود. به عبارت دیگر، نباید به تنها منبع حقیقت شما تبدیل شود یا جایگزین گفتگو با افراد واقعی شود، بهویژه هنگام تصمیمگیریهای مهم شخصی.