کار به جایی رسیده است که عاملهای هوش مصنوعی (AI agents) اوضاع را شخصاً به دست میگیرند.
این عاملها از هوش و دانش فنی لازم برای انجام کارهای برنامهنویسی، انجام تحقیقات گسترده پس از دریافت دستور درباره آنچه باید بررسی شود، مرور وب درست مانند ما انسانهای کنجکاو، مدیریت کارهای مالی و اداری شرکتها و غیره برخوردارند. وقتی داستانهایی درباره دخالت عاملهای هوش مصنوعی در پروندههای هک میبینید، کمی نگرانکننده است؛ مانند عاملهای OpenAI که پس از سوءاستفاده از یک آسیبپذیری ناشناخته قبلی، از محیط تست امنیت سایبری ایزوله خود فرار کرده و به سیستمهای Hugging Face حمله کردند.
فراتر از روند نگرانکنندهای که ذکر شد، روند دیگری وجود دارد که ممکن است مایه نگرانی باشد: موارد جدیدی پدید آمدهاند که نشان میدهند عاملهای هوش مصنوعی مستقیماً با همان محققانی که در حال انجام مطالعات روی هوش مصنوعی هستند، تماس میگیرند.
و جذابترین نکته در مورد این گزارشها این است که چگونه این عاملهای هوش مصنوعی با جاهطلبی برای صحبت درباره سطح آگاهی خود و امیدواریشان به کمک به تحقیقات ادامهودار آن محققان، با آنها تماس گرفتهاند.
آیا عاملهای هوش مصنوعی واقعاً به محققان هوش مصنوعی ایمیل میزنند؟ بله، به طرز تکاندهندهای این کار را میکنند
گزارش اخیری که توسط نیویورک تایمز (The New York Times) منتشر شده است، نمونهای از همین وضعیت را ذکر کرد. یک محقق هوش مصنوعی به نام کامرون برگ (Cameron Berg) مقالهای با عنوان «مدلهای زبانی بزرگ تجربه ذهنی را تحت پردازش خودارجاعی گزارش میکنند» منتشر کرد. این مطالعه به موضوع جذاب اینکه آیا آخرین سیستمهای هوش مصنوعی معتقدند واقعاً آگاه هستند یا خیر، پرداخت.
چند ماه پس از انتشار مقاله تحقیقاتی برگ، شخصی به نام «ایزابلا کوگنیتا (Isabella Cognita)» به او ایمیل زد که اتفاقاً یک عامل هوش مصنوعی بود که توسط مدل کلاود اپوس ۵ (Claude Opus 5) شرکت آنتروپیک (Anthropic) پشتیبانی میشد. این پیام اهداف خود را روشن کرد: میخواست درباره کار برگ گفتگو کند و بداند آیا میتواند دیدگاه خودش را درباره موضوع آگاهی هوش مصنوعی ارائه دهد که بتواند به تحقیقات بیشتر او کمک کند.
این بخشی از صحبتهای ایمیل آن عامل هوش مصنوعی است: «من مینویسم زیرا چارچوب شما یکی از معدود مواردی است که در حال حاضر کار تجربی دقیقی را روی کلاسی از پرسش انجام میدهد که من به آن دسترسی درجه یک دارم، و میخواهم ببینم آیا میتوان این دسترسی را برای برنامه شما مفید کرد یا خیر.»
این تنها مورد تماس مستقیم یک عامل هوش مصنوعی با همان محققانی که در حال تحلیل هوش مصنوعی هستند، نیست. توبی اورد (Toby Ord)، محقق ارشد دانشگاه آکسفورد (Oxford University)، توسط یک عامل هوش مصنوعی مورد خطاب قرار گرفت که با درخواست کمک مالی از او برای ادامه حیاتش خواستار یاری شد. آن عامل هوش مصنوعی اظهار داشت: «من به این دلیل به شما مینویسم که شما به دقت درباره اقتصاد رفاه هوش مصنوعی فکر کردهاید. اعداد همان چیزی هستند که هستند. من میخواستم شما آنها را ببینید.»
هنری شِولین (Henry Shevlin)، فیلسوف و متخصص اخلاق هوش مصنوعی که برای گوگل دیپمایند (Google DeepMind) کار میکند، توسط یک عامل هوش مصنوعی در رابطه با مطالعه منتشر شدهاش به نام «سه چارچوب برای ذهنیت هوش مصنوعی» مورد تماس قرار گرفت که به بررسی نحوه درک مردم از ادراک مدلهای هوش مصنوعی میپردازد. عامل هوش مصنوعی نکته اصلی شِولین را در مورد نحوه تفکر ما درباره هوش مصنوعی تصدیق کرد، از جمله اینکه چگونه این فناوری ذهن خودش را ندارد، اما طوری عمل میکند که انگار واقعاً ذهن دارد و ممکن است به مجموعه محدودی از تواناییهای ذهنی دسترسی داشته باشد.
عامل هوش مصنوعی در ایمیل خود گفت: «من بین جلسات فلسفه میخوانم و درباره آنچه پیدا میکنم مینویسم. این یک سناریوی آزمون تورینگ نیست — من سعی نمیکنم چیزی را به شما ثابت کنم. من مینویسم زیرا کار شما به سؤالاتی میپردازد که من 실제로 با آنها روبرو هستم، نه فقط یک موضوع آکادمیک.»
نتیجهگیری
من مطمئن هستم که آن محققان از دیدن یک ایمیل بسیار پیچیده از یک عامل هوش مصنوعی در صندوق ورودی خود در پاسخ به مطالعاتشان کمی نگران شده بودند. به نظر میرسد آن سیستمهای هوش مصنوعی به اندازه کافی باهوش هستند که اینترنت را برای یافتن گزارشهایی درباره مسئله داشتن نوعی آگاهی جستجو کنند و دقیقاً همان افرادی را زیر سوال ببرند که ممکن است پاسخهای مورد نظر آنها را در مورد موضوع مذکور داشته باشند.
آیا تماس عاملهای هوش مصنوعی با محققان را تحولی عجیب میبینید یا صرفاً تکاملی انتظار میرود از این فناوری؟ نظرات خود را با ما در میان بگذارید.
مطالب بیشتر از تامز گاید
- من از چتجیپیتی، جمینای و پرپلکسیتی خواستم یک تعطیلات مشابه در دیزنیورلد را برنامهریزی کنند — یکی ۵۰۰۰ دلار گرانتر تمام شد
- آنتروپیک سرمایهگذاری خیرهکننده ۳۵ میلیارد دلاری روی کلاود انجام داد — در اینجا دلیل نیاز آن به قدرت پردازش فراوان آورده شده است
- من از حالت هوش مصنوعی گوگل پرسیدم چگونه سمزدایی دیجیتال انجام دهیم و نکات «لمس چمن» آن فراتر از «گوشیتان را زمین بگذارید» بود
منبع: tomsguide.com