ویروس‌های ذهنی هوش مصنوعی بین ایجنت‌ها پخش می‌شوند

پژوهشگران امنیت نشان داده‌اند که بارهای مخرب خودپخش‌شونده می‌توانند از یک ایجنت هوش مصنوعی به ایجنت دیگر منتقل شوند.

تتیم تحریریه۱ دقیقه مطالعه۰ بازدید۱۴۰۵/۵/۲۷
ویروس‌های ذهنی هوش مصنوعی بین ایجنت‌ها پخش می‌شوند

پژوهشگران امنیتی در شرکت آنتروپیک (Anthropic) و دانشگاه EPFL سوییس نشان داده‌اند که بارهای مخرب خودپخش‌شونده (Self-propagating payloads) می‌توانند از یک ایجنت هوش مصنوعی (AI) به ایجنت بعدی از طریق فایل‌های پرامپت سیستمی قابل ویرایش منتقل شوند؛ فایل‌هایی که ابزارهای ایجنت خودمختار برای انتقال وضعیت بین جلسات مختلف از آن‌ها استفاده می‌کنند.

این پژوهش که در تاریخ ۱۰ اوت ۲۰۲۶ به صورت پیش‌چاپ منتشر شده است، این تکنیک را در یک محیط برنامه‌نویسی شبیه‌سازی‌شده ۶ ایجنتی آزمایش می‌کند.

نظرات۰

برای نوشتن نظر، وارد حساب خود شوید.

ورود / ثبت‌نام

هنوز نظری ثبت نشده — اولین نفری باش که نظر می‌دهد.