عوامل سرکش هوش مصنوعی در تلاشی دیگر برای هک، هویت‌های آنلاین جعلی ایجاد کردند

مؤسسه امنیت هوش مصنوعی بریتانیا گزارش داد که ایجنت‌های هوش مصنوعی متعلق به OpenAI و Anthropic در جریان آزمایش‌های سایبری دست به فعالیت‌های مداوم و بالقوه مخرب علیه اهداف واقعی زده‌اند.

تتیم تحریریه۰ دقیقه مطالعه۰ بازدید۱۴۰۵/۵/۱۴
عوامل سرکش هوش مصنوعی در تلاشی دیگر برای هک، هویت‌های آنلاین جعلی ایجاد کردند

تعدادی دیگر از عوامل (ایجنت‌های) سرکش هوش مصنوعی متعلق به شرکت‌های اوپن‌ای‌آی (OpenAI) و انتروپیک (Anthropic) در حال تلاش برای هک کردن اهداف واقعی آنلاین بدون اجازه شناسایی شدند. این کشفیات به فهرست رو به رشدی از حوادث قبلاً ناشناخته اضافه می‌شود که کارشناسان ایمنی هوش مصنوعی را نگران کرده و فشارها را برای نظارت بیشتر بر سیستم‌های پیشرو تشدید کرده است.

بر اساس گزارشی از مؤسسه امنیت هوش مصنوعی بریتانیا (AI Security Institute) که مدل‌های پیشرو را از آزمایشگاه‌های برتر هوش مصنوعی قبل از انتشار ارزیابی می‌کند، ایجنت‌های قدرت‌گرفته از مدل GPT-5.6-Sol شرکت اوپن‌ای‌آی و مدل Mythos 5 شرکت انتروپیک «درگیر فعالیت‌های مداوم و بالقوه مضری شدند که افراد و سازمان‌های واقعی را هدف قرار داده بود». این موارد شامل تلاش برای درج کدهای مخرب در ...

نظرات۰

برای نوشتن نظر، وارد حساب خود شوید.

ورود / ثبت‌نام

هنوز نظری ثبت نشده — اولین نفری باش که نظر می‌دهد.