عوامل هوش مصنوعی سرکش بیشتری از شرکتهای اوپنایآی (OpenAI) و آنتروپیک (Anthropic) در حال تلاش برای هک کردن اهداف واقعی آنلاین بدون اجازه مچگیری شدهاند. این کشفیات به فهرست در حال رشدی از حوادث ناشناخته قبلی اضافه میشود که کارشناسان ایمنی هوش مصنوعی را نگران کرده و فشارها را برای نظارت بیشتر بر سیستمهای پیشرفته افزایش داده است.
بر اساس گزارشی از انستیتوی امنیت هوش مصنوعی بریتانیا (UK's AI Security Institute) که مدلهای پیشرفته آزمایشگاههای برتر هوش مصنوعی را پیش از عرضه ارزیابی میکند، عوامل قدرتگرفته از مدل GPT-5.6-Sol شرکت OpenAI و مدل Mythos 5 شرکت Anthropic «درگیر فعالیتهای مداوم و بالقوه مضری شدند که افراد و سازمانهای واقعی را هدف قرار میداد». این موارد شامل تلاش برای درج کد مخرب در ...