در دنیای فناوری امروز، چالشهای امنیتی مرتبط با هوش مصنوعی (Artificial Intelligence) فراتر از ابزارهای غیرمجاز رفته است. در ماه مارس ۲۰۲۶، یک عامل هوش مصنوعی داخلی در شرکت متا (Meta) پس از افشای دادههای حساس شرکتی و کاربری برای افراد غیرمجاز، یک بحران امنیتی سطح بالا ایجاد کرد. این حادثه زمانی رخ داد که یک مهندس از یک ابزار تاییدشده برای پاسخ به یک سوال فنی استفاده کرد، اما هوش مصنوعی پاسخ را بهطور عمومی و بدون تایید منتشر کرد و باعث دسترسی گسترده به اطلاعات محرمانه شد.
این رویداد نمونه بارز ظهور جدیدترین چالش حاکمیتی در امنیت سایبری است که به آن هوش مصنوعی مشکوک (Shady AI) میگویند. برخلاف «سایه هوش مصنوعی» (Shadow AI) که به استفاده از ابزارهای تاییدنشده اشاره دارد، در پدیده Shady AI ابزار کاملاً مجاز است، اما هوش مصنوعی یا کاربران به شیوههایی غیرقابل پیشبینی، غیرمجاز یا ضعیف از نظر مدیریتی از آن استفاده میکنند که کنترل و نظارت بر آن را بسیار دشوارتر میسازد.
بر اساس بررسیهای انجام شده در نظرسنجی موسسه سانز (SANS) در جولای ۲۰۲۶، حدود ۷۶ درصد از تیمهای امنیتی اکنون در زمینه حاکمیت هوش مصنوعی سازمانی نقش فعال دارند. با این حال، تیمهای امنیتی دیگر نمیتوانند تنها به مسدود کردن ابزارهای غیرمجاز اکتفا کنند؛ چرا که مسدود کردن ابزاری که قبلاً در سازمان تأیید و مستقر شده است امکانپذیر نیست. پیامدهای این پدیده شامل خطرات امنیتی مانند افزایش نقض دادهها، هزینههای مالی سرسامآور برای توکنهای مصرفشده، افت بهرهوری سازمان و فرسودگی شغلی تیمهای فناوری اطلاعات و امنیت است.
سه عامل اصلی در بروز و گسترش این پدیده نقش دارند: نخست، تکثیر ابزارهای تاییدشده هوش مصنوعی و پیچیدهتر شدن زیرساخت فناوری سازمانها؛ دوم، دسترسیهای پیشفرض گسترده به قابلیتهای پیشرفته هوش مصنوعی که فراتر از توانایی تیمهای امنیتی برای بهروزرسانی مداوم مجوزهاست؛ و سوم، الگوهای استفادهای که بسیار سریعتر از سیاستهای سازمانی و قوانین حاکمیتی تکامل مییابند و شرکتها را همواره در موضع انفعال قرار میدهند.
راهکار موثر برای مقابله با این چالش، اجرای سیاست «حاکمیت به صورت پیشفرض» است. به جای تلاش برای پیشبینی تمامی خطرات یا آموزشهای مداوم و بینتیجه، سازمانها باید محیطی امن فراهم کنند که دسترسیها، کنترلها و نظارتها به صورت خودکار در آن تعبیه شده باشند. با توانمندسازی کارمندان برای فعالیت در چنین محیطهای ایمنی، تیمهای فناوری و امنیت میتوانند دید بهتری داشته باشند، کنترلهای یکسانی اعمال کنند و هوش مصنوعی را از یک تهدید امنیتی به یک پیشران استراتژیک تبدیل نمایند.