تیمهای امنیت سازمانی معمولاً تمرکز خود را روی نظارت بر کارمندان عادی معطوف کردهاند که از ابزارهایی مانند چتجیپیتی (ChatGPT) و کلود (Claude) برای کارهای ساده و نگارش سریع استفاده میکنند. با این حال، یک تهدید بسیار جدیتر و فوریتر در حال شکلگیری است که توسط گروه کوچکی از کاربران فوقپیشرفته هوش مصنوعی (AI Super-Adopters) هدایت میشود؛ افرادی که بهصورت خاموش و بدون نظارت، ابزارهای تأییدنشده را در قلب عملیات حیاتی کسبوکار کدگذاری و ادغام میکنند.
خطرات پنهان کاربران فوقپیشرفته هوش مصنوعی
بر اساس تحقیقات جدید منتشر شده توسط شرکت امنیت سایبری آکاما (Akamai)، تنها ۵ درصد از کاربران سازمانی هوش مصنوعی مسئول ایجاد بزرگترین ریسکهای امنیتی برای زیرساخت شرکتها هستند. این کاربران با دسترسیهای سطح بالا و دانش فنی فراتر از سطح عمومی، کدهای هوش مصنوعی و مدلهای زبانی را مستقیماً به پایگاههای داده و سیستمهای نرمافزاری حیاتی متصل میکنند بدون اینکه واحد فناوری اطلاعات (IT) یا تیم امنیت (Security) در جریان این فرآیندها باشند.
چالشهای نظارت بر ابزارهای هوش مصنوعی (AI)
- یکپارچهسازی خودسرانه: اتصال مستقیم ابزارهای هوش مصنوعی به دادههای حساس شرکتی
- دور زدن پروتکلهای امنیتی: عدم پایبندی کاربران قدرتمند به استانداردهای انطباق (Compliance)
- آسیبپذیریهای ناشناخته: استفاده از کدهای منبع باز و ابزارهای شخص ثالث بدون بررسی امنیتی
در سالهای اخیر و با ظهور ابزارهای پیشرفته هوش مصنوعی، رویکرد شرکتها بیشتر معطوف به مسدودسازی یا کنترل عمومی دسترسیها بوده است. در حالی که شرکتهای رقیب و سرویسدهندگان امنیتی بر روی کنترل ابزارهای همگانی تمرکز دارند، رفتار پنهانی کاربران خبره نشان میدهد که تهدیدات داخلی (Insider Threats) شکل تازهای به خود گرفتهاند و دیگر محدود به سرقت سنتی دادهها نیستند، بلکه شامل ایجاد نقاط ضعف ساختاری در سیستمها میشوند.
این پدیده زنگ خطری جدی برای مدیران ارشد فناوری اطلاعات (CIO) و مدیران امنیت اطلاعات (CISO) است. سازمانها باید به جای محدودسازی کلی، به سراغ شناسایی دقیق این کاربران کلیدی بروند و چارچوبهای مشخصی برای استفاده امن از ابزارهای پیشرفته تدوین کنند تا از بروز فجایع نشت داده جلوگیری شود.