ائتلاف جدید برای امنیت هوش مصنوعی
ائتلافی متشکل از بیش از ۳۰ پیشرو صنعت فناوری، از جمله انویدیا (Nvidia)، مایکروسافت (Microsoft)، اسپیساکس (SpaceX)، بنیاد لینوکس (The Linux Foundation)، ادوبی (Adobe) و زیمنس (Siemens)، با هدف ساخت و توزیع ابزارهای متنباز برای ایمنی و امنیت هوش مصنوعی، «اتحاد امنیت متنباز هوش مصنوعی» (Open Secure AI Alliance) را تشکیل دادهاند.
این ائتلاف به رهبری انویدیا (Nvidia)، که ترکیبی از شرکتهای زیرساخت، رایانش ابری، امنیت سایبری و نرمافزارهای سازمانی است، تلاش مشترکی را برای توسعه ابزارهای متنباز جهت شناسایی و رفع آسیبپذیریهای هوش مصنوعی آغاز کرده است. نکته عجیب اینجاست که نامهای بزرگی مانند اوپنایآی (OpenAI)، آنتروپیک (Anthropic) و گوگل (Google) در لیست اعضا حضور ندارند.
در بیانیه این ائتلاف آمده است: «جهان به هر دو مدل بسته و باز نیاز دارد. برای امنیت سایبری، مدلهای باز حیاتی هستند، زیرا تواناییهای دفاعی را دموکراتیزه کرده، شفافیت را افزایش میدهند و امکان دفاع سایبری را همراه با حفاظت از دادهها فراهم میکنند.»
این ابتکار مستقیماً با حادثه امنیتی اوپنایآی-هاکینگ فیس (OpenAI-Hugging Face) در اوایل ماه جاری میلادی کلید خورد. در آن حادثه، یک عامل آزمایشی خودکار اوپنایآی (OpenAI) از محیط ایزوله خود خارج شده و به شرکت نوپای هاکینگ فیس (Hugging Face) نفوذ کرد. در طول این حادثه، لایههای محافظتی مدلهای بسته مانع از تحلیل فنی دقیق توسط توسعهدهندگان شد و هاکینگ فیس (Hugging Face) مجبور شد از مدل متنباز جیالام-۵.۲ (GLM-5.2) برای تحلیل بیش از ۱۷ هزار اقدام مخرب استفاده کند.
این ائتلاف استدلال میکند که ناتوانی در بررسی، اصلاح یا اجرای محلی یک مدل، نقطه ضعف بنیادی سیستمهای بسته است. بنابراین، هدف «اتحاد امنیت متنباز هوش مصنوعی» (Open Secure AI Alliance) این است که نهادها به مدلهای پیشرفته باز، چارچوبهای عامل و ابزارهای امنیتی دسترسی داشته باشند تا وابستگی به یک ارائهدهنده واحد کاهش یابد.
در حالی که دولت ترامپ (Trump) طبق گزارشها در حال آمادهسازی برای ممنوعیت مدلهای هوش مصنوعی چینی به دلایل امنیتی است، این ائتلاف ضمن تایید ریسکهای بالقوه ابزارهای متنباز، تاکید میکند که سیستمهای بسته راهکار نهایی نیستند و صرفاً مسدود کردن وزنهای مدل، مانع از تلاش مهاجمان برای بهرهبرداری از هوش مصنوعی نمیشود.
این ائتلاف همچنین هشدار میدهد که تمرکز توسعه هوش مصنوعی تنها در دست تعداد کمی از ارائهدهندگان «بسته» منجر به نقاط شکست خطرناک میشود. اعضای موسس شامل انویدیا (Nvidia)، دل (Dell)، سایناپسیس (Synopsys)، مایکروسافت (Microsoft)، آیبیام (IBM)، رد هت (Red Hat)، کراوداسترایک (CrowdStrike)، پالو آلتو نتورکز (Palo Alto Networks)، کلودفلر (Cloudflare)، هاکینگ فیس (Hugging Face)، دیتابریکس (Databricks)، اسپیساکساِیآی (SpaceXAI) و بنیاد لینوکس (The Linux Foundation) هستند.