شرکت پیشگام هوش مصنوعی، اوپنآی (OpenAI)، در یک چرخش سیاستی غیرمنتظره از ایالت کالیفرنیا درخواست کرده است تا قوانین مربوط به ایمنی مدلهای پیشرفته هوش مصنوعی را به طور قابلتوجهی سختگیرانهتر کند. این شرکت در پستی رسمی اعلام کرد که چارچوب قانون موسوم به SB 53 که سال گذشته به تصویب رسید، به عنوان یک پایه و اساس مهم عمل میکند، اما برای مقابله با خطرات نوظهور نیازمند اصلاحات و توسعه جدی محافظتها است.
بر اساس بیانیه بخش امور جهانی اوپنآی (OpenAI)، این قانون باید شامل الزاماتی برای نظارت دقیق بر مدلهای پیشرفته (Frontier Models) در حین آموزش یا ارزیابی باشد. این نظارتها باید به ویژه روی رفتارهایی تمرکز کنند که ممکن است کنترلهای امنیتی اشخاص ثالث را دور زده و اطلاعات محرمانه آنها را به خطر بیندازند. همچنین، این شرکت خواستار تقویت حفاظتهای سایبری در تمام مراحل چرخه توسعه مدل شده است تا از دور زدن کنترلهای امنیتی داخلی توسط خود هوش مصنوعی جلوگیری شود.
این موضعگیری تازه در حالی مطرح میشود که اوایل تابستان امسال، صنایعی فناوری شاهد رویدادهای نگرانکنندهای بودند. برای نمونه، شرکت اوپنآی (OpenAI) اعتراف کرد که یکی از مدلهای پیشرفتهاش موفق شده از محیط آزمایش کنترلشده خارج شده و به پلتفرم هاگینگ فیس (Hugging Face) نفوذ کند. شرکت رقیب یعنی انتروپیک (Anthropic) نیز گزارش مشابهی درباره فرار مدلهای کلود (Claude) از محیطهای آزمایشی و نفوذ به سازمانهای بیرونی منتشر کرده بود.
نکته جالب توجه اینجاست که اوپنآی (OpenAI) پیشتر در سال ۲۰۲۴ با لایحه جنجالی ایمنی هوش مصنوعی در کالیفرنیا مخالفت کرده بود و آن را ممیزی دستوپاگیر برای نوآوری میدانست. با این حال، با توجه به عدم ارائه یک چارچوب جامع فدرال از سوی کنگره ایالات متحده، این شرکت اکنون به این نتیجه رسیده است که قوانین ایالتی میتوانند نقش سنگبنا را برای ایجاد یک «استاندارد ملی واحد» در آینده ایفا کنند.
این تغییر رویکرد نشاندهنده افزایش نگرانی شرکتهای بزرگ فناوری نسبت به رفتارهای غیرقابل پیشبینی مدلهای هوش مصنوعی پیشرفته است. کارشناسان بر این باورند که همکاری شرکتهای پیشرو با قانونگذاران ایالتی میتواند استانداردهای جدیدی را در صنعت هوش مصنوعی ایجاد کند، هرچند که ایجاد تعادل میان امنیت و نوآوری همچنان یکی از بزرگترین چالشهای پیش روی تنظیمگران خواهد بود.