یک سال بعد: هوش مصنوعی حاکم و مبارزه برای حق انتخاب

کلودفلر دو مدل هوش مصنوعی منبع‌باز اروپایی را به Workers AI اضافه می‌کند و کارگاه‌های دفاع سایبری برگزار می‌کند تا بر اهمیت حق انتخاب و انعطاف‌پذیری در هوش مصنوعی تأکید کند.

تتیم تحریریه۸ دقیقه مطالعه۰ بازدید۲ ساعت پیش
یک سال بعد: هوش مصنوعی حاکم و مبارزه برای حق انتخاب

این هفته، هفته تولد (Birthday Week) است؛ زمانی که ما به طور سنتی هدایایی را به اینترنت اهدا می‌کنیم. امسال، دو مورد از آن‌ها از اروپا می‌آیند: یورو‌ال‌ال‌ام (EuroLLM) که تمام ۲۴ زبان رسمی اتحادیه اروپا را پوشش می‌دهد، و آپرتوس (Apertus)، مدل کاملاً باز سوئیس که روی بیش از ۱۵۰۰ زبان آموزش دیده است. هر دو توسط دانشگاه‌های دولتی و مؤسسات تحقیقاتی ساخته شده‌اند. هر دو به ورکرز هوش مصنوعی (Workers AI) می‌آیند و شما می‌توانید امروز درخواست دسترسی بدهید.

ما همچنین کارگاه‌های عملی را راه‌اندازی می‌کنیم که به آژانس‌های سایبری دولتی و اپراتورهای زیرساخت حیاتی کمک می‌کند تا دفاع‌های هوش مصنوعی را بسازند که با هر مدلی کار کند. اولین دوره در ماه اکتبر در سنگاپور برگزار می‌شود.

اعلان‌های امروز پیرو استدلالی است که ما یک سال پیش مطرح کردیم، زمانی که سؤالات درباره دسترسی به هوش مصنوعی و حاکمیت در پایتخت‌های ملی مطرح بود. پاسخ ما حق انتخاب بود: آزادی انتخاب ابزارهای مناسب برای کار و جابجایی در صورت نیاز.

از آن زمان، این مکالمات سخت‌تر شده‌اند. مهاجمان از مدل‌های مرزی برای اجرای حملات سایبری استفاده کرده‌اند. دسترسی به برخی مدل‌های مرزی اکنون به مکان شما بستگی دارد. درخواست‌ها برای محدود کردن مدل‌های باز بلندتر می‌شوند. همه این‌ها را که کنار هم بگذارید، به راحتی می‌توان نتیجه گرفت که حاکمیت هوش مصنوعی یک بازی با مجموع صفر است: هر مدلی که یک کشور دیگر کنترل کند، مدلی است که شما نمی‌توانید روی آن حساب کنید، بنابراین اقدام امنیتی ساختن دیوارها است.

ما فکر می‌کنیم سال گذشته می‌تواند راه دیگری را نشان دهد. هند، ژاپن و سنگاپور روی مدل‌های منبع‌باز تمرکز کردند و مردم در سراسر آسیا و اقیانوسیه ابزارهایی را بر روی آن‌ها برای شهروندان روستایی، بیماران مسن و پرستارانی که از آن‌ها مراقبت می‌کنند، ساختند. تیم امنیتی خود ما دفاع‌های هوش مصنوعی را ساخته است که با هر مدلی کار می‌کند، بنابراین از دست دادن دسترسی به یکی به معنای از دست دادن دفاع شما نیست.

کمک به ساخت یک اینترنت بهتر همیشه به معنای گزینه‌های بیشتر بوده است، نه کمتر. به همین دلیل است که ما روی استانداردهای بازی کار می‌کنیم که از قفل شدن فروشنده (vendor lock-in) جلوگیری می‌کند، به همین دلیل است که بسیاری از آنچه می‌سازیم برای شروع رایگان است، و به همین دلیل است که شبکه (network) ما در بیش از ۳۳۵ شهر در بیش از ۱۲۵ کشور اجرا می‌شود که پردازنده‌های گرافیکی (GPUs) برای استنتاج هوش مصنوعی در بیش از ۲۳۰ تای آن‌ها حضور دارند. ما فکر نمی‌کنیم هیچ کشوری باید به یک شرکت برای هوش مصنوعی خود وابسته باشد. این شامل خود ما نیز می‌شود.

دو مدل باز اروپایی روی Workers AI

در ماه فوریه، متیو پرنس (Matthew Prince) در نشست تأثیر هوش مصنوعی هند ۲۰۲۶ در دهلی نو گفت که دسترسی غیرمتمرکز و مقرون‌به‌صرفه به هوش مصنوعی مسئله‌ای مربوط به تاب‌آوری ملی است. مدل‌های هند، ژاپن و سنگاپور که چند ماه قبل اضافه کرده بودیم، اولین مدرک ما بودند. سری نشست‌ها در ژوئن ۲۰۲۷ به ژنو منتقل می‌شود، با رسالت «شکوفایی و پیشرفت برای همه».

EuroLLM از ۳۵ زبان پشتیبانی می‌کند، از جمله تمام ۲۴ زبان رسمی اتحادیه اروپا، که بسیاری از آن‌ها توسط مدل‌های باز موجود پشتیبانی کمی دریافت می‌کنند. این مدل با پشتیبانی برنامه افق اروپا (Horizon Europe)، شورای پژوهشی اروپا و یورو‌اچ‌پی‌سی (EuroHPC) توسط کنسرسیومی که شامل انستیتو سوپریور تکنیکو (Instituto Superior Técnico)، دانشگاه ادینبرو (University of Edinburgh)، انستیتو تلکامونیکاسواش (Instituto de Telecomunicações)، دانشگاه پاریس-ساکله (Université Paris-Saclay)، آن‌ابل (Unbabel)، دانشگاه سوربن (Sorbonne University)، نِوِر لبز (Naver Labs) و دانشگاه آمستردام (University of Amsterdam) است، توسعه یافت. این مدل روی ابررایانه مارِنوستروم ۵ (MareNostrum 5) آموزش دید و به گفته کنسرسیوم، از مدل‌های هم‌اندازه خود در بنچمارک‌های چندزبانه اتحادیه اروپا و ترجمه ماشینی عملکرد بهتری دارد.

شما می‌توانید درخواست دسترسی به EuroLLM را در Workers AI در اینجا بدهید.

Apertus (به لاتین به معنای «باز») اولین مدل زبان بزرگ، کاملاً باز و چندزبانه سوئیس است. این مدل روی بیش از ۱۵ تریلیون توکن در بیش از ۱۵۰۰ زبان آموزش دید که ۴۰ درصد از داده‌های آموزشی به زبان‌هایی غیر از انگلیسی بودند. این مدل توسط ای‌تی‌اچ زوریخ (ETH Zurich)، ای‌پی‌اف‌ال (EPFL) و مرکز ابررایانه ملی سوئیس (CSCS) به عنوان بخشی از ابتکار هوش مصنوعی سوئیس (Swiss AI Initiative) توسعه یافت: ساخته شده توسط مؤسسات عمومی، برای خیر عمومی. معماری، وزن‌ها، داده‌های آموزشی و روش‌های آن همگی منتشر شده‌اند. این مدل با در نظر گرفتن قوانین سوئیس و اروپا مانند قانون هوش مصنوعی اتحادیه اروپا و جی‌دی‌پی‌آر (GDPR) طراحی شده است، به این معنی که احترام به انصراف‌های آموزشی، حذف داده‌های شخصی و جلوگیری از حفظ کردن (memorization) رعایت شده است. این مدل روی ابررایانه آلپس (Alps) متعلق به CSCS (بیش از ۱۰۰۰۰ پردازنده گرافیکی GH200) آموزش دید و توسعه‌دهندگان آن گزارش می‌دهند که به طور قابل توجهی از مدل‌های بسته و باز پیشرو در زبان‌های نادر و منطقه‌ای، از رومانش (Romansh) و آلمانی سوئیسی گرفته تا زبان‌های با منابع کم در سراسر آسیا و آفریقا، عملکرد بهتری دارد.

شما می‌توانید درخواست دسترسی به Apertus را در Workers AI در اینجا بدهید.

آنچه مردم سال گذشته ساختند

مدل‌های ملی سال گذشته روی طاقچه خاک نخوردند. از زمانی که آن‌ها را به Workers AI اضافه کردیم، صدها دانشجو، استارتاپ، کسب‌وکار کوچک و کارمند دولتی در سراسر آسیا و اقیانوسیه روی آن‌ها ساختند، بسیاری در مسابقات ساخت (buildathons) که با شرکای محلی اجرا کردیم. سه مورد از آن‌ها:

  • فرم‌های دولتی، بدون نیاز به خواندن – Form Mitra (هند): فرم‌های مزایا که به زبان انگلیسی غلیظ نوشته شده‌اند، بسیاری از شهروندان روستایی، کم‌سواد و دارای اختلال بینایی را که برای آن‌ها در نظر گرفته شده‌اند، محروم می‌کنند. دانشجویان مؤسسه فناوری هند در دهلی Form Mitra را در یک مسابقه ساخت که با CyberPeace اجرا کردیم ساختند: یک دستیار صوتی که کاربران را در طول فرم به هر یک از ۲۲ زبان هند راهنمایی می‌کند و از مدل IndicTrans2 شرکت AI4Bharat استفاده می‌کند.
  • مراقبت در گویش محلی بیمار – MedBridge (سنگاپور): بسیاری از پرستارانی که از بیماران مسن سنگاپور مراقبت می‌کنند از سراسر آسیای جنوب شرقی می‌آیند و به گویش‌های محلی صحبت نمی‌کنند، بنابراین اطلاعات بالینی حیاتی ممکن است در ترجمه گم شود. MedBridge بیماران را در مکالمات سلامت به ۱۴ زبان، از جمله هوکیان (Hokkien) و کانتونی (Cantonese) راهنمایی می‌کند.
  • خدمات عمومی مناسب، با یک ضربه – Anshin Concierge (ژاپن): برای ساکنان مسن، افراد دارای معلولیت و هر کسی که کمتر با ابزارهای دیجیتال راحت است، فهمیدن اینکه در زمان نیاز با کدام خدمت عمومی تماس بگیرد می‌تواند طاقت‌فرسا باشد. Anshin Concierge که به عنوان یک نمونه اولیه هکاتون ساخته شده است به افراد اجازه می‌دهد مشکل خود را با کلمات خود توصیف کنند («زانوهایم درد می‌کنند»، «یک صفحه عجیب روی گوشی من ظاهر شد») و آن‌ها را با یک ضربه، از طریق تلفن یا صفحه وب، به میز پشتیبانی دولت کلان‌شهر توکیو متصل می‌کند.

دفاع‌های هوش مصنوعی که به یک مدل وابسته نیستند

دولت‌ها می‌خواهند از هوش مصنوعی برای دفاع از خدمات ضروری و زیرساخت‌های ملی استفاده کنند. مدل‌های مرزی که می‌توانند آسیب‌پذیری‌ها را در مقیاس پیدا کنند، می‌توانند آن‌ها را برای مدافعان نیز پیدا کنند. اما دفاعی که روی یک مدل ساخته شده است، تنها به اندازه دسترسی شما به آن مدل قابل اعتماد است و دولت‌ها دیده‌اند که دسترسی به مدل‌های حیاتی با هشدار کمی محدود می‌شود.

ما نیز همین مشکل را داشتیم و در امنیت ما همیشه اولین مشتری خود بوده‌ایم. طی سال گذشته، تیم امنیت ما، با همکاری تیم‌هایی در سراسر شرکت، تصمیم گرفت دفاع‌های هوش مصنوعی را بسازد که به هیچ مدل خاصی وابسته نیست. ما یک مهار (harness) ساختیم: یک لایه ارکستراسیون که چندین مدل هوش مصنوعی را هماهنگ می‌کند که به طور موازی کار می‌کنند تا به دنبال آسیب‌پذیری‌ها بگردند، یافته‌ها را تأیید کنند و تهدیدها را اولویت‌بندی کنند. ما آنچه را که درباره استفاده از مدل‌های مرزی و باز آموخته بودیم منتشر کردیم، کد این مهار را به صورت متن‌باز منتشر کردیم تا هر سازمانی بتواند آن را با مدل‌های دلخواه خود اجرا کند، و معماری لایه‌ای که برای متوقف کردن مهاجمان مسلح به مدل‌های مرزی از پیدا کردن آسیب‌پذیری‌ها در وهله اول استفاده می‌کنیم را ترسیم کردیم.

از آنجا که این مهار با هر مدلی، چه بسته و چه باز، کار می‌کند، از دست دادن دسترسی به یک ارائه‌دهنده، دفاع‌های شما را خاموش نمی‌کند. وقتی دولت‌ها را از طریق آن هدایت کردیم، شایع‌ترین واکنش احساس آرامش بود. سپس سؤالات عملی مطرح شد: چگونه آن را در محیط‌های خود، تحت قوانین خود راه‌اندازی کنیم. جلسات توجیهی به سرعت به درخواست‌هایی برای آموزش عملی تبدیل شدند.

بنابراین امروز ما یک برنامه از کارگاه‌های عملی را برای آژانس‌های امنیت سایبری دولتی و اپراتورهای زیرساخت حیاتی راه‌اندازی می‌کنیم. شرکت‌کنندگان مهار امنیتی هوش مصنوعی و دفاع‌های لایه‌ای خود را می‌سازند و با دانش نحوه تطبیق هر دو با سازمان خود آنجا را ترک می‌کنند. ماژول‌ها به صورت اتصال و اجرا (plug-and-play) هستند و به گونه‌ای طراحی شده‌اند که در برنامه‌های مهارت‌آموزی هوش مصنوعی ملی و تاب‌آوری سایبری قرار گیرند. اولین کارگاه در ماه اکتبر در سنگاپور، در هفته سایبری بین‌المللی سنگاپور (Singapore International Cyber Week) برگزار می‌شود.

بیایید با ما بسازید

هیچ یک از این‌ها به تنهایی اتفاق نیفتاد. شرکایی مانند CyberPeace در هند و Code for Japan به تبدیل مدل‌های باز به ابزارهای کاری کمک کردند. اگر شما یک برنامه هوش مصنوعی ملی، یک آژانس سایبری یا زیرساخت حیاتی را اداره می‌کنید و گزینه‌های بیشتری نسبت به امروز می‌خواهید، به ما در policy-team@cloudflare.com بنویسید. درخواست دسترسی به EuroLLM و Apertus بدهید، یا با مهار (harness) شروع کنید.

یک سال پیش، گفتیم که حق انتخاب راهی برای رسیدن به حاکمیت هوش مصنوعی است. امسال نشان داد که این راهی برای امنیت هوش مصنوعی نیز هست.


منبع: blog.cloudflare.com

نظرات۰

برای نوشتن نظر، وارد حساب خود شوید.

ورود / ثبت‌نام

هنوز نظری ثبت نشده — اولین نفری باش که نظر می‌دهد.