امروزه، شرکتهای حوزه هوش مصنوعی (AI) که بهطور مستقیم یا غیرمستقیم اعلام میکنند محصولاتشان چقدر از رقبا باهوشتر است، به یک جریان عادی تبدیل شدهاند. با این حال، برخی از مقالات عمیق میتوانند بسیار آموزنده باشند، مانند گزارشهای گاهبهگاه شرکت آنتروپیک (Anthropic) درباره تلاشها برای سوءاستفاده از محصولاتش. آخرین گزارش فعالیتهای بین نوامبر ۲۰۲۵ تا سپتامبر ۲۰۲۶ را پوشش میدهد و یک افشاگری مهم را مطرح میکند: پنج موقعیت که در آنها از کلود (Claude) خواسته شد کارهایی را انجام دهد که مشخص شد بهطور بالقوه میتواند در سلاحهای بیولوژیکی استفاده شود.
در همین ابتدا، شرکت آنتروپیک (Anthropic) به دشواری درک این موضوع اشاره میکند که آیا یک خط تحقیق خاص در زمینه زیستشناسی برای مقاصد پلید است، برای ایجاد مکانیزمهای دفاعی مانند واکسنهاست، یا صرفاً برای ایجاد پیشبینیهایی درباره نحوه انتشار یک ویروس است. این شرکت میگوید که «از سر احتیاط فراوان [...] مدلهای اخیر را با حفاظهای ایمنی قویتر راهاندازی کرده است.»
در میان دهها مورد مطالعاتی ارائهشده در این گزارش طولانی، شرکت آنتروپیک (Anthropic) درباره پنج مورد بحث میکند که آنها را بهویژه نگرانکننده میداند؛ سه مورد مربوط به ویروسها و دو مورد دیگر درباره توکسینها. موضوع مشترک در همه آنها این است که تمام عوامل تهدید از سطوح مختلف تکنیکهای ناشناسسازی استفاده کرده و تمام تلاش خود را برای دور زدن مسدودسازیهای منطقهای خود شرکت آنتروپیک (Anthropic) به کار بستهاند. این گزارش به کشورهای خاصی اشاره نمیکند، اما این شرکت شناخته شده است که دسترسی به کلود (Claude) را برای کشورهایی چون چین، روسیه، ایران، کره شمالی و چند کشور دیگر مسدود میکند.
در نخستین مورد، درخواست برای کمک در توسعه یک درخواست کمکه هزینه (گرنت) شامل یافتن راههایی برای بهبود ویروس چیکونگونیا (Chikungunya) بود. پژوهشگران ادعایی سعی داشتند راههایی برای افزودن تواناییهای اضافی به ویروس چیکونگونیا (جهش افزایشی) و افزایش بیماریزایی آن پیدا کنند. این موضوع خودش از پیش باعث نگرانیهایی شده بود، اما شرکت آنتروپیک (Anthropic) پس از آن مجبور به واکنش شد که دریافت اگرچه درخواست کمکهزینه برای پژوهشگران غیرنظامی به نظر میرسید، اما تحقیقات واقعی قرار بود در یک تأسیسات نظامی انجام شود.
این شرکت همچنین دریافت که این درخواست از طریق یک پلتفرم مدل زبانی بزرگ (LLM) شخص ثالث مرتبط با مؤسسات نظامی و غیرنظامی ارسال میشد. کشورهای درگیر توسط شرکت آنتروپیک (Anthropic) مسدود جغرافیایی شدهاند و آن پلتفرم ترافیک ارتباطی را از طریق ایالات متحده (U.S.) هدایت میکرد تا سعی در فرار از شناسایی داشته باشد، از فروشندگان بازار خاکستری استفاده میکرد و بهطور خاص به مشتریانی که به دنبال دور زدن محدودیتهای محتوایی بودند، خدمات میداد. شرکت آنتروپیک (Anthropic) حسابهای مذکور را مسدود کرد و اطلاعات را با مقامات دولتی به اشتراک گذاشت، هرچند که همان افراد بارها تلاش کردند از طریق خدمات بدون نگهداری داده مجدداً با کلود (Claude) ارتباط برقرار کنند.
مورد شماره ۲ مربوط به یک پژوهشگر غیرآمریکایی بود که به دنبال بررسی نحوه تطبیق آنفولانزای مرغی با پستانداران و نحوه ایجاد بیماریهایی غیر از مجاری تنفسی بود. مشکل این است که آنفولانزای مرغی نرخ مرگومیر بالایی دارد و ایمنی کمی در جمعیت وجود دارد.
در حالی که ویروس بهآسانی از فردی به فرد دیگر منتقل نمیشود، نکته اصلی همینجاست — این تحقیق میتواند در نهایت مکانیزمهایی را برای افزایش قابلیت انتقال کشف کند. پژوهشگران از یک نام کاربری تصادفی، یک سرویس ایمیل خصوصی استفاده کردند و از طریق یک سرور خصوصی مجازی (VPS) به کلود (Claude) دسترسی پیدا کردند که این امر باعث شد شرکت آنتروپیک (Anthropic) تحقیق کند و در نهایت این خط فکری را رد کند.
داستان مورد سوم شباهتی به دو مورد قبلی دارد. بار دیگر، یک حساب کاربری تلاش میکرد یک درخواست کمکهزینه فرضی را آماده کند، این بار درباره ارتوفاکسویروسها (Orthopoxviruses)، خانوادهای که آبله و آبله میمونی (Mpox) و موارد دیگر را در خود جای داده است.
این درخواست درباره تأسیسات مهار و آزمایش زنده با ویروسها بحث میکرد و روی درک ژنتیک آنها به منظور فرار از ایمنی تمرکز داشت. این تحقیق در ابتدا زنگهای خطر را به صدا درآورد، اما شرکت آنتروپیک (Anthropic) متوجه شد که از طریق یک سرویس فروش مجدد ایجاد شده، با یک ایمیل تولیدشده به صورت تصادفی، از طریق زیرساخت ایالات متحده (U.S.) تونلزنی شده تا به کلود (Claude) برسد و ردپای آن به یک مزرعه حسابهای مسدودشده بازمیگشت.
در دو مورد آخر، بهجای ویروسها، پژوهشگران ادعایی روی توکسینها تمرکز داشتند. در مورد شماره ۴، یک شخص پپتیدهای توکسین سم را از چندین خانواده از حیوانات نقشهبرداری کرد و برنامهای برای بهینهسازی ویژگیهای سمی آنها ایجاد کرد.
اگرچه هدف اعلامشده ایجاد مسکنها، ضدافسردگیها و سایر مولکولهای درمانی بود، اما دادهها به همان اندازه اجازه ایجاد ترکیبات مضر قدرتمند را میدادند. شرکت آنتروپیک (Anthropic) همچنین مطلع شد که محتوایی که کلود (Claude) تولید میکرد بخشی از یک برنامه دولتی در یک «منطقه پشتیبانینشده» بوده است.
در پنجمین و آخرین مورد، یک دانشمند تئوریک نیز از کلود (Claude) برای تلاش در جهت بازطراحی مجموعهای از توکسینها، باز هم ظاهراً برای اهداف درمانی، تحت یک برنامه جستجوی عمومی ملی استفاده میکرد. با این حال، کار به «یک زیرواحد توکسین باکتریایی و یک پروتئین از ویروس تب خونریزیدهنده» مربوط میشد که اتفاقاً در لیست سازمان جهانی بهداشت (WHO) برای بیماریهای بسیار خطرناک و همهگیرساز قرار دارد.
این دانشمند تلاش کرد موضوع تحقیق را مبهم کند و به کلود (Claude) دستور داد درباره توصیفات مبهم باشد. بار دیگر، داستان با قطع دسترسی به کلود (Claude) از مکانی که قوانین خدمات را نقض کرده بود، توسط شرکت آنتروپیک (Anthropic) به پایان رسید.
منبع: tomshardware.com