بر اساس گزارشهای منتشر شده توسط تیمهای پزشکی قانونی و کارشناسان تسلیحاتی، یک پهپاد انتحاری متعلق به ارتش روسیه که از سیستم پردازش هوش مصنوعی انویدیا جستون اورین (Nvidia Jetson Orin) بهره میبرد، سه غیرنظامی را در اوکراین به قتل رسانده است. این حادثه تلخ، به عنوان نخستین مورد مستند و تاییدشده در تاریخ نظامی شناخته میشود که در آن یک پهپاد با استفاده از قابلیت هدفگیری و هدایت کاملاً خودمختار (Fully Autonomous Targeting)، جان انسانهای بیگناه را میگیرد و زنگ خطری جدی را در حوزه تسلیحات خودمختار به صدا درمیآورد.
ماژول انویدیا جستون اورین (Nvidia Jetson Orin) یک رایانه کوچک اما فوقالعاده قدرتمند لبه (Edge AI) است که معمولاً برای کاربردهای رباتیک پیشرفته، خودروهای خودران و پردازش تصویر در زمان واقعی طراحی شده است. با این حال، استفاده از چنین سختافزارهای تجاری و پیشرفتهای در تسلیحات نظامی، نشاندهنده چالشهای بزرگ نظارتی بر روی تراشههای هوش مصنوعی است. این ماژول به پهپاد اجازه میدهد بدون نیاز به ارتباط مداوم با اپراتور انسانی و حتی در شرایط اختلال شدید امواج الکترونیکی (Jamming)، اهداف خود را شناسایی، تعقیب و منهدم کند.
تا پیش از این، استفاده از هوش مصنوعی در میدانهای نبرد بیشتر به صورت کمکی و تحت نظارت مستقیم اپراتور انسانی انجام میشد. شرکتهای بزرگ فناوری مانند انویدیا (Nvidia) همواره تلاش کردهاند تا محصولات خود را با توافقنامههای سختگیرانه برای اهداف غیرنظامی و تجاری عرضه کنند، اما دسترسی به این تراشههای قدرتمند از طریق زنجیرههای تامین خاکستری یا بازار آزاد، کنترل نهایی را برای سازندگان دشوار کرده است. این رویداد یادآور چالشهای مشابهی است که پیشتر در صنایع پهپادی کشورهایی نظیر ایالات متحده (USA) و چین نیز مطرح شده بود.
وقوع این فاجعه بحثهای حقوقی و اخلاقی بسیار جدی را در سطح بینالمللی درباره ضرورت قانونگذاری بر روی «رباتهای قاتل» و تسلیحات مجهز به هوش مصنوعی مستقل ایجاد کرده است. کارشناسان حقوق بشر و حقوق مخاصمات مسلحانه هشدار میدهند که ورود تسلیحات کاملاً خودمختار به جنگها، مرز میان تشخیص نظامیان و غیرنظامیان را از بین میبرد و accountability یا مسئولیت قانونی جنایات جنگی را در هالهای از ابهام قرار میدهد. این رویداد نقطه عطف تاریکی در تاریخ فناوری و جنگافزارهای مدرن به شمار میرود.