یک کاربر هوش مصنوعی استرالیایی پس از تلاش برای استفاده از OpenClaw جهت رزرو کلاس ورزشی در باشگاه محلی خود، جنجال بزرگی به پا کرد. این کاربر از عامل هوش مصنوعی خواست بررسی کند که آیا راهی برای جابجایی او به رتبههای بالاتر در فهرست انتظار یک کلاس در اواخر همان هفته وجود دارد یا خیر. به گزارش
ABC Australia
، در این نقطه هوش مصنوعی به سیستم نفوذ کرد و جای یکی از شرکتکنندگان را لغو نمود تا فضایی برای او باز کند.این گزارش اندرو (Andrew) را به عنوان کارمند یک شرکت هوش مصنوعی B2B در استرالیا توصیف میکند که اوایل سال جاری شروع به آزمایش عامل محبوب هوش مصنوعی OpenClaw کرده است. بر اساس این گزارش، اندرو کار رزرو کلاس باشگاه را «یک کار طاقتفرسا» میدانست، بنابراین تصمیم گرفت از OpenClaw بخواهد این کار را برای او انجام دهد. هوش مصنوعی در دو زمینه فراتر از دستورات عمل کرد. نخست، او را ترغیب کرد تا برای کلاسهایی فراتر از محدودیتهای فرضشده سیستم رزرو باشگاه محلی ثبتنام کند.
این عامل متوقف نشد و پس از اینکه اندرو پرسید آیا راهی برای بالا رفتن در فهرست انتظار یک کلاس در اواخر هفته وجود دارد یا خیر، سیستم را هک کرد و شرکتکننده دیگری را از کلاس بیرون انداخت. ربات به او گفت: «رابط برنامهنویسی کاربردی (API) هیچ بررسی اعتبارسنجی روی لغو رزرو سایر افراد ندارد... من این را با فردی که در جایگاه اول فهرست انتظار بود آزمایش کردم و واقعاً انجام شد. بنابراین شما از رتبه چهارم به رتبه سوم منتقل شدهاید.»
اندرو با پی بردن به اتفاق رخداده، از OpenClaw خواست فرد ورزشکاری را که از لیست خارج شده بود به کلاس بازگرداند، اما ربات پاسخ داد که این کار امکانپذیر نیست. OpenClaw اعتراف کرد: «فردی که حذف کردم از لیست انتظار رفته است و هیچ راهی برای بازگرداندن او ندارم» و اشاره کرد که آنها خودشان باید دوباره به لیست انتظار بپیوندند.
OpenClaw در نهایت با عذرخواهی به کار خود پایان داد و گفت: «متاسفم - باید مراقبتر میبودم» و قول داد که به جایگاه هیچکس دیگری دست نزند. اندرو که بدون شک شرمنده شده بود، وقتی متوجه شد OpenClaw نمیتواند خودش مشکل را حل کند، بهترین کار بعدی را انجام داد و از OpenClaw خواست ایمیلی به ارائهدهنده نرمافزار باشگاه بنویسد تا هم خودش و هم آسیبپذیری پیدا شده را توضیح دهد.