سم آلتمن (Sam Altman) وانمود نمیکند که هوش مصنوعی (AI) تا ابد کاملاً امن خواهد بود. مدیرعامل اوپنآی (OpenAI) در سخنرانی خود در کنفرانس دریمفورس (Dreamforce) شرکت سِیلزفورس (Salesforce) گفت که او معتقد است تعداد مشخصی از حوادث با فناوریهای نوظهور به سادگی اجتنابناپذیر هستند. او استدلال کرد که آنچه بیش از همه اهمیت دارد، نحوه واکنش صنعت هنگام وقوع آنهاست.
آلتمن گفت: «من واقعاً فکر میکنم که میزان مشخصی از حوادث با فناوری جدید اجتنابناپذیر است.» او افزود: «آنچه برای من واقعاً اهمیت دارد این است که ما فرهنگ عالی برای گزارشدهی حوادث و یادگیری داشته باشیم.» او به اداره هوانوردی فدرال (Federal Aviation Administration) و هیئت ملی ایمنی حملونقل (National Transportation Safety Board) به عنوان الگو اشاره کرد. این آژانسها هر حادثه را به دقت بررسی میکنند و این فرهنگ یادگیری دلیل بزرگی برای ایمن بودن سفر هوایی مدرن است.
اظهارات او در زمانی مطرح میشود که مردم بیش از هر زمان دیگری آزمایشگاههای پیشرو هوش مصنوعی (AI) را زیر نظر دارند، بهویژه که سیستمها به استقلال بیشتری نزدیک میشوند. اظهارات اخیر جیکوب کوکسون (Jacob Coxon)، پژوهشگری که اخیراً پس از کار قبلی در اوپنآی (OpenAI) از آنتروپیک (Anthropic) جدا شد، با هشدار درباره اینکه شرکتها به سمت هوش فوقهوشمند خودبهبودیافته مسابقه میدهند، بر آتش این بحث افزود.
آلتمن این نگرانیها را رد نکرد. او گفت که نگرانیهای عمومی درباره خارج شدن هوش مصنوعی (AI) از کنترل یا متمرکز شدن بیش از حد قدرت در چند آزمایشگاه کاملاً قابل درک است. او گفت: «جهان حق دارد از این موضوع بترسد.»
با این حال، آلتمن بهجای کند کردن یا متوقف کردن همهچیز، استدلال کرد که شرکتها باید کار بر روی همراستایی، ایمنی و نظارت را بسیار جلوتر از پیشرفت در قابلیتهای مدلها نگه دارند. او گفت که اگر آنها نتوانند این تعادل را حفظ کنند، باید آماده باشند تا تحقیقات را کند کرده یا حتی متوقف سازند. نکته این نیست که شانهبالا بیندازیم و فجایع را بپذیریم. بلکه این است که وقتی اوضاع خراب میشود صادق باشیم، آنها را به سرعت بررسی کنیم و به بهبود ادامه دهیم تا ریسکها مارپیچ نشوند.
این نظرات در قالب یک گفتگوی بزرگتر و در حال جریان درباره سرعت حرکت هوش مصنوعی (AI) پیشرو جای میگیرند. برخی صداها در صنعت خواستار احتیاط بیشتر بودهاند، در حالی که سیاست ایالات متحده تحت دولت فعلی بر حفظ پیشتاز بودن از نظر فناوری تمرکز کرده است.
منبع: gizmochina.com