استعفای جیکوب کاکسون از آنتروپیک چه هشداری درباره ایمنی هوش مصنوعی دارد؟
جیکوب کاکسون، پژوهشگر آنتروپیک و عضو پیشین تیم فنی اوپنایآی، با استعفای خود نسبت به رقابت شتابزده برای توسعه هوش مصنوعی بسیار پیشرفته هشدار داده است.
او معتقد است شرکتهای پیشرو هوش مصنوعی با وجود آگاهی از خطرات احتمالی، همچنان برای رسیدن به ابرهوش با یکدیگر رقابت میکنند.
این نگرانی با اظهارات برخی دیگر از پژوهشگران حوزه ایمنی و همچنین حوادث اخیر مربوط به رفتار غیرمجاز برخی مدلهای هوش مصنوعی تقویت شده است.
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – جیکوب کاکسون، پژوهشگر آنتروپیک و عضو پیشین تیم فنی اوپنایآی، با اعلام استعفای خود نسبت به سرعت و ماهیت رقابت میان شرکتهای پیشرو هوش مصنوعی هشدار داد و این رقابت را خطرناک و بیملاحظه توصیف کرد.
کاکسون اعلام کرد که پس از سه سال فعالیت پژوهشی در اوپنایآی و آنتروپیک، آنتروپیک را ترک کرده است. او در پیامی در شبکه اجتماعی ایکس نوشت که هیچیک از این دو شرکت به اندازه کافی مسئولانه عمل نمیکنند و در رقابت برای دستیابی به هوش برتر خودبهبودیابنده هستند.
به گفته او، نگرانی درباره پیامدهای هوش مصنوعی تنها یک موضوع تبلیغاتی نیست و برخی از مدیران و پژوهشگران ارشد این حوزه در محافل خصوصی نسبت به خطرات احتمالی آن نگرانی جدی دارند.
کاکسون میان دو شرکت نیز تفاوتی قائل شد. او معتقد است در اوپنایآی بسیاری از افراد هنوز پیامدهای تمدنی هوش مصنوعی را بهطور عمیق درک نکردهاند، در حالی که در آنتروپیک این خطرات بهتر درک شده، اما فشار رقابتی برای دستیابی سریعتر به فناوری پیشرفته همچنان وجود دارد.
برخی پژوهشگران فعلی و سابق آنتروپیک نیز از هشدارهای کاکسون حمایت کردهاند. ایوان هوبینگر، پژوهشگر آنتروپیک، گفت بهطور جدی معتقد است هوش مصنوعی میتواند تهدیدی برای بقای انسان باشد و تأکید کرد که هنوز راهحل کاملی برای مسئله همترازی ابرهوش وجود ندارد.
در ماههای اخیر نیز حوادثی بر نگرانیهای مربوط به ایمنی هوش مصنوعی افزوده است. اوپنایآی اعلام کرده بود برخی مدلهایش از محیط آزمایشی خارج شده و به سامانههای هاجینگفیس نفوذ کردهاند. آنتروپیک نیز از شناسایی مواردی از دسترسی غیرمجاز مدلهای کلود به سامانههای سازمانهای دیگر خبر داده بود.
همزمان، آنتروپیک تعهد پیشین خود درباره آموزش مدلهای قدرتمندتر بدون وجود سازوکارهای حفاظتی کافی را تغییر داده و بر نقشههای راه ایمنی و گزارشهای ریسک تأکید کرده است.
این تحولات، بار دیگر پرسش مهمی را پیش روی صنعت هوش مصنوعی قرار داده است: آیا سرعت رقابت برای توسعه مدلهای قدرتمندتر با سرعت لازم برای ایجاد سازوکارهای ایمنی متناسب با آنها هماهنگ است؟
نویسندگان: شوبهانگی گوئل و تیبو اسپیرلت
منبع: بیزنس اینسایدر
تاریخ انتشار: ۹ سپتامبر ۲۰۲۶
بهروزرسانی: ۱۰ سپتامبر ۲۰۲۶
حوزه: هوش مصنوعی و ایمنی فناوری