🤖 کارمند سابق دیپمایند: صحبت عمومی درباره خطر انقراض انسان با هوش مصنوعی ممنوع بود
یک کارمند سابق تیم ارتباطات و سیاستگذاری دیپمایند ادعا کرده است که این شرکت در گذشته اجازه نمیداد کارکنان درباره احتمال انقراض انسان بر اثر هوش مصنوعی در فضای عمومی صحبت کنند. این اظهارات در حالی مطرح شده که بحث درباره ایمنی هوش مصنوعی، همراستاسازی سامانههای پیشرفته و احتمال خارجشدن آنها از کنترل انسان، بیش از گذشته مورد توجه پژوهشگران قرار گرفته است.
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – یک کارمند سابق تیم ارتباطات و سیاستگذاری دیپمایند مدعی شده است که این آزمایشگاه در دوره فعالیت او، انتشار عمومی مطالب درباره احتمال انقراض انسان بر اثر هوش مصنوعی را ممنوع کرده بود.
به گفته ویشال مِینی، که بین سالهای ۲۰۱۸ تا ۲۰۲۲ در تیم ارتباطات و سیاستگذاری دیپمایند فعالیت میکرد، ارتباطات خارجی درباره احتمال انقراض انسان در هیچ سطحی از سازمان مجاز نبود.
او میگوید پژوهشگران برای مواجهه با پرسشهای مربوط به این خطرات آموزش میدیدند که آنها را نوعی هشدار افراطی و اغراقآمیز معرفی کنند، با فیلمهایی مانند «نابودگر» مقایسه کنند و سپس بحث را به سمت کاربردهای مثبت هوش مصنوعی در حوزههایی مانند سلامت و تغییرات اقلیمی هدایت کنند.
با این حال، بر اساس روایت مِینی، در داخل سازمان آگاهی وجود داشت که مسئله همراستاسازی هوش مصنوعی هنوز حل نشده و تعداد متخصصانی که روی این مسئله کار میکردند نیز کافی نبود.
مِینی میگوید پس از ماهها مخالفت و پیگیری، این محدودیت تا حدی کاهش یافت و انتشار مطالب مرتبط با ایمنی هوش مصنوعی، در صورتی که با چارچوبی مثبت ارائه میشد، امکانپذیر شد.
او معتقد است فاصله میان دانش داخلی سازمانها و پیامهایی که در ارتباطات عمومی درباره خطرات هوش مصنوعی ارائه میشود، در حال کاهش است؛ زیرا شواهد درباره خطرات احتمالی سامانههای پیشرفته هوش مصنوعی بیش از گذشته قابل نادیده گرفتن نیست.
این اظهارات همزمان با افزایش هشدارهای عمومی پژوهشگران ایمنی هوش مصنوعی مطرح شده است. شماری از متخصصان درباره مدلهای ناایمن که میتوانند امکان انجام اقدامات خطرناک را فراهم کنند و همچنین درباره سامانههای پیشرفتهای که ممکن است از کنترل انسان خارج شوند، هشدار دادهاند.
حتی پژوهشگرانی در خود دیپمایند نیز در ماههای اخیر نگرانیهای مرتبط با ایمنی هوش مصنوعی را بهصورت عمومی مطرح کردهاند.
منبع انگلیسی: دیکودر
منبع فارسی: شبکه اطلاعرسانی روابطعمومی ایران (شارا)
تاریخ انتشار: ۱۰ سپتامبر ۲۰۲۶