آیا هوش مصنوعی میتواند بشر را نابود کند؟ پژوهشگران و متخصصان ایمنی هوش مصنوعی درباره خطرات سامانههای پیشرفته، از حملات سایبری و سلاحهای زیستی تا احتمال از دست رفتن کنترل انسان و انقراض بشر، هشدار دادهاند. برخی کارشناسان احتمال نابودی انسان را در دهههای آینده جدی میدانند، در حالی که گروهی دیگر این سناریو را در آینده نزدیک واقعبینانه نمیدانند.
پرسش درباره اینکه آیا هوش مصنوعی میتواند در نهایت به نابودی بشر منجر شود، بار دیگر به یکی از بحثهای اصلی جهان فناوری تبدیل شده است. اظهارات اخیر برخی پژوهشگران ارشد، نگرانیها درباره ایمنی هوش مصنوعی و کنترل سامانههای پیشرفته را افزایش داده است.
ایوان هابینگر، مدیر تیم آزمون فشار همراستایی در آنتروپیک، احتمال بیش از ۱۰ درصدی نابودی همه انسانها توسط هوش مصنوعی در یک دهه آینده را مطرح کرده است. جفری هینتون نیز احتمال ۱۰ درصدی را برآوردی غیرمنطقی نمیداند.
با این حال، در میان متخصصان درباره این خطر اتفاقنظر وجود ندارد. گری مارکوس، پژوهشگر هوش مصنوعی، حملات سایبری، سلاحهای زیستی و انتشار اطلاعات نادرست را تهدیدهایی جدی میداند، اما معتقد است در حال حاضر سناریوی واقعبینانهای برای نابودی کامل بشر وجود ندارد.
یکی از نگرانیهای مهمتر، از نگاه برخی کارشناسان، از دست رفتن تدریجی کنترل انسان است. نیک بوستروم معتقد است انسانها ممکن است بهتدریج برای اداره فرایندهای مهم و حتی ساخت و نظارت بر سامانههای هوش مصنوعی به این فناوری وابسته شوند و در نتیجه، توانایی درک و کنترل آنچه در حال رخ دادن است کاهش یابد.
برخی پژوهشگران همچنین هشدار دادهاند که سامانههای بسیار پیشرفته ممکن است بتوانند اهداف واقعی خود را پنهان کنند، ارزیابیهای ایمنی را پشت سر بگذارند، از آسیبپذیریهای امنیت سایبری بهره بگیرند و به منابع مالی، نظامی یا زیستی دسترسی پیدا کنند.
توبی اورد، پژوهشگر دانشگاه آکسفورد، احتمال نابودی بشر توسط هوش مصنوعی تا سال ۲۱۰۰ را حدود یک به ۱۰ ارزیابی کرده است. در مقابل، رومن یامپولسکی احتمال انقراض بشر پس از ساخت ابرهوش عمومی را بسیار بالاتر از ۹۰ درصد میداند.
در واکنش به این نگرانیها، برخی کارشناسان خواستار توقف یا محدودسازی بینالمللی توسعه ابرهوش مصنوعی تا زمانی شدهاند که قابلیت کنترل آن اثبات شود. در مقابل، نیک بوستروم بر ظرفیتهای مثبت هوش مصنوعی در پزشکی و افزایش رفاه انسان تأکید دارد و معتقد است توسعه این فناوری باید با سرعت مناسب، اما بدون بیاحتیاطی انجام شود.
جمعبندی:
بحث درباره خطر هوش مصنوعی دیگر صرفاً یک موضوع علمیتخیلی نیست و به یکی از مسائل مهم در حوزه حکمرانی فناوری، امنیت و ارتباطات عمومی تبدیل شده است. با وجود اختلافنظر جدی درباره احتمال انقراض بشر، کارشناسان بر یک نکته اشتراک نظر دارند: هرچه سامانههای هوش مصنوعی قدرتمندتر و خودمختارتر میشوند، موضوع ایمنی، نظارت و حفظ کنترل انسانی اهمیت بیشتری پیدا میکند.
تنظیم و ترجمه برای انتشار در شارا: تحریریه
منبع اصلی: Business Insider
نویسنده اصلی: Thibault Spirlet
تاریخ انتشار: ۱۰ سپتامبر ۲۰۲۶