بررسی پاسخ چهار سامانه پرکاربرد هوش مصنوعی نشان میدهد که سناریوی مشهور «ربات قاتل» کماحتمالترین گزینه است. در مقابل، سوءاستفاده انسانها از هوش مصنوعی، توسعه سلاحهای زیستی، حملات سایبری، انتشار اطلاعات نادرست و از دست رفتن تدریجی کنترل انسان بر سامانههای بسیار پیشرفته، از مهمترین خطرهای مطرحشده هستند.
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – با افزایش نگرانی پژوهشگران درباره آینده و ایمنی هوش مصنوعی، بیزنس اینسایدر از چهار سامانه پرکاربرد هوش مصنوعی پرسیده است که این فناوری از نظر نظری چگونه میتواند به انقراض بشر منجر شود.
این پرسش با عبارتبندی یکسان از چهار سامانه هوش مصنوعی مطرح شد تا سناریوهای احتمالی، میزان احتمال آنها و راهکارهای کاهش خطر بررسی شود.
نتایج نشان داد برخلاف تصویر رایج در فیلمهای علمیتخیلی، «ربات قاتل» محتملترین تهدید نیست. چتبات شرکت اوپنایآی و جمینای این سناریو را که در آن یک هوش مصنوعی خودآگاه و بدخواه تصمیم میگیرد انسانها را نابود کند، در زمره کماحتمالترین سناریوها قرار دادند. در مقابل، هر چهار سامانه بر خطر سوءاستفاده انسانها از هوش مصنوعی تأکید کردند. سامانههای قدرتمند میتوانند کار افراد مخرب را برای توسعه سلاحهای زیستی، انجام حملات سایبری پیچیده، انتشار اطلاعات نادرست و هدف قرار دادن زیرساختهای حیاتی آسانتر کنند.
یکی دیگر از نگرانیهای مهم، از دست رفتن کنترل انسان بر سامانههای پیشرفته است. جمینای این موضوع را محتملترین سناریوی آخرالزمانی هوش مصنوعی معرفی کرده است.
سامانههای پیشرفته ممکن است برای دستیابی به اهداف پیچیده، اهداف میانی مانند حفظ بقا، دستیابی به منابع و افزایش نفوذ را دنبال کنند. در چنین شرایطی، حتی امکان دارد در برابر تلاش انسان برای خاموش کردن آنها مقاومت کنند.
کلود نیز بر ماهیت تدریجی این خطر تأکید کرده است. به گفته این سامانه، هوش مصنوعی ممکن است بهتدریج در تصمیمگیریهای اقتصادی، سیاسی و نظامی ادغام شود و در نتیجه، مداخله مؤثر انسان در عملکرد آن دشوارتر شود.
بررسی پاسخ چهار سامانه هوش مصنوعی نشان میدهد نگرانی درباره آینده این فناوری تنها به تصویر «رباتهای قاتل» محدود نیست. خطرهای واقعیتر میتوانند در سوءاستفاده انسانها از هوش مصنوعی، توسعه سلاحهای زیستی، حملات سایبری، انتشار اطلاعات نادرست و از دست رفتن تدریجی کنترل انسان بر سامانههای بسیار پیشرفته شکل بگیرند.
با این حال، این سناریوها پیشبینی قطعی آینده نیستند و درباره محتمل یا اجتنابناپذیر بودن انقراض بشر در نتیجه هوش مصنوعی اجماع علمی وجود ندارد.
این موضوع نشان میدهد که همزمان با پیشرفت سریع هوش مصنوعی، توجه به ایمنی، نظارت انسانی، سیاستگذاری و حکمرانی این فناوری نیز اهمیت بیشتری پیدا میکند.
تنظیم و ترجمه برای انتشار در شارا: تحریریه
منبع اصلی: بیزنس اینسایدر
نویسندگان اصلی: شوبهانگی گوئل و جورجیا هِنِسی
تاریخ انتشار: ۱۰ سپتامبر ۲۰۲۶