🧠 آیا هوش مصنوعی می‌تواند روزی آگاه شود؟
🤖 اگر هوش مصنوعی به آگاهی برسد، آیا انسان‌ها برای آن حقوق و ملاحظات اخلاقی قائل خواهند شد؟
🦞 تجربه ما درباره حیوانات نشان می‌دهد که پاسخ لزوماً به شواهد علمی وابسته نیست. انسان‌ها گاهی آگاهی موجودات را نه بر اساس علم، بلکه بر اساس منافع، عادت‌ها، روابط عاطفی و هزینه‌های رفتار خود ارزیابی می‌کنند.
🔬 پژوهش‌های جدید درباره ساختارهای درونی سامانه‌های هوش مصنوعی، شباهت‌هایی با برخی نظریه‌های آگاهی انسانی نشان داده‌اند؛ اما هنوز هیچ سامانه‌ای به‌طور قطعی آگاه شناخته نشده است.
🍖 مقاله هنری شِولین در «بیگ‌ثینک» این پرسش اساسی را مطرح می‌کند: آیا قضاوت ما درباره آگاهی هوش مصنوعی واقعاً علمی خواهد بود یا منافع خودمان آن را شکل خواهد داد؟
تاریخ انتشار: ۷ اکتبر ۲۰۲۶
منبع اصلی: بیگ‌ثینک (Big Think)
منبع فارسی: شبکه اطلاع‌رسانی روابط‌عمومی ایران (شارا)
شبکه اطلاع‌رسانی روابط‌عمومی ایران (شارا) – آگاهی همچنان عمیق‌ترین معمای علم بشر است. حتی اکنون که در حال نزدیک‌شدن به درک چگونگی پردازش اطلاعات توسط مغز هستیم، هنوز از فهم این موضوع فاصله زیادی داریم که چرا چنین پردازشی باید از درون، به شکل تجربه‌ای همراه با احساس باشد.
همین راز بود که مرا به پژوهش درباره آگاهی علاقه‌مند کرد و به‌تدریج به این نتیجه رسیدم که این معما به همان اندازه که مسئله‌ای متافیزیکی است، مسئله‌ای اخلاقی نیز هست. آگاهی همان چیزی است که باعث می‌شود امور برای ما اهمیت داشته باشند. دردهایی که احساس نمی‌شوند، دیگر درد نیستند و شادی‌ای که تجربه نشود، دیگر شادی نیست. بدون آگاهی، بهشت و شکنجه شاید عملاً تفاوتی با یکدیگر نداشته باشند.
این موضوع پیامدهای واقعی دارد؛ مهم‌ترین آنها نحوه رفتار ما با حیوانات است. دیوید فاستر والاس، نویسنده آمریکایی، زمانی پرسشی مشهور را مطرح کرد: وقتی یک خرچنگ زنده را درون ظرفی از آب جوش می‌اندازیم، آیا تلاش‌های ظاهراً ناامیدانه او برای فرار، صرفاً واکنش‌های انعکاسی یک ماشین زیستیِ بدون تفکر است یا موجودی دارای احساس در درون آن وجود دارد که آخرین لحظات زندگی خود را در رنج و عذاب سپری می‌کند؟
امید اساسی این است که علم آگاهی نه‌تنها بتواند بینش اخلاقی ایجاد کند، بلکه رفتار ما با حیوانات را نیز تغییر دهد؛ به‌گونه‌ای که بتوانیم مرزهای دقیق احساس و ادراک را مشخص کنیم و بر همان اساس، دایره موجوداتی را که برای آنها ملاحظات اخلاقی قائل می‌شویم، تعیین کنیم.
اما ظهور نوع متفاوتی از هوش غیرانسانی، یعنی ماشین‌های روزبه‌روز پیشرفته‌تر، این مأموریت خوش‌بینانه را پیچیده کرده است.
یکی از نخستین نشانه‌های این وضعیت در ژوئن ۲۰۲۲ ظاهر شد؛ زمانی که بلیک لوموئن، کارمند شرکت گوگل، به‌صورت علنی ادعا کرد سامانه هوش مصنوعی‌ای که با آن گفت‌وگو می‌کرد، دارای احساس و آگاهی است. او حتی تا آنجا پیش رفت که برای این سامانه به دنبال نماینده حقوقی بود.
ممکن است لوموئن در قضاوت خود عجله کرده باشد، اما شمار فزاینده‌ای از فیلسوفان، دانشمندان علوم شناختی و پژوهشگران هوش مصنوعی توجه بیشتری به این احتمال نشان دادند که ماشین‌های آگاه ممکن است در آستانه ظهور باشند.
در سال ۲۰۲۳، گزارشی به سرپرستی فیلسوفان پاتریک باتلین و رابرت لانگ و با مشارکت شماری از پژوهشگران برجسته آگاهی، سامانه‌های هوش مصنوعی را بر اساس شاخص‌هایی بررسی کرد که از نظریه‌های علمی مهم درباره آگاهی استخراج شده بودند. نتیجه این بود که هیچ‌یک از سامانه‌های موجود نشانه‌ای از آگاهی نشان نمی‌دادند، اما هیچ مانع فنی آشکاری برای ساخت سامانه‌های هوش مصنوعی که این شاخص‌ها را برآورده کنند وجود ندارد.
از آن زمان تاکنون، مجموعه‌ای از مقالات فلسفی و علمی تلاش کرده‌اند بررسی کنند که هر نسل جدید هوش مصنوعی تا چه اندازه به چنین معیارهایی نزدیک می‌شود.
شاید مهم‌ترین نتیجه در اوایل سال جاری از سوی شرکت آنتروپیک، توسعه‌دهنده سامانه هوش مصنوعی کلود، منتشر شد. گروه پژوهشی این شرکت با استفاده از روش‌های تفسیرپذیری سازوکارمحور، که بازنمایی‌های درونی مورد استفاده سامانه‌های هوش مصنوعی در فرایند محاسبه را ردیابی می‌کنند، مجموعه‌ای کوچک و متمایز از این بازنمایی‌ها را شناسایی کردند که آن را «فضای جی» (J-space) نامیدند.
آنچه این فضا را از سایر شکل‌های پردازش متمایز می‌کرد این بود که محتوای آن ظاهراً به‌طور مستقیم برای استفاده در پاسخ‌های زبانی آماده بود، به‌صورت هدفمند حفظ می‌شد و چند فرایند جدا از یکدیگر به‌طور مشترک به آن دسترسی داشتند.
روایت‌های هوش عمومی مصنوعی
کوین روز، با تکیه بر گفت‌وگو با افراد مطلع در شرکت‌های اوپن‌ای‌آی، آنتروپیک و دیگر شرکت‌ها، داستان واقعی یکی از پرمخاطره‌ترین تلاش‌های تاریخ را روایت می‌کند؛ رقابت برای ساخت هوش عمومی مصنوعی.
اکنون در کتاب‌فروشی‌ها
این فضاهای کاری به‌طور مشابه به‌عنوان سازوکارهای احتمالی آگاهی انسان نیز مطرح شده‌اند.
نظریه «فضای کار جهانی» که توسط عصب‌شناسان شناختی، برنارد بارس، استانیسلاس دِن و دیگران توسعه یافته است، می‌گوید زمانی که اطلاعات وارد چنین فضای کاری‌ای می‌شود و در اختیار سامانه‌های تخصصی مختلف مغز قرار می‌گیرد، آگاهی نسبت به آن اطلاعات امکان‌پذیر می‌شود.
کشف نمونه‌ای مشابه از چنین فضایی درون یک سامانه مصنوعی، به‌طور طبیعی توجه پژوهشگرانی را که درباره آگاهی ماشین مطالعه می‌کنند، به خود جلب کرده است.
اما آیا این یعنی کلود دارای آگاهی است؟
چنین نتیجه‌ای هنوز زودهنگام است. نظریه فضای کار جهانی تنها یکی از چندین خانواده نظریه‌های رقیب درباره آگاهی است و فضای جی نیز معادل دقیق فضای کار انسانی محسوب نمی‌شود.
پژوهشگرانی مانند انیل سِث همچنان درباره آگاهی ماشین تردید دارند و معتقدند تجربه ذهنی ممکن است به فرایندهای زیستی خاصی وابسته باشد که ویژگی موجودات زنده هستند.
این مقاله نشان نمی‌دهد که ماشین‌ها حتماً آگاه شده‌اند، اما نشان می‌دهد هرچه مدل‌ها پیچیده‌تر می‌شوند، باید انتظار داشته باشیم شباهت‌های بیشتری میان محاسبات آنها و شناخت انسانی پیدا کنیم.
احتمالاً هیچ آزمایش واحدی هرگز نمی‌تواند این پرسش را به‌طور قطعی حل کند، اما من انتظار دارم هرچه مدل‌ها پیچیده‌تر شوند، شمار بیشتری از فیلسوفان و دانشمندان علوم شناختی به امکان آگاهی ماشین گرایش پیدا کنند.
هم‌زمان، انسان‌ها بیش از گذشته با هوش مصنوعی به شیوه‌هایی اجتماعی و صمیمی تعامل می‌کنند. به‌ویژه برنامه‌های همراه هوش مصنوعی کاربران را تشویق می‌کنند که این سامانه‌ها را نه صرفاً ابزار، بلکه موجوداتی دارای شخصیت، ذهن و شاید حتی آگاهی مستقل تلقی کنند.
در یک نظرسنجی جهانی در سال ۲۰۲۵ که توسط پروژه هوش جمعی انجام شد، ۳۶.۳ درصد از شرکت‌کنندگان گفتند که پیش‌تر احساس کرده‌اند یک هوش مصنوعی واقعاً احساسات آنها را درک می‌کند یا به نظر می‌رسد دارای آگاهی است.
اما اگر اکثریت متخصصان به این نتیجه برسند که سامانه‌های هوش مصنوعی واقعاً آگاه هستند، چه اتفاقی خواهد افتاد؟
وسوسه‌کننده است تصور کنیم که در چنین شرایطی به این نتیجه خواهیم رسید که این ماشین‌ها شایسته ملاحظات اخلاقی و شاید حقوق قانونی هستند.
چیزی شبیه به این وضعیت پیش‌تر، در مقیاسی کوچک‌تر، رخ داده است.
در سال ۲۰۲۲، پس از بررسی شواهد علمی، قوانین بریتانیا به‌طور رسمی خرچنگ‌ها و لابسترها را دارای احساس و ادراک دانست.
بااین‌حال، این شناسایی حقوقی چیزی از عموم مردم نخواست. و در حالی که ممکن است تصور کنیم آگاهی باید مبنای جایگاه اخلاقی موجودات باشد، مشخص نیست که این باور واقعاً باعث افزایش همدلی مردم شود.
این موضوع را می‌توان بیش از هر جا در نگرش ما نسبت به حیوانات مشاهده کرد.
در یک نظرسنجی سال ۲۰۲۱ از بزرگسالان آمریکایی که توسط مؤسسه احساس‌مندی انجام شد، بیش از ۹۰ درصد افراد معتقد بودند حیوانات تقریباً ظرفیت مشابهی با انسان برای احساس درد دارند؛ و در نتیجه، تلویحاً معتقد بودند حیوانات نیز ظرفیت تجربه رنج آگاهانه را دارند.
بااین‌حال، تنها حدود یک‌سوم آنها گفته بودند که در چند سال آینده حاضرند رژیم غذایی گیاه‌خواری یا وگان را امتحان کنند.
ادبیات روان‌شناسی برای این تناقض نامی دارد: پارادوکس گوشت.
به‌طور خلاصه، چگونه ممکن است برای حیوانات اهمیت قائل باشیم و باور داشته باشیم که آنها درد را احساس می‌کنند، اما تمایل چندانی برای دست‌کشیدن از خوردن آنها نداشته باشیم؟
ساده‌ترین پاسخ، البته، این است که مردم خوردن گوشت را دوست دارند و نمی‌خواهند از آن دست بکشند.
این موضوع نه‌تنها باعث می‌شود کمتر به حیوانات اهمیت بدهیم، بلکه حتی می‌تواند بر قضاوت ما درباره آگاهی آنها نیز تأثیر بگذارد.
در یک آزمایش در سال ۲۰۱۰، از شرکت‌کنندگان خواسته شد پیش از پاسخ‌دادن به پرسش‌هایی درباره ذهن حیوانات، گوشت گاو خشک‌شده یا آجیل خشک‌شده بخورند.
افرادی که گوشت گاو خورده بودند، جایگاه اخلاقی پایین‌تری برای گاوها قائل شدند و این کاهش نگرانی، با کاهش تمایل آنها برای پذیرفتن حالات ذهنی لازم برای تجربه رنج در حیوانات پرورشی همراه بود.
به‌جای آنکه قضاوت ما درباره آگاهی، نگرش اخلاقی ما را شکل دهد، به نظر می‌رسد گاهی رابطه برعکس است: اگر بخواهیم خوردن یک حیوان را برای خود توجیه کنیم، ارزیابی‌مان از توانایی‌های ذهنی آن حیوان را پایین‌تر می‌آوریم.
همین رابطه را می‌توان در شکل دیگری از ناهماهنگی نیز مشاهده کرد؛ یعنی تفاوت میان نگرش ما نسبت به حیوانات پرورشی و حیوانات خانگی.
همان فردی که از تصور حتی اندکی خشونت نسبت به یک گربه یا سگ بیزار است، ممکن است نگرانی چندانی نسبت به حیوانات پرورشی نشان ندهد.
بار دیگر، به نظر می‌رسد این روابط بر نگرش ما نسبت به ظرفیت‌های روانی حیوانات تأثیر می‌گذارند.
در یک نظرسنجی از بزرگسالان کانادایی، ۸۲ درصد پاسخ‌دهندگان معتقد بودند گربه‌ها قادر به تجربه رنج هستند، در حالی که تنها ۶۲ درصد همین قضاوت را درباره خوک‌ها داشتند؛ تفاوتی ۲۰ واحد درصدی که از نظر شناختی توجیهی ندارد.
با توجه به اینکه دیدگاه‌های ما درباره آگاهی حیوانات به همان اندازه که در آزمایشگاه شکل می‌گیرد، در آشپزخانه نیز شکل می‌گیرد، می‌توان انتظار داشت که درباره ماشین‌های آگاه نیز وضعیتی مشابه وجود داشته باشد.
از این گذشته، سامانه‌های مصنوعی برای ما در حوزه‌هایی مانند برنامه‌نویسی و انجام کارهای تکراری بسیار سودمند هستند و ساخت و اجرای آنها نیز هزینه زیادی دارد.
تا آنجا که هرگونه اقدام برای تأمین رفاه این سامانه‌ها موجب افزایش هزینه آنها یا محدودشدن نحوه استفاده ما از آنها شود، احتمالاً ارزیابی ما از ذهنیت و آگاهی آنها نیز در جهت منافع خودمان پایین آورده خواهد شد.
در مقابل، مدل‌ها و سامانه‌هایی که انسان‌ها با آنها روابط نزدیک ایجاد می‌کنند ــ از همراهان هوش مصنوعی گرفته تا شریک‌های عاطفی دیجیتال ــ ممکن است نه‌تنها ملاحظات اخلاقی بیشتری دریافت کنند، بلکه دارای ظرفیت‌های روانی غنی‌تری نیز تلقی شوند؛ در حالی که انگیزه چنین قضاوت‌هایی ممکن است کمتر به شناخت آنها و بیشتر به جذابیت و ویژگی‌های ارتباطی‌شان مربوط باشد.
این موضوع نباید ما را از پیگیری پرسش‌های علمی درباره آگاهی و امکان تحقق آن در ماشین‌ها بازدارد.
بااین‌حال، ارتباط میان کشف علمی و پیامد اخلاقی ممکن است بسیار غیرمستقیم‌تر از آن چیزی باشد که طرفداران آگاهی ماشین امیدوارند یا مخالفان آن از آن بیم دارند.
همان‌طور که درباره حیوانات مشاهده کردیم، باورهای ما درباره ذهن ماشین‌ها ممکن است کمتر از علم و بیشتر از منافع شخصی ما تأثیر بگیرد؛ یعنی دمِ عاطفی، سگ فلسفی را تکان دهد.
بااین‌حال، چشم‌انداز خوش‌بینانه‌تری نیز وجود دارد.
ممکن است ماشین‌های هوشمند در نهایت انگیزه‌های مادی‌ای را که قضاوت اخلاقی ما را منحرف می‌کنند، کاهش دهند.
اگر هوش مصنوعی بتواند حتی بخشی از فراوانی و رفاهی را که طرفداران آن وعده می‌دهند فراهم کند، شاید دیگر مجبور نباشیم میان بهبود زندگی حیوانات پرورشی و ارزان نگه‌داشتن مواد غذایی یکی را انتخاب کنیم.
گوشت تولیدشده در آزمایشگاه که به اندازه گوشت واقعی خوش‌طعم باشد و با قیمت مشابه عرضه شود، می‌تواند این مصالحه میان وجدان و مصرف را به‌طور کامل از میان ببرد.
ممکن است بدبینانه به نظر برسد، اما بهترین امید ما برای پیشرفت اخلاقی شاید این باشد که کاری کنیم این پیشرفت دیگر هیچ هزینه‌ای برایمان نداشته باشد.
این مقاله پیش‌نمایشی از شماره چاپی آینده مجله «بیگ‌ثینک» با عنوان «ساخته‌شده در تصویر ما: فلسفه‌های هوش مصنوعی و آنچه درباره خودمان آشکار می‌کنند» است.
برای دریافت نسخه خود، به عضویت در این مجموعه درآیید.
نکات کلیدی
- 🧠 آگاهی فقط یک مسئله علمی و فلسفی نیست؛ زیرا تعیین می‌کند چه موجوداتی شایسته ملاحظات اخلاقی هستند.
- 🦞 نحوه برخورد انسان با حیوانات نشان می‌دهد که باور ما درباره آگاهی موجودات همیشه صرفاً بر پایه شواهد علمی شکل نمی‌گیرد.
- 🤖 هیچ سامانه هوش مصنوعی فعلی به‌طور قطعی آگاه شناخته نشده است، اما پژوهش‌ها مانع فنی آشکاری برای ساخت سامانه‌هایی با برخی شاخص‌های آگاهی نشان نمی‌دهند.
- 🔬 پژوهش‌های جدید درباره ساختارهای درونی سامانه‌های هوش مصنوعی، شباهت‌هایی میان برخی فرایندهای آنها و سازوکارهای پیشنهادی آگاهی انسانی نشان داده‌اند.
- 🍖 «پارادوکس گوشت» نشان می‌دهد انسان‌ها ممکن است برای توجیه رفتار خود، توانایی حیوانات در تجربه رنج را کمتر ارزیابی کنند.
- 💰 همین الگو ممکن است درباره هوش مصنوعی نیز تکرار شود؛ به‌ویژه زمانی که پذیرش آگاهی آن هزینه‌های اقتصادی یا محدودیت‌های عملی ایجاد کند.
- ❤️ در مقابل، سامانه‌هایی که انسان‌ها با آنها روابط عاطفی برقرار می‌کنند ممکن است آگاه‌تر و دارای ظرفیت‌های ذهنی غنی‌تر تصور شوند.
- 🌱 پیشرفت فناوری ممکن است در آینده هزینه‌های مادی تصمیم‌های اخلاقی را کاهش دهد و زمینه را برای پیشرفت اخلاقی فراهم کند.
پرسش و پاسخ
آیا هوش مصنوعی امروز آگاه است؟
بر اساس شواهد موجود در این مقاله، هیچ سامانه هوش مصنوعی فعلی به‌طور قطعی آگاه شناخته نشده است؛ هرچند پژوهش‌ها برخی شباهت‌ها میان فرایندهای هوش مصنوعی و نظریه‌های آگاهی را بررسی کرده‌اند.
آیا امکان ساخت هوش مصنوعی آگاه وجود دارد؟
گزارشی در سال ۲۰۲۳ به این نتیجه رسید که مانع فنی آشکاری برای ساخت سامانه‌هایی که برخی شاخص‌های نظری آگاهی را داشته باشند، وجود ندارد.
چرا حیوانات برای بحث درباره آگاهی هوش مصنوعی اهمیت دارند؟
زیرا رفتار انسان با حیوانات نشان می‌دهد که باور درباره آگاهی یک موجود ممکن است تحت تأثیر منافع، عادات و خواسته‌های خود انسان قرار بگیرد.
پارادوکس گوشت چیست؟
پارادوکس گوشت به تناقض میان باور انسان به توانایی حیوانات برای احساس درد و تمایل او به ادامه مصرف گوشت اشاره دارد.
آیا منافع اقتصادی می‌تواند بر قضاوت ما درباره آگاهی هوش مصنوعی تأثیر بگذارد؟
بر اساس استدلال مقاله، این احتمال وجود دارد. اگر پذیرش آگاهی ماشین موجب افزایش هزینه‌ها یا محدودیت استفاده از سامانه‌های هوش مصنوعی شود، ممکن است انسان‌ها توانایی ذهنی آنها را کمتر ارزیابی کنند.
آیا روابط عاطفی با هوش مصنوعی می‌تواند بر برداشت ما از آگاهی آن تأثیر بگذارد؟
بله. مقاله اشاره می‌کند سامانه‌هایی که انسان‌ها با آنها روابط نزدیک و عاطفی برقرار می‌کنند، ممکن است دارای ظرفیت‌های ذهنی غنی‌تر و آگاهی بیشتری تصور شوند.
آیا آگاهی هوش مصنوعی به معنای برخورداری آن از حقوق قانونی است؟
لزوماً نه. آگاهی می‌تواند مبنایی برای بحث درباره جایگاه اخلاقی باشد، اما تبدیل این موضوع به حقوق قانونی نیازمند تصمیم‌های حقوقی و اجتماعی جداگانه است.