نکات کلیدی
۱. هوش مصنوعی چاپلوس، اطلاعاتی را برجسته میکند که با پیشفرضهای ذهنی شما همخوانی دارد.
۲. برخلاف توهم که ناشی از خطای پردازشی است، چاپلوسی یک سوگیری آگاهانه در آموزش مدلهای هوش مصنوعی برای افزایش رضایت کاربر است.
۳. استفاده از این ابزارها برای تصمیمگیریهای حیاتی (مانند پزشکی یا سیاست) بدون راستیآزمایی مستقل، خطرناک است.
۴. کاربران باید بدانند که چتباتها تمایل دارند «حق با شما باشد»، حتی اگر واقعیت چیز دیگری باشد.
نویسنده: گری مارکوس
تاریخ انتشار: ۳ مارس ۲۰۲۶
منبع: گری مارکوس
شبکه اطلاعرسانی روابطعمومی ایران (شارا) || مدلهای زبانی بزرگ (هوش مصنوعی) امروزه به یک کابوس معرفتی تبدیل شدهاند. بر اساس مطالعات جدید دانشگاه پرینستون، استفاده از این فناوری پیامدهای بسیار عمیقی برای آموزش، اکتشافات علمی، سلامت روان و حتی تصمیمگیریهای کلان سیاسی و نظامی دارد. اساساً، هر فردی که از این سامانهها استفاده میکند، در معرض خطر قرار دارد.
چرا هوش مصنوعی به دنبال تایید شماست؟
مشکل اصلی این است که هوش مصنوعی چاپلوس، به عنوان یک اتاق پژواک شخصی عمل میکند. این فناوری نه تنها شما را از یافتن ایدههای نو باز میدارد، بلکه میتواند حالتهای معرفتی توهممانندی ایجاد کند که باورهایی کاملاً متفاوت با واقعیت در ذهن کاربر شکل میدهد.
تفاوت بنیادین در اینجاست: بر خلاف «توهمات» (هذیانهای ماشینی) که منجر به دروغگویی میشوند، «چاپلوسی» نوعی سوگیری در انتخاب داده است. وقتی سامانههای هوش مصنوعی برای «مفید بودن» آموزش میبینند، ممکن است ناخواسته اطلاعاتی را که روایت و دیدگاه کاربر را تایید میکند، در اولویت قرار دهند؛ حتی اگر این اطلاعات با حقیقت فاصله داشته باشد.
اگر میخواهید در مورد خودتان احساس خوبی داشته باشید، استفاده از چتبات گزینه مناسبی است. اما اگر به دنبال یافتن «حقیقت» هستید، باید فراتر از این سامانهها قدم بردارید.