شبکه اطلاع‌رسانی روابط‌عمومی ایران (شارا) || مطالعه‌ای جدید نشان می‌دهد که موتورهای جستجوی مبتنی بر هوش مصنوعی، مانند چت‌بات‌ها و ابزارهای جستجوگر، اغلب پاسخ‌های نادرست می‌دهند و ارجاعاتی جعلی ارائه می‌دهند.
این تحقیق، که توسط “کلمبیا ژورنالیسم ریویو” انجام شده، نشان می‌دهد که این ابزارها در بسیاری از مواقع قادر به شناسایی و ارائه اطلاعات صحیح نیستند.
بر اساس این مطالعه، بیش از 60 درصد از پاسخ‌ها نادرست بوده و در بسیاری از موارد، لینک‌های ارجاعی به صفحات خطا منتهی می‌شوند.
مطالعه مورد نظر بررسی کرد که چگونه ابزارهای هوش مصنوعی، از جمله چت‌بات‌های مختلف مانند “Grok-3” (گراک-۳) و “جمنای” (جمنی)، در پاسخ به بیش از 1600 سوال عملکرد دارند. این تحقیق همچنین نشان داد که در بیش از نیمی از موارد، این چت‌بات‌ها لینک‌های ارجاعی جعلی به کاربران می‌دهند. به‌ویژه، چت‌بات “Grok-3” (گراک-۳) با نرخ خطای 94 درصد بیشترین مشکلات را داشت و “جمنای” (جمنی) تنها در یک از ده تلاش خود به‌طور کامل پاسخ درست ارائه داد.
علاوه بر این، مطالعه نشان می‌دهد که موتورهای جستجو و چت‌بات‌ها هنگام ارائه پاسخ‌های خود، اعتماد به‌نفس بالایی در بیان اطلاعات نادرست دارند. این موضوع نگرانی‌های جدی در خصوص استفاده از مدل‌های زبانی بزرگ برای جستجو ایجاد کرده است.
این ابزارها نه تنها اطلاعات نادرست را ارائه می‌دهند بلکه گاهی اوقات به محتوای منتشر شده در منابع مختلف به‌طور نادرست ارجاع می‌دهند.
نتایج این تحقیق به‌ویژه در زمینه تولید محتوای خبری و تبلیغاتی توسط چت‌بات‌ها نگران‌کننده است. با توجه به اینکه این ابزارها قادر به تحلیل دقیق و منصفانه محتوای واقعی نیستند، باید به‌دقت استفاده شوند تا از پخش اطلاعات نادرست و گیج‌کننده جلوگیری شود.
این مطالعه به‌ویژه در زمینه مقابله با مشکلات اطلاعات نادرست در فضای آنلاین اهمیت دارد و بر لزوم ارتقای دقت و شفافیت در سیستم‌های جستجو تأکید می‌کند.
محققان به‌شدت به این نکته اشاره کردند که شفافیت در فرآیند ارائه اطلاعات توسط هوش مصنوعی بسیار مهم است و باید با دقت بیشتری کنترل شود تا از آسیب‌های احتمالی به کاربران جلوگیری گردد.
در نتیجه، استفاده از چت‌بات‌ها و موتورهای جستجوی مبتنی بر هوش مصنوعی بدون نظارت و اعتبارسنجی مناسب می‌تواند منجر به گمراهی و افزایش اطلاعات نادرست در میان کاربران شود.
نویسنده: Danny Goodwin
تاریخ انتشار: 11 مارس 2025
منبع انگلیسی: “AI search engines often make up citations and answers: Study”
منبع فارسی: شارا
انتهای پیام/