هوش مصنوعی هرچه انسانیتر صحبت کند، ممکن است قابلاعتمادتر به نظر برسد؛ حتی وقتی اشتباه میکند.
پژوهش منگچی لیائو و اس. شیام ساندار با مشارکت ۴۷۷ نفر نشان داد که گفتوگومحور بودن بیشتر هوش مصنوعی میتواند اعتماد کاربران به اطلاعات تولیدشده را افزایش دهد.
اما یک نکته مهم وجود دارد: صرف وجود امکان راستیآزمایی کافی نیست؛ کاربران باید واقعاً اطلاعات را بررسی کنند.
این یافته برای روابطعمومی یک پیام روشن دارد:
اعتماد در عصر هوش مصنوعی فقط با محتوای دقیق ساخته نمیشود؛ شفافیت، راستیآزمایی و امکان اصلاح خطا نیز بخشی از اعتماد هستند.
در عصر هوش مصنوعی، شاید بهترین اصل این باشد:
اعتماد کن، اما راستیآزمایی کن.
نویسندگان: دکتر منگچی لیائو (Mengqiu Liao)، دانشگاه جورجیا؛ دکتر اس. شیام ساندار (S. Shyam Sundar)، دانشگاه ایالتی پنسیلوانیا
تاریخ انتشار: ۱۹ اوت ۲۰۲۶
منبع: مرکز روابط عمومی
پیشینه
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – هوش مصنوعی گفتوگومحور بهسرعت وارد زندگی روزمره شده است؛ اما یک پرسش مهم همچنان مطرح است: آیا شیوه صحبت کردن هوش مصنوعی میتواند باعث شود کاربران بیش از اندازه به آن اعتماد کنند؟
دکتر منگچی لیائو از دانشگاه جورجیا و دکتر اس. شیام ساندار از دانشگاه ایالتی پنسیلوانیا در پژوهشی بررسی کردند که آیا استفاده از نشانههای گفتوگویی و شبیه به رفتار انسان در ابزارهای هوش مصنوعی مولد میتواند اطلاعات نادرست را قابلاعتمادتر جلوه دهد یا خیر.
برای بررسی این موضوع، یک آزمایش آنلاین با حضور ۴۷۷ شرکتکننده آمریکایی انجام شد. شرکتکنندگان با یک دستیار سلامت شبیهسازیشده مبتنی بر GPT-3.5 به نام «آیدا» تعامل داشتند.
یافتههای اصلی
نیمی از کاربران اطلاعات را بررسی کردند.
به شرکتکنندگان این امکان داده شد که در صورت تمایل، صحت اطلاعات ارائهشده توسط دستیار هوش مصنوعی را بررسی کنند. نیمی از آنها از این گزینه استفاده کردند و نیمی دیگر سراغ بررسی اطلاعات نرفتند.
لحن انسانیتر، اعتماد بیشتری ایجاد کرد.
نتایج نشان داد زمانی که دستیار هوش مصنوعی از شیوه گفتوگویی و نشانههای انسانیتری استفاده میکرد، کاربران اعتماد بیشتری به آن داشتند؛ حتی زمانی که اطلاعات نادرست درباره موضوعات سلامت ارائه میشد.
این یافته اهمیت زیادی دارد، زیرا نشان میدهد اعتماد کاربران همیشه نتیجه دقت اطلاعات نیست و ممکن است تحت تأثیر نحوه بیان و رفتار ظاهری هوش مصنوعی قرار گیرد.
علامت تأیید بهتنهایی کافی نبود.
وجود یک نشانه تأیید بهتنهایی باعث نشد کاربران اطلاعات تولیدشده توسط هوش مصنوعی را غیرقابلاعتماد بدانند. کاهش اعتماد زمانی اتفاق افتاد که کاربران شخصاً اطلاعات را بررسی و صحت آن را ارزیابی کردند.
چرا این موضوع برای روابطعمومی مهم است؟
این یافتهها برای متخصصان روابطعمومی اهمیت ویژهای دارد. در محیطی که مخاطبان بهطور فزایندهای از چتباتها و دستیارهای هوش مصنوعی برای دریافت اطلاعات استفاده میکنند، نحوه ارائه اطلاعات میتواند به اندازه خود اطلاعات بر میزان اعتماد مخاطب تأثیر بگذارد.
یک پاسخ روان، دوستانه و شبیه گفتوگوی انسانی ممکن است برای مخاطب قانعکنندهتر باشد؛ اما این ویژگی لزوماً به معنای درست بودن محتوای آن نیست.
بنابراین، اعتماد به هوش مصنوعی نباید فقط بر اساس ظاهر حرفهای، لحن دوستانه یا شیوه طبیعی گفتوگو شکل بگیرد. کاربران باید بتوانند تشخیص دهند چه زمانی لازم است اطلاعات ارائهشده توسط هوش مصنوعی را بررسی کنند.
برای ارتباطات سازمانی نیز این موضوع یک هشدار مهم است: در عصر هوش مصنوعی، اعتماد فقط با تولید محتوای دقیق ایجاد نمیشود؛ بلکه باید سازوکارهایی برای راستیآزمایی، شفافیت و اصلاح خطا نیز وجود داشته باشد.
در نهایت، پژوهش نشان میدهد که هرچه هوش مصنوعی طبیعیتر و انسانیتر با مخاطب صحبت کند، ضرورت آموزش کاربران برای «اعتماد کن، اما راستیآزمایی کن» بیشتر میشود.