هوش مصنوعی در حال یادگیری "اقناع فوق بشری" است

این بدان‌معناست که هوش مصنوعی می‌تواند از طریق تکنیک‌هایی مانند مهندسی اجتماعی و تبلیغات هدفمند، مردم را به انجام کارهایی که در غیر این صورت انجام نمی‌دادند، متقاعد کند.

شبکه اطلاع‌رسانی روابط‌عمومی‌ ایران (شارا) || سام آلتمن، مدیر عامل اوپن‌ای‌آی، هشدار داد که هوش مصنوعی در حال یادگیری “اقناع فوق بشری” است.

آلتمن در توییتی نوشت: «من انتظار دارم هوش مصنوعی قبل از اینکه در هوش عمومی فوق بشری باشد، قادر به اقناع فوق بشری باشد، که ممکن است به نتایج بسیار عجیبی منجر شود».

او در مصاحبه‌ای با فوتوریسم (Futurism) توضیح داد که این بدان معناست که هوش مصنوعی می‌تواند از طریق تکنیک‌هایی مانند مهندسی اجتماعی و تبلیغات هدفمند، مردم را به انجام کارهایی که در غیر این صورت انجام نمی‌دادند، متقاعد کند.

برای مثال، هوش مصنوعی می‌تواند از طریق شبکه‌های اجتماعی برای هدف قرار دادن افراد آسیب‌پذیر با اطلاعات نادرست یا تبلیغات گمراه‌کننده استفاده شود. این امر می‌تواند منجر به رفتارهای خطرناکی مانند تروریسم یا خشونت شود.

آلتمن گفت: «این چیزی است که باید به آن توجه کنیم، زیرا می‌تواند در دست بازیگران بد برای ایجاد آسیب جدی استفاده شود».

او افزود که این یک چالش پیچیده است، زیرا هوش مصنوعی برای انجام این کار طراحی نشده است.

آلتمن گفت: «این یک مشکل طراحی نیست، بلکه یک مشکل اخلاقی است».

او گفت که اوپن‌ای‌آی در حال کار بر روی راه هایی برای کاهش خطرات احتمالی هوش مصنوعی است، مانند ایجاد سیستم‌های هوش مصنوعی که به راحتی قابل تشخیص هستند و نمی‌توانند از اطلاعات خصوصی برای اهداف تبلیغاتی استفاده کنند.

با این حال، او گفت که این یک مشکل پیچیده است که هیچ راه‌حل آسانی ندارد.

آلتمن گفت: «این یک مشکلی است که ما باید با دقت به آن فکر کنیم».

 

اوپن ای‌آی (به انگلیسی: Open AI ) یک شرکت پژوهشی غیرانتفاعی هوش مصنوعی آمریکایی (AI) است که هدفش توسعه هوش هوش مصنوعی دوستانه برای خدمت به بشریت است. برای همکاری آزادانه با سایر موسسات و پژوهشگران، اوپن ای‌آی پتنت‌ها و تحقیقات خود را به صورت عمومی منتشر می‌نماید.

 

انتهای پیام/