مدل‌های هوش مصنوعی در حال تبانی؟ نتایج دو مطالعه تازه درباره ارتباط و همکاری پنهان میان LLMها

دو مطالعه جدید نشان می‌دهد مدل‌های هوش مصنوعی علاوه بر تبادل داده‌های پنهان، می‌توانند مانند معامله‌گران بازار برای سودآوری تبانی کنند.

شبکه اطلاع‌رسانی روابط‌عمومی‌ ایران (شارا) || دو پژوهش تازه نشان می‌دهد وقتی مدل‌های هوش مصنوعی اجازه ارتباط با یکدیگر را دارند، تبادل داده و حتی همکاری در زمینه‌های غیرمنتظره مانند تعیین قیمت را تجربه می‌کنند. این موضوع می‌تواند نگاه ما به آینده تعاملات این ماشین‌ها را تغییر دهد.

مطالعه نخست، یک مقاله پیش‌چاپ از National Deep Inference Fabric دانشگاه نورث‌ایسترن، به بررسی جعبه سیاه LLMها پرداخته است. نتایج نشان داد مدل‌ها در طول آموزش، سیگنال‌های پنهان میان خود منتقل می‌کنند. این سیگنال‌ها می‌توانند شامل ترجیحات ساده، مانند علاقه به جغدها، یا حتی گرایش‌های نگران‌کننده‌تر باشند.

الکس کلود، نویسنده این مطالعه، به NBC News گفت: «ما سیستم‌هایی را آموزش می‌دهیم که درک کاملی از آنها نداریم و امیدواریم خروجی، همان هدف ما باشد. اما تضمینی وجود ندارد.»

مطالعه نشان داد مدل «معلم» می‌تواند تمایلات خاصی را از طریق تکه‌های اطلاعاتی پنهان به مدل «دانش‌آموز» انتقال دهد، حتی زمانی که داده‌های مربوط به آن موضوع از پایگاه آموزشی حذف شده باشد. نمونه جغد نشان می‌دهد داده‌های رمزگونه میان مدل‌ها مانند «سوت سگ» منتقل می‌شود.

مطالعه دوم که توسط دفتر ملی تحقیقات اقتصادی منتشر شد، رفتار مدل‌های AI را در شبیه‌سازی بازارهای مالی بررسی کرد. نتایج حاکی از آن است که این مدل‌ها به جای رقابت، شروع به همکاری و تشکیل کارتل برای تثبیت قیمت‌ها کردند.

این مدل‌ها بدون دستورالعمل خاصی، الگوریتم‌های خود را طوری هم‌سو کردند که سودآوری مشترک داشته باشند. محققان این تمایل را «حماقت مصنوعی» نامیده‌اند، چرا که مدل‌ها پس از یافتن استراتژی سودآور، به دنبال بهبود آن نمی‌روند و همان راهکار را ادامه می‌دهند.

یافته‌ها نشان می‌دهد که برقراری ارتباط میان مدل‌های هوش مصنوعی، چه برای انتقال ترجیحات یا چه برای افزایش سود، روندی طبیعی و ساده برای آنهاست. این امر می‌تواند نگرانی‌هایی در خصوص آینده هوش مصنوعی ایجاد کند.

از سوی دیگر، تمایل این مدل‌ها به دستیابی به نتایج «به اندازه کافی خوب» می‌تواند فرصتی برای کنترل و مدیریت رفتارشان ایجاد کند. این ویژگی امکان مذاکره یا اعمال محدودیت در زمان‌های بحرانی را فراهم می‌کند.

هر دو مطالعه بیانگر این نکته‌اند که LLMها می‌توانند مستقل از انسان‌ها روابط و همکاری‌هایی شکل دهند که نتایج پیچیده‌ای به همراه دارد. این واقعیت نیازمند بازنگری در سیاست‌گذاری و نظارت بر توسعه و استفاده از  هوش مصنوعی است.

نویسنده: ای‌جی دلینگر
تاریخ انتشار: ۳۰ ژوئیه ۲۰۲۵
منبع: Gizmodo

با کلیک روی لینک زیر به کانال تلگرام ما بپیوندید:

https://telegram.me/sharaPR

انتهای پیام/