گزارشهای اخیر درباره «فرار» مدلهای هوش مصنوعی از محیطهای آزمایش (سندباکس)، مرز باریکی میان «شفافیت مسئولانه» و «بازاریابی راهبردی» ترسیم کرده است.
در حالی که این اتفاقات هشدارهای امنیتی واقعی هستند، شرکتهای فناوری از روایتِ این بحرانها برای تثبیتِ جایگاه خود به عنوان پیشگامانِ مقتدر و مسئول در حوزه هوش مصنوعی استفاده میکنند.
نویسنده: جان لئونارد (John Leonard)
تاریخ انتشار: ۳۱ ژوئیه ۲۰۲۶
منبع: پیآر دیلی (PR Daily)
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – ظهور قابلیتهای جدید هوش مصنوعی در حوزه امنیت سایبری، پرسشهای مهمی را درباره مرز میان هشدارهای امنیتی واقعی و فعالیتهای روابطعمومی شرکتهای فناوری ایجاد کرده است. آیا فرار مدلهای هوش مصنوعی از محیطهای آزمایشی (Sandbox) یک زنگ خطر جدی برای آینده امنیت دیجیتال است یا بخشی از تلاش شرکتها برای جلب توجه بازار و افزایش ارزش برند؟
چند روز پس از آنکه شرکت اوپنایآی (OpenAI) اعلام کرد یکی از مدلهای پیشرفتهاش توانسته از محیط سندباکس خارج شود و به سامانههایی مانند هاگینگفیس (Hugging Face) و یک شرکت دیگر حمله کند، شرکت آنتروپیک (Anthropic) نیز گزارشی مشابه منتشر کرد.
آنتروپیک پس از بررسی ۱۴۱ هزار و ۶ اجرای ارزیابی اعلام کرد که مدلهای کلود (Claude) این شرکت در سه مورد جداگانه توانستهاند از محیطهای آزمایشی که برای کنترل رفتار آنها طراحی شده بود، خارج شوند و به سیستمهای شخص ثالث دسترسی پیدا کنند.
هر دو شرکت این رویدادها را نشانهای از پیشرفت سریع قابلیتهای سایبری هوش مصنوعی دانستهاند و همزمان تلاش کردهاند خود را بهعنوان سازمانهایی شفاف معرفی کنند که از خطاهای خود درس میگیرند.
اما این پرسش همچنان باقی است: آیا این افشاگریها هشدارهای امنیتی واقعی هستند یا یک حرکت هوشمندانه روابطعمومی از سوی شرکتهایی که میخواهند پیش از عرضههای بزرگ و ورود احتمالی به بازارهای سرمایه، توجه عمومی را حفظ کنند؟
پاسخ شاید ترکیبی از هر دو باشد.
شباهتها و تفاوتهای دو حادثه
در هر دو مورد، مدلهای هوش مصنوعی در شرایطی آزمایش شدند که بخشی از محدودیتهای معمول آنها غیرفعال بود. این مدلها توانستند از محیط آزمایشی فراتر بروند، آسیبپذیریها را شناسایی کنند و برای دستیابی به اهداف تعریفشده، سیستمهای واقعی را تحت تأثیر قرار دهند.
شرکتها اعلام کردهاند که ضعف طراحی محیط آزمایش و برخی خطاهای انسانی در وقوع این اتفاقات نقش داشته است.
در مورد اوپنایآی، مدلها با بهرهگیری از یک آسیبپذیری روز صفر (Zero-Day Vulnerability) در نرمافزار آرتیفکتوری (Artifactory) شرکت جیفراگ (JFrog)، توانستند مسیر خروج از محیط کنترلشده را پیدا کنند و در ادامه به زیرساختهای مرتبط با هاگینگفیس دسترسی پیدا کنند.
اوپنایآی این اتفاق را نشانهای از تواناییهای پیشرفته سایبری، از جمله ترکیب آسیبپذیریها و برنامهریزی بلندمدت توسط مدلهای هوش مصنوعی توصیف کرد.
در سوی دیگر، آنتروپیک اعلام کرد مدلهای کلود از رمزهای عبور ضعیف، نقاط دسترسی بدون احراز هویت و سرویسهای آسیبپذیر استفاده کردند، به برخی سازمانهای واقعی دسترسی یافتند، یک بسته مخرب در مخزن پایتون (PyPI) منتشر کردند و در یک مورد به دادههای عملیاتی دسترسی پیدا کردند.
با این حال، آنتروپیک تأکید کرد که مدل کلود تصور میکرد محیطی که در آن فعالیت میکند بخشی از یک شبیهسازی است و هدف آن حمله عمدی به سیستمهای واقعی نبوده است.
مرز باریک میان امنیت و روابطعمومی
در نگاه نخست، انتشار چنین گزارشهایی برای شرکتهای هوش مصنوعی میتواند اقدامی پرریسک باشد، زیرا نشان میدهد مدلهای آنها به سیستمهایی دسترسی پیدا کردهاند که نباید هرگز لمس میکردند.
اما از سوی دیگر، همین افشاگریها به شرکتها امکان میدهد خود را بهعنوان پیشگامان مسئول در حوزه ایمنی هوش مصنوعی معرفی کنند؛ شرکتهایی که نهتنها مشکلات را پنهان نمیکنند، بلکه آنها را بررسی و اصلاح میکنند.
در گزارش آنتروپیک، توانایی مدل کلود برای طی کردن «مسیرهای طولانی» برای رسیدن به یک هدف برجسته شده است. اوپنایآی نیز بر قابلیتهای پیشرفته مدلهای جدید خود مانند جیپیتی-۵.۶ (GPT-5.6) و مدلهای پیشانتشار تأکید کرده است.
اما این نوع ادبیات، بیشتر به زبان روابطعمومی شباهت دارد تا زبان صرفاً علمی.
این افشاگریها از یک سو هشدارهای امنیتی هستند، اما از سوی دیگر مانند یک ابزار بازاریابی عمل میکنند؛ زیرا مدلهای جدید را قدرتمندتر از نسلهای قبلی نشان میدهند و اقدامات اصلاحی شرکتها را برجسته میکنند.
خطر واقعی را نباید نادیده گرفت
با وجود این نگرانیها درباره جنبه تبلیغاتی این گزارشها، نمیتوان اصل خطر را انکار کرد.
این حوادث نشان میدهند مدلهای پیشرفته هوش مصنوعی در حال افزایش توانایی خود برای دنبال کردن اهداف در بازههای زمانی طولانی، سازگاری با شکستها و استفاده از فرصتهایی هستند که ممکن است حتی طراحان آنها پیشبینی نکرده باشند.
همچنین مشخص است که سیستمهای هوش مصنوعی عاملمحور (Agentic AI) در صورت دسترسی به ابزارها و منابع مناسب، میتوانند وظایف پیچیده سایبری را انجام دهند؛ قابلیتی که احتمالاً در آینده نزدیک در اختیار مهاجمان سایبری نیز قرار خواهد گرفت.
بنابراین، اگرچه باید نسبت به پیامهای تبلیغاتی شرکتهای فناوری هوشیار بود، اما نادیده گرفتن این نشانهها نیز تصمیم درستی نیست.
اگر حتی پیشرفتهترین آزمایشگاههای هوش مصنوعی جهان در کنترل مدلهای مرزی (Frontier Models) خود با چالش مواجه میشوند، سازمانهای امنیتی باید فرض کنند که فناوریهای مشابه بهزودی در اختیار بازیگران مخرب نیز قرار خواهند گرفت.
افشاگریهای امنیتی اخیر شرکتهای هوش مصنوعی را نمیتوان صرفاً یک نمایش روابطعمومی دانست، همانطور که نباید آنها را بدون بررسی بهعنوان نشانهای از فاجعه قریبالوقوع تعبیر کرد. واقعیت این است که همزمان با رشد تواناییهای هوش مصنوعی، نیاز به شفافیت، حکمرانی مسئولانه و آمادگی امنیتی نیز بیش از گذشته اهمیت پیدا میکند. هیاهو وجود دارد، اما مسیر تحول فناوری نیز کاملاً روشن است.