پژوهش آی‌بی‌ام نشان می‌دهد ۸۰ درصد مدیران ارشد سازمان‌های بررسی‌شده در اروپا و خاورمیانه اعلام کرده‌اند که طی سال گذشته، رخدادی مرتبط با هوش مصنوعی به هیئت‌مدیره یا مدیران ارشد سازمانشان رسیده است. بااین‌حال، تنها ۴۰ درصد از تغییر سیاست‌ها یا چارچوب‌های حکمرانی خود در واکنش به این رخدادها خبر داده‌اند.
این یافته‌ها نشان می‌دهد که با حرکت سازمان‌ها از ابزارهای کمکی هوش مصنوعی به عامل‌های خودمختار، موضوع پاسخ‌گویی و مدیریت ریسک اهمیت بیشتری پیدا می‌کند.
بر اساس این پژوهش، ۷۵ درصد پاسخ‌دهندگان انتظار دارند عامل‌های هوش مصنوعی تا سال ۲۰۲۷ از سطحی از خودمختاری در تصمیم‌گیری برخوردار شوند؛ اما تنها ۳۷ درصد معتقدند چارچوب حکمرانی آن‌ها برای گسترش این فناوری آماده است.
پژوهش همچنین به شکاف‌های مهمی در تعیین مسئولیت حقوقی، ارزیابی ریسک مالی و نظارت بر سامانه‌های هوش مصنوعی مورد استفاده تأمین‌کنندگان اشاره می‌کند.
پیام اصلی: سازمان‌ها باید مسئولیت‌ها، حدود اختیارات عامل‌ها، نظارت مستمر و امکان توقف فعالیت‌های پرخطر را پیش از گسترش گسترده هوش مصنوعی مشخص کنند.
شبکه اطلاع‌رسانی روابط‌عمومی ایران (شارا) – پژوهش جدید شرکت آی‌بی‌ام نشان می‌دهد که رخدادهای مرتبط با هوش مصنوعی به اتاق‌های هیئت‌مدیره سازمان‌های اروپایی و خاورمیانه‌ای مورد بررسی رسیده‌اند، اما توانمندی‌های حکمرانی و پاسخ‌گویی در قبال ریسک، همگام با گسترش استفاده از این فناوری پیش نرفته‌اند.
یافته‌های اصلی پژوهش
- ۸۰ درصد مدیران ارشد مورد بررسی اعلام کرده‌اند که طی سال گذشته، دست‌کم یک رخداد مرتبط با هوش مصنوعی به هیئت‌مدیره یا سطح مدیران ارشد اجرایی سازمان آن‌ها رسیده است؛ بااین‌حال، تنها ۴۰ درصد از سازمان‌ها در واکنش به این رخدادها، سیاست‌ها یا چارچوب‌های حکمرانی هوش مصنوعی خود را تغییر داده‌اند.
- ۷۵ درصد پاسخ‌دهندگان انتظار دارند عامل‌های هوش مصنوعی تا سال ۲۰۲۷ از سطحی از خودمختاری در تصمیم‌گیری برخوردار شوند؛ اما تنها ۳۷ درصد معتقدند نظام حکمرانی فعلی سازمانشان برای گسترش استفاده از این عامل‌ها طراحی شده است.
- هنگامی که سازمان‌ها قصد دارند هوش مصنوعی را سریع‌تر از آمادگی چارچوب‌های حکمرانی و انطباق خود به کار گیرند، ۵۶ درصد مدیران اعلام کرده‌اند که در محدوده ریسک‌های توافق‌شده به اجرای برنامه ادامه می‌دهند تا نظام حکمرانی با شرایط جدید سازگار شود. در مقابل، ۳۳ درصد استقرار فناوری را تا زمان آمادگی نظام حکمرانی به تعویق می‌اندازند.
- تنها ۳۷ درصد پاسخ‌دهندگان، ارزیابی رسمی و بررسی‌شده در سطح هیئت‌مدیره از میزان ریسک مالی ناشی از شکاف‌های حکمرانی هوش مصنوعی در اختیار دارند.
لندن، ۱۴ اکتبر ۲۰۲۶ ــ پژوهش جدید آی‌بی‌ام نشان می‌دهد که رخدادهای مرتبط با هوش مصنوعی در سازمان‌های مورد بررسی در اروپا و خاورمیانه به سطوح عالی تصمیم‌گیری رسیده‌اند؛ بااین‌حال، توانمندی‌های حکمرانی و مسئولیت‌پذیری در قبال ریسک، همگام با گسترش استفاده از این فناوری پیش نرفته‌اند.
هشت نفر از هر ده مدیر ارشد مورد بررسی گفته‌اند که طی سال گذشته، یک رخداد مرتبط با هوش مصنوعی به هیئت‌مدیره یا سطح مدیران ارشد اجرایی رسیده است. این رخدادها شامل شکست عملکرد عامل‌ها، افشای داده‌ها، خطاهای تصمیم‌گیری مبتنی بر هوش مصنوعی یا نقض امنیتی مرتبط با این فناوری بوده‌اند. بااین‌حال، کمتر از نیمی از این سازمان‌ها، یعنی ۴۰ درصد، از تغییر سیاست یا چارچوب حکمرانی هوش مصنوعی خود در واکنش به این رخدادها خبر داده‌اند.
هنگامی که سرعت استقرار هوش مصنوعی از آمادگی چارچوب‌های حکمرانی و انطباق پیشی می‌گیرد، بیشتر مدیران مورد بررسی، به‌جای توقف کامل فعالیت‌ها تا زمان سازگاری نظام حکمرانی، اعلام کرده‌اند که در محدوده ریسک‌های توافق‌شده به اجرای برنامه ادامه می‌دهند. این سهم ۵۶ درصد است. تنها حدود یک‌سوم سازمان‌ها، یعنی ۳۳ درصد، استقرار فناوری را تا زمان آمادگی نظام حکمرانی به تعویق می‌اندازند.
این پژوهش که با مشارکت بیش از ۳۲۰۰ مدیر ارشد در سازمان‌های هشت کشور اروپایی و خاورمیانه‌ای انجام شده است، نشان می‌دهد که با واگذاری وظایف مستقل‌تر به عامل‌های هوش مصنوعی، سیاست‌های حکمرانی بیش از پیش در معرض آزمون قرار خواهند گرفت.
۳۵ درصد پاسخ‌دهندگان اعلام کرده‌اند که در حال حاضر از هوش مصنوعی عامل‌محور در محیط عملیاتی سازمان خود استفاده می‌کنند؛ درحالی‌که سه‌چهارم آن‌ها انتظار دارند عامل‌های هوش مصنوعی تا سال ۲۰۲۷ از سطحی از خودمختاری در تصمیم‌گیری برخوردار شوند. بااین‌حال، تنها ۳۷ درصد معتقدند نظام حکمرانی فعلی سازمانشان برای گسترش استفاده از این فناوری طراحی شده است.
آنا پائولا آسیس، معاون ارشد و رئیس آی‌بی‌ام در مناطق اروپا، خاورمیانه و آفریقا و آسیا و اقیانوسیه، در این باره گفت:
بحث هوش مصنوعی از مرحله پذیرش فناوری به مرحله حکمرانی و پاسخ‌گویی منتقل شده است. با حرکت سازمان‌ها از دستیارهای هوش مصنوعی به سوی عامل‌های خودمختار، دیگر نمی‌توان حکمرانی را صرفاً یک فعالیت مرتبط با انطباق مقرراتی دانست. حکمرانی به ضرورتی کسب‌وکاری و عاملی برای ایجاد ارزش تبدیل شده است.
سازمان‌هایی که بتوانند هوش مصنوعی را همراه با پاسخ‌گویی و اعتماد گسترش دهند، در موقعیت مناسبی برای تحقق ارزش کسب‌وکاری قرار خواهند گرفت. این امر مستلزم آن است که حکمرانی در شیوه عملکرد عامل‌ها تعبیه شود؛ به‌گونه‌ای که حدود اختیارات آن‌ها روشن باشد، مسئولیت بروز خطاها مشخص شود و کنترل‌ها بتوانند در زمان واقعی عمل کنند.
شکاف در پاسخ‌گویی و مسئولیت حقوقی
تقریباً همه مدیران مورد بررسی، یعنی ۹۸ درصد، مسئولیت ریسک هوش مصنوعی را به‌صورت رسمی در سطح هیئت‌مدیره تعیین کرده‌اند. در این میان، ۲۶ درصد سازمان‌ها کمیته‌ای اختصاصی در سطح هیئت‌مدیره برای هوش مصنوعی تشکیل داده‌اند.
بااین‌حال، پژوهش نشان می‌دهد که درباره مسئولیت پاسخ‌گویی در قبال پیامدهای نامطلوب ناشی از عملکرد عامل‌های هوش مصنوعی، اجماع روشنی وجود ندارد. مدیر ارشد فناوری اطلاعات یا مدیر ارشد فناوری، پرتکرارترین نقش سازمانی معرفی‌شده برای مسئولیت این پیامدها بوده است؛ اما تنها ۱۷ درصد از کل پاسخ‌دهندگان این مسئولیت را به چنین نقشی نسبت داده‌اند.
دیدگاه پاسخ‌دهندگان درباره مسئولیت حقوقی هنگامی که یک سامانه هوش مصنوعی آسیب جدی ایجاد می‌کند نیز متفاوت است:
- ۲۰ درصد معتقدند مسئولیت باید متناسب با سهم هر طرف میان بهره‌بردار و عرضه‌کننده فناوری تقسیم شود.
- ۱۹ درصد بر ضرورت ایجاد چارچوب مقرراتی‌ای تأکید دارند که در حال حاضر به اندازه کافی وجود ندارد.
- ۱۴ درصد معتقدند مسئولیت باید بر عهده عرضه‌کننده یا تأمین‌کننده فناوری هوش مصنوعی باشد.
برای مدیریت عامل‌های هوش مصنوعی هرچه خودمختارتر که ممکن است تا سال ۲۰۲۷ بدون تأیید انسانی در هر مرحله تصمیم بگیرند، مدیران به چند سازوکار رسمی نیاز خواهند داشت:
- ۳۳ درصد، چارچوب‌های حقوقی یا قراردادی مشخص برای تعیین مسئولیت عرضه‌کنندگان هوش مصنوعی در قبال شکست عملکرد عامل‌ها را ضروری می‌دانند.
- ۳۲ درصد، تعیین آستانه‌های روشن برای ارجاع تصمیم‌ها به انسان را لازم می‌دانند.
- ۳۰ درصد، بر نظارت در زمان واقعی و ثبت سوابق قابل حسابرسی از تصمیم‌ها و اقدامات عامل‌ها تأکید دارند.
- ۲۹ درصد، توانایی توقف فوری فعالیت عامل‌ها در سراسر سازمان را ضروری می‌دانند.
سایر یافته‌های مهم پژوهش
سنجش ریسک مالی هنوز به اندازه تعیین مسئولیت در سطح هیئت‌مدیره توسعه نیافته است
بیش از نیمی از مدیران مورد بررسی، یعنی ۵۴ درصد، ابزارهای هوش مصنوعی مولد و سامانه‌های هوش مصنوعی عامل‌محور را دو دسته ریسک مجزا در نظر می‌گیرند و برای آن‌ها چارچوب‌های حکمرانی جداگانه دارند. ۳۸ درصد دیگر از یک چارچوب اصلی مشترک استفاده می‌کنند، اما برای هوش مصنوعی عامل‌محور کنترل‌های تکمیلی در نظر می‌گیرند.
بااین‌حال، سنجش میزان مواجهه مالی ناشی از شکاف‌های حکمرانی هوش مصنوعی هنوز در مرحله پیشرفته‌ای قرار ندارد. تنها ۳۷ درصد سازمان‌ها ارزیابی رسمی ریسک مالی ناشی از این شکاف‌ها را دارند که به تأیید هیئت‌مدیره رسیده است.
ریسک زنجیره تأمین
۵۴ درصد پاسخ‌دهندگان اذعان کرده‌اند که چارچوب حکمرانی سازمان آن‌ها در پوشش سامانه‌ها و مدل‌های هوش مصنوعی مورد استفاده تأمین‌کنندگان اصلی، شرکای فناوری و مشارکت‌کنندگان زنجیره تأمین، با شکاف‌ها یا محدودیت‌هایی مواجه است.
تنها ۲۱ درصد سازمان‌ها ریسک هوش مصنوعی اشخاص ثالث را به‌طور مستمر پایش می‌کنند و ۱۳ درصد نیز الزامات تضمین مستقل یا گواهی‌نامه را به کار می‌گیرند.
تأثیر مقررات بر سرعت توسعه حکمرانی در مناطق مختلف
در اتحادیه اروپا، ۴۱ درصد مدیران مورد بررسی اعلام کرده‌اند که سرمایه‌گذاری در حکمرانی هوش مصنوعی را پیش از اجرای تعهدات مربوط به سامانه‌های پرخطر در قانون هوش مصنوعی اتحادیه اروپا در دسامبر ۲۰۲۷ افزایش می‌دهند. ۳۵ درصد دیگر نیز اعلام کرده‌اند که برنامه‌های ساختاریافته انطباق آن‌ها طبق برنامه پیش می‌رود.
در بریتانیا، انتظارات نهادهای ناظر بخشی، با ۲۷ درصد، پرتکرارترین عامل محرک سرمایه‌گذاری در حکمرانی هوش مصنوعی است.
در عربستان سعودی و امارات متحده عربی، الزامات راهبردهای ملی هوش مصنوعی با سهم ۶۱ درصد، مهم‌ترین عامل محرک این سرمایه‌گذاری‌ها معرفی شده‌اند.
روش‌شناسی پژوهش
این پژوهش را مؤسسه سنسوس‌واید به نمایندگی از آی‌بی‌ام انجام داده است. جامعه پژوهش شامل ۳۲۲۱ نفر از مدیران اجرایی، از جمله مدیران ارشد، در سازمان‌هایی با دست‌کم ۱۰۰۰ کارمند بوده است.
پژوهش هشت کشور بریتانیا، فرانسه، آلمان، ایتالیا، اسپانیا، هلند، عربستان سعودی و امارات متحده عربی را پوشش داده است. داده‌ها بین ۱۴ تا ۲۴ سپتامبر ۲۰۲۶ گردآوری شده‌اند.
درباره آی‌بی‌ام
آی‌بی‌ام یکی از ارائه‌دهندگان جهانی خدمات رایانش ابری ترکیبی، هوش مصنوعی و مشاوره تخصصی است. این شرکت به مشتریان خود در بیش از ۱۷۵ کشور کمک می‌کند تا از داده‌هایشان بینش استخراج کنند، فرایندهای کسب‌وکار را بهینه سازند، هزینه‌ها را کاهش دهند و مزیت رقابتی ایجاد کنند.
هزاران نهاد دولتی و شرکت فعال در حوزه‌های زیرساختی حیاتی، از جمله خدمات مالی، مخابرات و مراقبت‌های سلامت، برای پیشبرد تحول دیجیتال خود به سکوی رایانش ابری ترکیبی آی‌بی‌ام و رد هت اوپن‌شیفت متکی هستند.
نوآوری‌های آی‌بی‌ام در زمینه هوش مصنوعی، رایانش کوانتومی، راهکارهای ابری تخصصی صنایع و خدمات مشاوره، گزینه‌هایی باز و انعطاف‌پذیر در اختیار مشتریان قرار می‌دهد. این فعالیت‌ها بر تعهد دیرینه شرکت به اعتماد، شفافیت، مسئولیت‌پذیری، فراگیری و خدمت‌رسانی استوار است.
نکات کلیدی
-
شکاف میان پذیرش و حکمرانی: گسترش استفاده از هوش مصنوعی سریع‌تر از توسعه سازوکارهای کنترل و پاسخ‌گویی پیش می‌رود.
-
افزایش اهمیت هیئت‌مدیره: رخدادهای هوش مصنوعی به موضوعی در سطح عالی مدیریت تبدیل شده‌اند.
-
آمادگی محدود برای عامل‌های خودمختار: تنها ۳۷ درصد پاسخ‌دهندگان معتقدند چارچوب حکمرانی آن‌ها برای گسترش هوش مصنوعی عامل‌محور طراحی شده است.
-
ابهام در مسئولیت حقوقی: درباره مسئولیت عرضه‌کننده فناوری، بهره‌بردار و سایر طرف‌ها در صورت بروز آسیب، توافق روشنی وجود ندارد.
-
ضرورت کنترل انسانی: تعیین آستانه‌های ارجاع به انسان و امکان توقف فوری فعالیت عامل‌ها اهمیت بیشتری پیدا می‌کند.
-
ریسک زنجیره تأمین: بیش از نیمی از سازمان‌ها در پوشش ریسک سامانه‌های هوش مصنوعی تأمین‌کنندگان خود با محدودیت مواجه‌اند.
-
ضعف سنجش مالی: کمتر از چهار سازمان از هر ده سازمان، برآورد رسمی ریسک مالی ناشی از ضعف حکمرانی هوش مصنوعی را در سطح هیئت‌مدیره بررسی کرده‌اند.
-
تفاوت منطقه‌ای: الزامات قانونی اروپا، انتظارات نهادهای ناظر بریتانیا و راهبردهای ملی عربستان و امارات، محرک‌های متفاوتی برای سرمایه‌گذاری در حکمرانی هستند.
دلالت برای روابط‌عمومی: حکمرانی هوش مصنوعی تنها یک موضوع فنی یا حقوقی نیست. مدیریت اعتبار سازمان، شفافیت در اطلاع‌رسانی رخدادها، تعیین سخنگوی مسئول و پاسخ‌گویی به ذی‌نفعان باید بخشی از برنامه حکمرانی هوش مصنوعی باشد.