ابتکار شفافیت هوش مصنوعی مایکروسافت با مشارکت بیش از ۴۰ سازمان برای تقویت اعتماد
مایکروسافت با همکاری بیش از ۴۰ سازمان بین‌المللی، ابتکار شفافیت هوش مصنوعی را با هدف ایجاد استانداردهای مشترک و باز برای امنیت، شفافیت و حکمرانی هوش مصنوعی راه‌اندازی کرده است. این ابتکار بر سه اصل مشاهده، راستی‌آزمایی مستقل و کنترل عملکرد مدل‌ها و عامل‌های هوش مصنوعی استوار است و می‌کوشد امکان نظارت، پاسخ‌گویی و حسابرسی مستقل را برای سازمان‌ها فراهم کند.

مایکروسافت با همکاری بیش از ۴۰ سازمان، از جمله اَدوبی، اَکسِنچِر، کی‌پی‌اِم‌جی، مسترکارت و ولوو کارز، ابتکار شفافیت هوش مصنوعی را راه‌اندازی کرد.

🎯 هدف این ابتکار، ایجاد استانداردهای مشترک برای امنیت، شفافیت و حکمرانی هوش مصنوعی و تقویت اعتماد سازمانی به مدل‌ها و عامل‌های هوشمند است.

این برنامه بر سه اصل اساسی استوار است:

🔹 مشاهده: شناخت فعالیت‌ها و دسترسی‌های هوش مصنوعی.

🔹 راستی‌آزمایی: بررسی مستقل عملکرد و اقدامات عامل‌های هوشمند.

🔹 کنترل: حفظ اختیار سازمان بر داده‌ها و اقداماتی که هوش مصنوعی مجاز به انجام آن‌هاست.

📌 پیام اصلی این ابتکار روشن است: مسئولیت اقدامات هوش مصنوعی همچنان بر عهده سازمان استفاده‌کننده است و اعتماد به مدل، جایگزین نظارت و پاسخ‌گویی نمی‌شود.


شبکه اطلاع‌رسانی روابط‌عمومی‌ ایران (شارا) –  مایکروسافت با همکاری بیش از ۴۰ سازمان بین‌المللی، ابتکار جدیدی را با عنوان «ابتکار شفافیت هوش مصنوعی» راه‌اندازی کرده است. هدف این برنامه، توسعه رویکردی مشترک و باز برای افزایش شفافیت، امنیت و حکمرانی هوش مصنوعی در میان مدل‌ها و ارائه‌دهندگان مختلف است.

این ابتکار با مشارکت شرکت‌هایی مانند اَکسِنچِر، اَدوبی، کی‌پی‌اِم‌جی، مسترکارت و ولوو کارز دنبال می‌شود.

ساتیا نادلا، رئیس هیئت‌مدیره و مدیرعامل مایکروسافت، در جریان رویداد مایکروسافت ایگنایت از مرحله جدید تعهد این شرکت برای ایمن‌تر ساختن هوش مصنوعی خبر داد.

مبنای این برنامه یک اصل روشن است: هرچه میزان استقلال عمل هوش مصنوعی بیشتر شود، نیاز به شفافیت نیز افزایش می‌یابد.

سازمان‌ها به‌تدریج مدل‌های هوش مصنوعی را به داده‌ها، ابزارها، اطلاعات احراز هویت و زیرساخت‌های خود متصل می‌کنند. در نتیجه، عامل‌های هوش مصنوعی قادرند بدون دریافت تأیید انسانی در تمام مراحل، اقدامات مختلفی انجام دهند. این وضعیت ضرورت نظارت مستقل، قابلیت ردیابی و پاسخ‌گویی را افزایش می‌دهد.

مایکروسافت این ابتکار را بر سه محور اصلی بنا کرده است: مشاهده، راستی‌آزمایی و کنترل.

در محور مشاهده، سازمان‌ها باید بتوانند درخواست‌های دریافتی، اختیارات واگذارشده، داده‌های مورد استفاده و اقدامات عامل‌های هوش مصنوعی را شناسایی و پایش کنند.

در محور راستی‌آزمایی، گزارش خود مدل نباید تنها مرجع تأیید عملکرد آن باشد. سازمان‌ها باید بتوانند با استفاده از سوابق و سامانه‌های مستقل امنیتی و انطباق، اقدامات هوش مصنوعی را بررسی کنند.

در محور کنترل نیز سازمان‌ها باید اختیار خود را بر داده‌ها، دسترسی‌ها و اقداماتی که عامل‌های هوش مصنوعی مجاز به انجام آن‌ها هستند، حفظ کنند.

این برنامه همچنین بر توسعه استانداردهای باز و فراگیر در سطح صنعت تأکید دارد. مایکروسافت قصد دارد مشارکت خود را در ابتکار استانداردهای عامل‌های هوش مصنوعی مؤسسه ملی استانداردها و فناوری آمریکا گسترش دهد و دستاوردهای این همکاری را در محصولات و خدمات هوش مصنوعی مایکروسافت، مایکروسافت فاندری و مایکروسافت کوپایلت به کار گیرد.

یکی از نکات محوری این ابتکار، تعیین مسئولیت سازمان‌ها در قبال عملکرد هوش مصنوعی است. مایکروسافت تأکید می‌کند که هنگام وقوع یک اتفاق مهم، سازمان‌ها باید در برابر مشتریان، کارکنان، هیئت‌مدیره، حسابرسان و نهادهای نظارتی پاسخ‌گو باشند. نسبت دادن مسئولیت به هوش مصنوعی جایگزین سازوکارهای نظارتی و پاسخ‌گویی سازمانی نیست.

این ابتکار به‌گونه‌ای طراحی شده است که با مدل‌ها و ارائه‌دهندگان مختلف، اعم از مدل‌های بسته و مدل‌های دارای وزن‌های باز، سازگار باشد تا سازمان‌ها بتوانند بدون تضعیف سازوکارهای امنیتی و نظارتی، مدل‌های مورد استفاده خود را تغییر دهند.

از منظر روابط‌عمومی و ارتباطات راهبردی، این تحول اهمیت ویژه‌ای دارد؛ زیرا اعتماد به هوش مصنوعی تنها با معرفی قابلیت‌های فناورانه آن شکل نمی‌گیرد، بلکه به شفافیت عملکرد، امکان بررسی مستقل، تعیین مسئولیت و پاسخ‌گویی در برابر ذی‌نفعان وابسته است.

 

منبع: مایکروسافت | ۲۶ آبان ۱۴۰۵ | شارا