چند تن از شناخته‌شده‌ترین چهره‌های صنعت هوش مصنوعی، از جمله داریو آمودی، سم آلتمن و ایلان ماسک، درباره ضرورت کاهش سرعت توسعه این فناوری و افزایش توجه به ایمنی موضع مشابهی گرفته‌اند. پیشنهادها از حضور ارزیابان مستقل در آزمایشگاه‌های پیشرو و ایجاد استانداردهای مشترک ایمنی تا آزمایش مدل‌ها پیش از عرضه و محدود کردن برخی کاربردهای خطرناک را دربرمی‌گیرد.
با این حال، رقابت میان آمریکا و چین، انگیزه‌های اقتصادی، رقابت میان شرکت‌ها و اختلاف‌نظر درباره نقش دولت‌ها، اجرای یک توافق هماهنگ جهانی را دشوار می‌کند. از این رو، مسئله اصلی فقط رسیدن به توافق درباره ایمنی نیست؛ بلکه ایجاد سازوکاری است که بتواند این توافق را به استانداردهای قابل‌اجرا تبدیل کند.
شبکه اطلاع‌رسانی روابط‌عمومی ایران (شارا) – چهره‌های پیشرو صنعت هوش مصنوعی به‌ندرت بر سر موضوعی اتفاق نظر دارند؛ به همین دلیل، توافق اخیر شماری از مدیران و رهبران این صنعت درباره ضرورت کاهش سرعت توسعه هوش مصنوعی، توجه زیادی را به خود جلب کرده است.
داریو آمودی از شرکت آنتروپیک، سم آلتمن از اوپن‌ای‌آی، ایلان ماسک از شرکت‌های فعال در حوزه هوش مصنوعی و دیگر چهره‌های شناخته‌شده این صنعت طی روزهای اخیر گفته‌اند که روند توسعه هوش مصنوعی باید کندتر شود. این اتفاق پس از آن رخ داد که یکی از پژوهشگران حوزه ایمنی در آنتروپیک، با هشدار درباره تهدیدهای احتمالی این فناوری برای بشریت، از این شرکت کناره‌گیری کرد.
با این حال، موانع مهمی بر سر راه اجرای چنین رویکردی وجود دارد؛ از رقابت داخلی و جهانی گرفته تا انگیزه‌های اقتصادی و اختلاف‌نظر دولت آمریکا درباره نحوه تنظیم این فناوری.
نیک ریس، مدیر پیشین سیاست‌های فناوری‌های نوظهور در وزارت امنیت داخلی آمریکا و استاد دانشگاه نیویورک، معتقد است این شرایط می‌تواند صنعت را وادار کند درباره تعریف «موفقیت» در هوش مصنوعی بازنگری کند.
او برای توضیح دیدگاه خود، صنعت هوایی را مثال می‌زند و می‌گوید در این صنعت، موفقیت فقط به سرعت یا تعداد پروازها وابسته نیست؛ بلکه پرواز به‌موقع و بدون حادثه نیز بخشی اساسی از موفقیت محسوب می‌شود. به گفته او، جامعه سقوط هواپیماهای تجاری را نمی‌پذیرد، اما در حوزه هوش مصنوعی هنوز شکست‌های مهم را تا حد زیادی تحمل می‌کند.
رهبران فناوری از کاهش سرعت توسعه هوش مصنوعی چه می‌خواهند؟
در نگاه نخست، شرکت‌های پیشرو هوش مصنوعی می‌توانند سرعت توسعه مدل‌های خود را کاهش دهند؛ اما بخش مهمی از پیشرفت این فناوری حاصل رقابت شرکت‌ها برای ساخت مدل‌های قدرتمندتر است.
این رقابت همچنین با سیاست‌های دولت آمریکا پیوند خورده است. دولت این کشور تلاش می‌کند برتری ایالات متحده در حوزه هوش مصنوعی نسبت به چین حفظ شود. از سوی دیگر، برخی شرکت‌های بزرگ هوش مصنوعی نیز برای جذب سرمایه و ورود به بازارهای مالی در حال رقابت هستند؛ هرچند اوپن‌ای‌آی اعلام کرده است که فعلاً قصد ندارد در سال جاری وارد فرایند عرضه عمومی سهام شود تا بتواند به تلاش‌های خود در زمینه ایمنی ادامه دهد.
به همین دلیل، پیشنهادهای مطرح‌شده از سوی مدیران صنعت عمدتاً بر همکاری میان شرکت‌ها و در برخی موارد، دخالت و تنظیم‌گری دولت‌ها استوار است.
داریو آمودی، مدیرعامل آنتروپیک، اخیراً مقاله‌ای مفصل منتشر کرده و در آن طرحی برای کاهش سرعت توسعه هوش مصنوعی پیشرفته ارائه داده است.
یکی از پیشنهادهای او این است که شرکت‌های پیشرو هوش مصنوعی، که معمولاً «آزمایشگاه‌های مرزی» نامیده می‌شوند، به ارزیابان مستقل خارجی امکان دسترسی مستمر و مشابه دسترسی کارکنان شرکت بدهند. بر اساس این پیشنهاد، تیم‌های ارزیابی می‌توانند در محل شرکت حضور داشته باشند و با دسترسی به امکانات مورد نیاز، بر روندهای ایمنی نظارت کنند.
آمودی اعلام کرده است که آنتروپیک به‌صورت یک‌جانبه به اجرای این پیشنهاد متعهد شده است. سم آلتمن نیز این ایده را مثبت ارزیابی کرده و گفته است اوپن‌ای‌آی نیز از چنین رویکردی پیروی خواهد کرد.
آلتمن همچنین از ایجاد یک چارچوب فدرال برای تعیین استانداردهای ایمنی هوش مصنوعی پیشرفته حمایت کرده است. با این حال، او گفته است شرکت‌ها برای پرداختن به موضوع ایمنی نباید منتظر تصویب قوانین یا دریافت معافیت‌های ضدانحصاری بمانند.
پیشنهاد آمودی همچنین خواستار مداخله و تنظیم‌گری دولت و همکاری میان شرکت‌های پیشرو هوش مصنوعی با حمایت دولت آمریکا و دیگر کشورهای دموکراتیک است. هدف این همکاری، ایجاد استانداردهای مشترک ایمنی و تعیین محدودیت‌هایی برای میزان پیشرفت کنترل‌نشده هوش مصنوعی عنوان شده است.
او همچنین از همکاری میان آمریکا و دیگر کشورها برای گفت‌وگو با دولت‌های اقتدارگرا سخن گفته و در عین حال، دشواری همکاری با چین را نیز مورد توجه قرار داده است.
از ممنوعیت کاربردهای خطرناک تا توقف توسعه
آمودی چند سطح از توافق احتمالی میان دولت‌ها را مطرح کرده است. به گفته او، عملی‌ترین سطح توافق می‌تواند ممنوعیت برخی کاربردهای محدود اما آشکارا خطرناک هوش مصنوعی باشد؛ برای مثال، استفاده از این فناوری برای تولید سلاح‌های زیستی یا کمک به کاربران برای انجام چنین اقداماتی.
سطح دشوارتر، توافق آمریکا و کشورهای رقیب برای آزمایش مدل‌های هوش مصنوعی پیش از عرضه عمومی است. این آزمایش‌ها می‌تواند خطرهایی مانند تهدیدهای زیستی و امنیت سایبری را بررسی کند و احتمالاً به ایجاد یک نهاد استاندارد جهانی نیاز خواهد داشت.
اما تعیین «محدودیت سرعت» برای مدل‌هایی که قادر به توسعه نسخه‌های پیشرفته‌تر خود هستند، دشوارتر خواهد بود. این فرایند که «خودبهبودی بازگشتی» نامیده می‌شود، می‌تواند سرعت پیشرفت هوش مصنوعی را به شکل قابل توجهی افزایش دهد.
آمودی معتقد است کاهش سرعت توسعه از «بسیار سریع» به «تا حدی سریع» می‌تواند بدون از بین بردن مزیت راهبردی کشورها، سطح ایمنی را به میزان قابل توجهی افزایش دهد.
او این وضعیت را با توافق‌های دوران جنگ سرد درباره محدود کردن تعداد موشک‌ها مقایسه کرده است؛ توافق‌هایی که به گفته او، ظرفیت تخریب را محدود می‌کردند، بدون آنکه توان بازدارندگی کشورها را به‌طور کامل از بین ببرند.
به گفته آمودی، دشوارترین گزینه، توقف یا محدود کردن شدید سرعت کلی توسعه هوش مصنوعی خواهد بود.
سم آلتمن نیز تأکید کرده است که کاهش سرعت به معنای توقف پیشرفت هوش مصنوعی نیست. او گفته است پیشرفت همچنان سریع خواهد بود، اما باید با در نظر گرفتن هزینه‌های ایمنی و نظارت، از سرعتی که در شرایط نبود این مداخلات ممکن بود کمتر باشد.
آلتمن همچنین تأکید کرده است که فشار رقابتی آمریکا نباید بهانه‌ای برای بی‌احتیاطی باشد.
تردید درباره امکان اجرای توافق
با وجود اینکه برخی کارشناسان، شکل‌گیری چنین توافقی در صنعت را امیدوارکننده می‌دانند، پرسش‌های مهمی درباره امکان اجرای آن مطرح است.
ساندرا واچر، استاد فناوری و مقررات در مؤسسه اینترنت آکسفورد، می‌گوید کاهش سرعت توسعه هوش مصنوعی از نظر نظری امکان‌پذیر است؛ اما در عمل به هماهنگی و همکاری گسترده میان شرکت‌ها و دولت‌های کشورهای مختلف نیاز دارد.
او با توجه به شرایط کنونی جهان، چنین همکاری گسترده‌ای را بسیار دشوار می‌داند.
به گفته واچر، دولت‌ها می‌توانند با مسئول دانستن شرکت‌های هوش مصنوعی در قبال خطرهای ناشی از فناوری‌هایشان، نقش بیشتری در کنترل سرعت توسعه ایفا کنند. همچنین می‌توان مقرراتی وضع کرد که دسترسی شرکت‌ها به برق، آب و سایر منابع مورد نیاز مراکز داده را تحت تأثیر قرار دهد.
ایده حضور ارزیابان مستقل در شرکت‌های هوش مصنوعی نیز تا حد زیادی با استقبال صنعت مواجه شده است؛ با این حال، منتقدان درباره میزان استقلال این ارزیابان و نحوه تعیین استانداردهای ارزیابی پرسش‌هایی مطرح کرده‌اند.
آیدان گومز، یکی از بنیان‌گذاران و مدیرعامل یک آزمایشگاه هوش مصنوعی کانادایی، هشدار داده است که چنین رویکردی ممکن است به تمرکز بیشتر قدرت در دست تعداد محدودی از شرکت‌های بزرگ منجر شود.
او همچنین با پیشنهاد آمودی برای اعطای معافیت‌های ضدانحصاری به آزمایشگاه‌های پیشرو مخالفت کرده و گفته است قوانین مربوط به مهم‌ترین فناوری‌های آینده نباید توسط گروه کوچکی از شرکت‌های تجاری و در چارچوب معافیت‌های ضدانحصاری تدوین شود.
الهام طبسی، مدیر طرح هوش مصنوعی و فناوری‌های نوظهور در مؤسسه بروکینگز، نیز معتقد است تا زمانی که تعهدات شرکت‌ها درباره ایمنی به شکل مشخص و عمومی تثبیت نشود، حسابرسان مستقل همچنان اقدامی داوطلبانه و تحت کنترل شرکت‌ها خواهند بود.
او تأکید کرده است که شرکت‌های هوش مصنوعی باید هم‌زمان با تلاش برای افزایش ایمنی، در توسعه روش‌های علمی و معتبر برای آزمایش و اندازه‌گیری عملکرد مدل‌های خود نیز سرمایه‌گذاری کنند؛ زیرا بدون چنین روش‌هایی، مقررات نیز قدرت محدودی خواهند داشت.
رقابت آمریکا و چین؛ مانعی جدی
دولت دونالد ترامپ تاکنون رویکرد نسبتاً ملایمی در قبال صنعت هوش مصنوعی داشته و بر این باور است که کاهش محدودیت‌ها می‌تواند به نوآوری کمک کند و به آمریکا اجازه دهد در رقابت با چین پیشتاز بماند.
رقابت میان شرکت‌های آمریکایی و چینی حوزه هوش مصنوعی از سوی برخی کارشناسان به یک مسابقه تسلیحاتی تشبیه شده است؛ شرایطی که می‌تواند همکاری میان دو طرف را دشوارتر کند.
نیک ریس معتقد است چنین رقابتی وضعیتی ایجاد کرده که در آن هر طرف، طرف مقابل را نوعی تهدید اساسی تلقی می‌کند.
با این حال، برخی رهبران صنعت همچنان با احتیاط نسبت به حرکت صنعت به سمت ایمنی بیشتر امیدوارند.
زهرا تیمسا، یکی از بنیان‌گذاران و مدیرعامل یک شرکت فعال در حوزه هوش مصنوعی، می‌گوید در مدت کوتاهی مدیران شرکت‌های رقیب به نقطه مشترکی درباره ضرورت توجه بیشتر به ایمنی رسیده‌اند و هم‌زمان، نمایندگان هر دو حزب اصلی آمریکا نیز اشکال مختلفی از نظارت بر هوش مصنوعی را دنبال می‌کنند.
او در عین حال تأکید می‌کند که توجه به موضوع ایمنی لزوماً به معنای اجرای آن نیست و هنوز مشخص نیست این توافق‌ها و پیشنهادها در عمل تا چه اندازه نتیجه خواهند داد.
تاریخ انتشار: ۱۵ سپتامبر ۲۰۲۶
نویسندگان: کیتلین هیومانی و کلوین چان
منبع انگلیسی: آسوشیتدپرس
منبع فارسی: شارا ـ شبکه اطلاع‌رسانی روابط‌عمومی ایران