🤖 سم آلتمن درباره آینده هوش مصنوعی: ایمنی پیش از سرعت توسعه
در گفتوگوی اختصاصی با فورچون، مدیرعامل اوپنایآی درباره سرعت پیشرفت هوش مصنوعی، خطرهای احتمالی، امکان کنترل سامانههای قدرتمند، ضرورت تنظیمگری و احتمال کاهش سرعت توسعه سخن گفت. او تأکید کرد که در صورت ایجاد تعارض میان منافع مالی و ایمنی، حفاظت از بشریت باید در اولویت قرار گیرد.
شبکه اطلاعرسانی روابطعمومی ایران (شارا) – سم آلتمن، مدیرعامل اوپنایآی، در گفتوگویی اختصاصی با آلیسون شونتل، سردبیر فورچون، درباره آینده هوش مصنوعی، خطرهای احتمالی، ضرورت ایمنی، کنترل سامانههای قدرتمند و آینده این فناوری سخن گفت.
آلتمن معتقد است هوش مصنوعی در مقطعی قرار گرفته که از یک سو ظرفیت بسیار بالایی برای تحول دارد و از سوی دیگر با خطرهای واقعی همراه است. به گفته او، توسعه این فناوری نباید صرفاً بر مبنای سرعت رقابت فناورانه دنبال شود، بلکه ایمنی و توانایی کنترل سامانهها باید همزمان با افزایش قابلیتهای آنها توسعه پیدا کند.
او تأکید کرد که هیچ نوع ریسکی که بتواند بشریت را به خطر بیندازد قابل پذیرش نیست. اگر در آینده مشخص شود که توسعه یک سامانه هوش مصنوعی بدون تضمینهای کافی برای ایمنی امکانپذیر نیست، کاهش سرعت توسعه، توقف آموزش یا حتی متوقف کردن عرضه آن باید در میان گزینههای تصمیمگیری قرار داشته باشد. یکی از نکات مهم این گفتوگو، رابطه میان منافع اقتصادی و مسئولیت اجتماعی شرکتهای هوش مصنوعی بود. آلتمن گفت اگر میان منافع مالی و ضرورتهای ایمنی تعارض ایجاد شود، اوپنایآی باید بتواند تصمیمی اتخاذ کند که حتی از نظر اقتصادی به نفع شرکت نباشد، اما برای حفاظت از بشریت ضروری باشد. او همچنین درباره عرضه عمومی سهام اوپنایآی توضیح داد که این شرکت در سال ۲۰۲۶ وارد بازار سهام نخواهد شد. آلتمن با اشاره به نگرانیهای موجود درباره ایمنی هوش مصنوعی گفت اکنون زمان مناسبی برای عرضه عمومی سهام نیست و این اقدام ممکن است در سال ۲۰۲۷ یا بعد از آن انجام شود. موضوع دیگری که در این گفتوگو مورد توجه قرار گرفت، ضرورت همکاری میان شرکتهای بزرگ هوش مصنوعی بود. آلتمن به احتمال شکلگیری توافقی میان شرکتهای فعال در این صنعت برای مدیریت خطرهای ایمنی و ایجاد فرصت بیشتر برای هماهنگ شدن راهکارهای ایمنی با سرعت رشد توانمندی مدلها اشاره کرد. این دیدگاه همزمان با درخواست داریو آمودی، مدیرعامل آنتروپیک، برای کاهش سرعت توسعه توانمندیهای هوش مصنوعی مطرح شده است. آمودی نیز بر ضرورت استفاده هوشمندانه از زمانی که با کاهش سرعت توسعه به دست میآید، برای تقویت سازوکارهای ایمنی تأکید کرده است.
آلتمن همچنین بر نقش دولتها و همکاری بینالمللی تأکید کرد. از نگاه او، برخی چالشهای ناشی از هوش مصنوعی پیشرفته را نمیتوان صرفاً در سطح یک شرکت یا یک کشور مدیریت کرد و ایجاد استانداردهای مشترک و روشهای مشترک آزمون میتواند بخشی از پاسخ به این چالش باشد.
در مجموع، این گفتوگو تصویری از مرحلهای حساس در توسعه هوش مصنوعی ارائه میدهد؛ مرحلهای که در آن افزایش توانمندی فناوری باید با توسعه همزمان سازوکارهای ایمنی، نظارت، تنظیمگری و همکاری بینالمللی همراه شود.
آلتمن وضعیت امروز هوش مصنوعی را نقطهای میداند که «ظرفیت بسیار زیاد و خطر واقعی» را همزمان در خود دارد؛ موضوعی که اهمیت بحث درباره حکمرانی، مسئولیتپذیری و ایمنی هوش مصنوعی را بیش از گذشته برجسته میکند.
نویسنده: آلیسون شونتل، سردبیر ارشد و مدیر ارشد محتوای فورچون
تاریخ انتشار: ۱۴ سپتامبر ۲۰۲۶
منبع: فورچون
منبع فارسی: شبکه اطلاعرسانی روابطعمومی ایران (شارا)