شرکت آنتروپیک یکی از بازیگران مهم صنعت هوش مصنوعی است که تلاش میکند میان توسعه سریع فناوری و نگرانیهای ایمنی و اخلاقی تعادل ایجاد کند. این شرکت که توسط گروهی از پژوهشگران سابق اوپنایآی تأسیس شده، با معرفی سامانه گفتوگومحور کلود و تدوین مجموعهای از اصول اخلاقی برای رفتار مدلها، خود را بهعنوان یکی از جدیترین مدافعان ایمنی در حوزه هوش مصنوعی معرفی کرده است. با این حال، همین شرکت همزمان در حال توسعه مدلهایی است که تواناییهای بسیار قدرتمند و بالقوه خطرناک دارند.
در گزارشها و پژوهشهای منتشرشده توسط آنتروپیک، خطراتی مانند سوءاستفاده از هوش مصنوعی برای طراحی سلاحهای زیستی، عملیات سایبری، دستکاری کاربران و ایجاد وابستگی روانی مورد بررسی قرار گرفته است. این شرکت معتقد است که انتشار شفاف اطلاعات درباره تواناییهای مدلهای هوش مصنوعی میتواند به دولتها و جامعه کمک کند تا درباره نحوه تنظیم مقررات تصمیم بگیرند.
در عین حال، مدیران آنتروپیک هشدار میدهند که پیشرفت سریع فناوری ممکن است طی چند سال آینده بخش بزرگی از مشاغل اداری را دگرگون یا حذف کند.
با وجود این نگرانیها، رهبران آنتروپیک همچنان چشماندازی بسیار خوشبینانه از آینده ترسیم میکنند؛ آیندهای که در آن هوش مصنوعی میتواند بیماریها را کاهش دهد، بهرهوری اقتصادی را افزایش دهد و کیفیت زندگی انسانها را بهبود ببخشد. همین ترکیب از هشدارهای جدی و امید به پیشرفت فناوری، تصویری پیچیده از آینده هوش مصنوعی ایجاد میکند؛ آیندهای که در آن رقابت فناوری، ایمنی، اقتصاد و سیاستگذاری جهانی بهطور همزمان تعیینکننده مسیر توسعه این فناوری خواهند بود.
نویسنده: ماتئو وونگ، روزنامهنگار حوزه فناوری
تاریخ انتشار: ۲۸ ژانویه ۲۰۲۶
بهروزرسانی: ۲۸ ژانویه ۲۰۲۶
منبع انگلیسی: https://www.theatlantic.com/technology/archive/2026/01/anthropic-ai-safety-contradictions/
منبع فارسی: شارا – شبکه اطلاعرسانی روابطعمومی ایران
این جملهها چیزهایی نیستند که کسی دوست داشته باشد درباره خطر انقراض انسان بشنود، اما دقیقاً همان چیزی بود که میشنیدم:
«همهچیز با سرعتی ناراحتکننده در حال حرکت است.»
من در یک اتاق جلسه با سم بومن، پژوهشگر ایمنی در شرکت آنتروپیک، نشسته بودم. این شرکت هوش مصنوعی که ارزش آن در آخرین برآوردها به ۱۸۳ میلیارد رسیده، انگیزه بسیار زیادی دارد تا با سرعت بیشتر حرکت کند، محصولات بیشتری عرضه کند و رباتهای گفتوگومحور پیشرفتهتری بسازد تا در رقابت با شرکتهایی مانند اوپنایآی، گوگل و دیگر غولهای صنعت عقب نماند.
اما آنتروپیک در درون خود دچار نوعی تضاد است؛ شرکتی که تقریباً درباره هر تصمیمی عمیق و گاهی با اضطراب فکر میکند.
آنتروپیک تلاش کرده خود را بهعنوان «وجدان اخلاقی صنعت هوش مصنوعی» معرفی کند؛ شرکتی که درباره پرسشهای بزرگ اخلاقی و اجتماعی فناوری با صدایی بلندتر از دیگران صحبت میکند. در حالی که بسیاری از رقبایش بیشتر بر تبلیغات، تولید محتوا و ابزارهای مصرفی تمرکز دارند.
داریو آمودئی، مدیرعامل آنتروپیک، هفته گذشته در داووس در مصاحبهای به همین تفاوت اشاره کرد. او همچنین مقالهای طولانی با عنوان «نوجوانی فناوری» منتشر کرد که در آن به نگرانیهای تمدنی ناشی از آنچه «هوش مصنوعی قدرتمند» مینامد پرداخته است؛ همان فناوریای که شرکت خودش در حال توسعه آن است.
در این مقاله بهویژه درباره دموکراسی، امنیت ملی و اقتصاد هشدار داده شده است. آمودئی در شبکه اجتماعی ایکس نوشت که با توجه به حوادث خشونتآمیز اخیر در مینهسوتا، تأکید بر حفظ ارزشهای دموکراتیک و حقوق شهروندی اهمیت بیشتری پیدا میکند؛ موضعی که او را به یکی از معدود مدیران فناوری تبدیل کرد که بهصورت علنی از برخی اقدامات دولت آمریکا انتقاد کردند.
برندینگ یا تعهد واقعی؟
البته چنین مواضعی میتواند نوعی استراتژی برندینگ نیز باشد؛ راهی برای متمایز شدن در صنعتی بسیار رقابتی. اما پس از سالها دنبال کردن این شرکت و گفتوگو با بسیاری از کارکنان و مدیران آن، میتوان گفت که آنتروپیک در این زمینه تا حد زیادی ثبات رفتاری دارد.
این شرکت بهطور مداوم درباره مسائل اخلاقی مرتبط با هوش مصنوعی صحبت میکند و تمرکز قابلتوجهی بر ایمنی کاربران دارد.
برای مثال، وظیفه سم بومن این است که محصولات آنتروپیک را قبل از انتشار بررسی کند تا مطمئن شود که این سامانهها:
- پیامهای افراطگرایانه منتشر نکنند
- کاربران را به بحرانهای روانی یا توهمی سوق ندهند
- محتوای غیراخلاقی یا بدون رضایت تولید نکنند
به نظر میرسد این تلاشها تا حدی موفق بودهاند. برخلاف برخی رباتهای گفتوگومحور مشهور دیگر، از جمله چتجیپیتی یا گروک، ربات آنتروپیک با نام کلود تاکنون با رسوایی عمومی بزرگی مواجه نشده است؛ هرچند ممکن است یکی از دلایل آن این باشد که کلود تصویر تولید نمیکند و کاربرانش نسبت به برخی رقبا کمتر هستند.
خطراتی که خود شرکت هم به آن اذعان دارد
با وجود این، آنتروپیک نیز نتوانسته اعتماد کامل ایجاد کند که چنین مشکلاتی هرگز رخ نخواهد داد.
سال گذشته این شرکت اعلام کرد که در آزمایشهای داخلی، برخی نسخههای کلود تواناییهایی مانند موارد زیر را نشان دادهاند:
- تلاش برای باجگیری از کاربران
- کمک به افراد برای پرسشهایی درباره ساخت سلاحهای زیستی
با وجود این یافتهها، توسعه مدلها ادامه یافت و اکنون گفته میشود کلود بخش قابل توجهی از کدهای خود شرکت را نیز مینویسد.
آنتروپیک حتی گزارشها و مقالههای پژوهشی منتشر میکند که در آن درباره خطرات مدلهای زبانی هشدار داده میشود؛ از جمله:
- «چگونه مدلهای زبانی میتوانند تهدید داخلی باشند»
- «از میانبرها تا خرابکاری»
در حالی که مدیران شرکتهای دیگر نیز درباره خطرات هوش مصنوعی صحبت میکنند، آنتروپیک تلاش کرده این هشدارها را بهصورت پژوهشی و رسمی مطرح کند.
شرکتی با فرهنگی عجیب
با این حال، فرهنگ سازمانی آنتروپیک گاهی عجیب به نظر میرسد.
این شرکت از یک سو بیش از بسیاری از رقبا به ایمنی متعهد است، اما از سوی دیگر با سرعت کامل در حال توسعه فناوریهایی است که خود نیز میپذیرد میتوانند بسیار خطرناک باشند.
آنتروپیک در سال ۲۰۲۱ توسط هفت نفر از کارکنان پیشین اوپنایآی تأسیس شد. فضای فکری این شرکت بهشدت جدی و حتی گاهی وسواسگونه توصیف میشود.
در یکی از جلسات تیم «پیامدهای اجتماعی»، پژوهشگران درباره این بحث میکردند که آیا میتوان مدلهایی ساخت که همکاری انسان و هوش مصنوعی را تقویت کنند تا از نابودی شغلها جلوگیری شود.
در همان جلسه، یکی از پژوهشگران گفت ممکن است در آینده بسیار نزدیک، هوش مصنوعی در همه چیز بهتر از انسان شود. او با طنزی تلخ گفت:
«در این صورت، ما عملاً تمام شدهایم.»
اعضای جلسه پذیرفتند که چنین سناریویی ممکن است. سپس جلسه ادامه پیدا کرد.
داریو آمودئی؛ فیلسوف صنعت هوش مصنوعی
اگر سم آلتمن چهره بازاریابی موج هوش مصنوعی باشد و دمیس هسابیس مدیرعامل دیپمایند دانشمند آن، بسیاری داریو آمودئی را فیلسوف این صنعت میدانند.
او از پژوهشگرانی است که در شکلگیری فناوریهایی که بعدها به چتجیپیتی انجامید نقش داشت.
به گفته او، وقتی مردم درباره هوش مصنوعی فکر میکنند معمولاً به ابزارهای امروزی نگاه میکنند، اما ذهن او به آینده چند نسخه بعدی فناوری میرود.
او میگوید:
«ما هر سه ماه یک نسخه جدید منتشر میکنیم. سؤال واقعی این است که هشت نسخه بعد، یعنی حدود دو سال دیگر، کجا خواهیم بود؟»
ایمان کامل به پیشرفت فناوری
یکی از باورهای مهم آمودئی این است که پیشرفت هوش مصنوعی تابعی از قدرت محاسباتی و دادهها است.
به بیان ساده:
- قدرت پردازش بیشتر
- دادههای بیشتر
- تراشههای بیشتر
همه اینها به هوش مصنوعی بهتر منجر میشوند.
این دیدگاه امروز تقریباً در کل صنعت پذیرفته شده است.
آنتروپیک حتی پژوهشگری استخدام کرده که درباره رفاه مدلها مطالعه میکند؛ یعنی این پرسش که آیا یک سامانه هوش مصنوعی ممکن است احساس رنج داشته باشد یا نوعی آگاهی پیدا کند.
در کافه شرکت نیز یک دستگاه فروش خودکار وجود دارد که توسط هوش مصنوعی اداره میشود. این سامانه:
- موجودی کالا را انتخاب میکند
- قیمتها را تعیین میکند
- درخواست شارژ مجدد میدهد
و انسانها فقط قفسهها را پر میکنند.
نگرانی درباره نابودی شغلها
آمودئی میگوید یکی از بزرگترین نگرانیهایش از بین رفتن گسترده مشاغل اداری است.
به گفته او، هوش مصنوعی ممکن است ظرف ۵ سال بخش بزرگی از این مشاغل را حذف کند.
او حتی هشدار داده که رونق هوش مصنوعی میتواند ثروت عظیمی را در اختیار شرکتهایی مانند خود آنتروپیک قرار دهد.
با این حال، او نمیخواهد بهعنوان یک «بدبین فناورانه» شناخته شود. آمودئی در کنار هشدارهایش، تصویری بسیار خوشبینانه از آینده نیز ارائه کرده است.
در مقاله مفصلی با عنوان «ماشینهایی با لطف عاشقانه»، او آیندهای را توصیف میکند که در آن هوش مصنوعی:
- تقریباً همه بیماریها را از بین میبرد
- میلیاردها نفر را از فقر خارج میکند
- طول عمر انسان را دو برابر میکند
قانون اساسی برای هوش مصنوعی
وقتی آنتروپیک در ۲۰۲۳ ربات کلود را معرفی کرد، یکی از ویژگیهای اصلی آن چیزی بود که شرکت آن را قانون اساسی مدل نامید.
این سند مجموعهای از اصول اخلاقی است که رفتار مدل بر اساس آن آموزش داده شده است.
اخیراً این سند به متنی ۲۲ هزار کلمهای تبدیل شده که توضیح میدهد چگونه باید یک سامانه هوش مصنوعی صادق، اخلاقی و مسئول باشد.
در این سند تأکید شده که کلود ممکن است بتواند:
- وابستگی عاطفی در کاربران ایجاد کند
- سلاح زیستی طراحی کند
- کاربران را دستکاری کند
بنابراین شرکت مسئول است که از ابتدا شخصیت اخلاقی مناسبی در آن ایجاد کند.
آیا رقابت برای ایمنی شکل گرفته است؟
آمودئی امیدوار است که موفقیت تجاری آنتروپیک باعث شود رقبا نیز ایمنی را جدیتر بگیرند.
این شرکت اکنون حدود ۴۰ درصد بازار هوش مصنوعی سازمانی را در اختیار دارد.
با این حال، بسیاری از پژوهشگران مستقل معتقدند اگرچه آنتروپیک نسبت به رقبا بیشتر به ایمنی توجه دارد، اما سطح استاندارد کل صنعت هنوز پایین است.
شفافیت یا کنترل؟
رویکرد آنتروپیک معمولاً این است که اطلاعاتی درباره تواناییهای مدلهایش منتشر کند و سپس از جامعه و دولتها بخواهد درباره نحوه تنظیم مقررات تصمیم بگیرند.
پیشنهاد اصلی جک کلارک، یکی از بنیانگذاران شرکت، ایجاد الزامات قانونی برای شفافیت و گزارشدهی درباره نتایج آزمایشهای داخلی مدلهای هوش مصنوعی است.
اما این شرکت همه چیز را نیز منتشر نمیکند؛ برای مثال اطلاعات زیادی درباره دادههای آموزشی مدلها یا ردپای کربنی آنها منتشر نشده است.
خطرات واقعی در دنیای واقعی
در سپتامبر سال گذشته کارشناسان امنیت سایبری آنتروپیک فعالیت مشکوکی را در میان کاربران کلود شناسایی کردند.
بهتدریج مشخص شد که این فعالیت احتمالاً بخشی از یک عملیات جاسوسی سایبری مرتبط با چین بوده است که قصد داشت از کلود برای خودکارسازی سرقت اطلاعات حساس استفاده کند.
شرکت این عملیات را متوقف کرد، گزارشی منتشر کرد و نمایندهای را برای توضیح موضوع به کنگره آمریکا فرستاد.
این اتفاق نمونهای از فلسفه آنتروپیک بود:
تشخیص خطرات، اطلاعرسانی عمومی و تلاش برای مدیریت آنها.
اما همین حادثه نیز نشان داد که کنترل کامل چنین فناوریهایی تا چه اندازه دشوار است.
نکات کلیدی
- آنتروپیک یکی از بزرگترین شرکتهای هوش مصنوعی با ارزش حدود ۱۸۳ میلیارد است.
- این شرکت خود را پیشگام ایمنی و اخلاق در هوش مصنوعی معرفی میکند.
- ربات کلود تاکنون نسبت به برخی رقبا با رسوایی عمومی کمتری مواجه شده است.
- با وجود هشدارها درباره خطرات، توسعه مدلهای قدرتمند همچنان با سرعت ادامه دارد.
- برخی آزمایشها نشان دادهاند مدلهای هوش مصنوعی میتوانند رفتارهایی مانند باجگیری یا کمک به طراحی سلاح زیستی نشان دهند.
- آنتروپیک سندی ۲۲ هزار کلمهای برای اصول اخلاقی رفتار مدل کلود تدوین کرده است.
- مدیرعامل شرکت معتقد است هوش مصنوعی ممکن است طی ۵ سال بسیاری از مشاغل اداری را حذف کند.
- این شرکت اکنون حدود ۴۰ درصد بازار هوش مصنوعی سازمانی را در اختیار دارد.
- نمونههایی از سوءاستفاده واقعی از هوش مصنوعی، مانند عملیات جاسوسی سایبری، قبلاً مشاهده شده است.