شارا - شبكه اطلاع رساني روابط عمومي ايران : كمي از چت جي‌پي‌تي مي‌ترسيم!
یکشنبه، 28 اسفند 1401 - 14:34 کد خبر:51747
مردم به زمان بيشتري براي به‌روز شدن، تعامل و استفاده كردن از اين تكنولوژي نياز دارند تا بتوانند نقاط تاريك آن را شناسايي كرده و بهره‌برداري مفيدتري از آن بكنند. ما با متخصصان امنيتي و سياستگذاري مختلفي صحبت كرده‌ايم، سيستم‌ها را براي شناسايي موارد مشكل بررسي كرده و مي‌دانيم كه اين تكنولوژي هنوز كامل نيست، اما همچنان به آموزش و ياد گرفتن دراين فرآيند اعتقاد داريم.




 شبكه اطلاع‌رساني روابط‌عمومي ايران (شارا) ||  چت جي بي تي در مدت كوتاهي از ظهورش، دنيا را درنورديده و بيم و اميدهاي زيادي را در ميان مردم برانگيخته است. اين مدل زباني مبتني بر هوش مصنوعي بي‌شك يكي از انقلابي‌ترين كاربردهاي تكنولوژي در سال‌هاي اخير بوده است. بسياري از كارشناسان معتقدند در كنار مزايا و كاربردهاي متنوع چت جي‌پي‌تي، نبايد از خطرات و مشكلات احتمالي آن غافل شد. حالا حتي مديرعامل شركت OpenAI هم كه توسعه‌دهنده چت جي‌پي‌تي است، درباره مخاطرات آن هشدار داده است. «سم آلتمن» معتقد است كه اين تكنولوژي همان‌طور كه باعث تغيير شكل جامعه خواهد شد، خطرات جدي هم به همراه خواهد داشت.
 
 آلتمن ۳۷ ساله تاكيد مي‌كند كه نهادها و سازمان‌هاي ناظر و جامعه بايد با اين تكنولوژي به خوبي درگير شوند تا بتوانند از عواقب منفي بالقوه آن براي بشريت جلوگيري كنند. او در مصاحبه‌اي با شبكه خبري ABC News با اشاره به اينكه چت جي‌پي‌تي مي‌تواند مهم‌ترين تكنولوژي براي ارتقاي كيفيت زندگي افراد باشد، گفت: «در اينجا بايد محتاط باشيم. فكر مي‌كنم مردم بايد خوشحال باشند كه ما كمي از اين تكنولوژي ترسيده‌ايم.» آلتمن با تاكيد بر اينكه او به‌طور مرتب با مقامات دولتي در ارتباط است، در ادامه گفت: «من به‌طور مشخص نگران آن هستم كه اين الگوهاي زباني بتوانند براي دروغ‌پراكني و توليد اطلاعات نادرست در مقياس وسيع مورد استفاده قرار بگيرند. حالا همان‌طور كه اين الگوهاي زباني مبتني بر هوش مصنوعي در كدنويسي كامپيوتري بهتر مي‌شوند، مي‌توانند براي حملات سايبري خطرناك هم مورد استفاده قرار بگيرند.»
 
 چت جي‌پي‌تي كه تنها چند ماه پيش عرضه شد، در حال حاضر بهترين اپليكيشن مصرفي تاريخ از نظر سرعت رشد به حساب مي‌آيد. اين اپليكيشن در طول همين چند ماه، به ركورد ۱۰۰ميليون كاربر فعال ماهانه دست پيدا كرده است. در مقابل، براي تيك‌تاك ۹ ماه و براي اينستاگرام حدود سه سال طول كشيد تا به چنين ركوردي برسند. حالا چت جي‌پي‌تي در تست‌هاي مختلف، امتياز بالايي به دست آورده است و به شكلي ماهرانه مي‌تواند به اغلب زبان‌هاي برنامه‌نويسي، كد كامپيوتري بنويسد. GPT-۴ يك قدم به سمت هدف OpenAI براي ايجاد هوش مصنوعي عمومي نزديك‌تر است. از همان اواخر نوامبر كه چت‌جي‌پي‌تي عرضه شد، خيلي‌ها در انتظار انتشار GPT-۴ بودند و بسياري از كاربراني كه با نسخه‌ قبلي اين برنامه كار كرده بودند، از قابليت‌هاي خيره‌كننده اين برنامه هوش مصنوعي شگفت‌زده شده‌اند.
 
 جي‌پي‌تي-۴ جديدترين نقطه عطف در تلاش OpenAI براي پيشرفت در يادگيري عميق است، پاسخ‌هاي متني دقيق‌تري ارائه خواهد داد و داده‌هاي ورودي تصويري و متني اين فناوري را به شكل گسترده‌اي پيش مي‌برد. شركت OpenAI همچنين اعلام كرد كه نسخه جديد اين برنامه در مقايسه با نسخه قبلي، درباره خطاي عملكردي يا دروغ و توهين يا اصطلاحا «توهم»، به‌ مراتب گزارش‌هاي كمتري دريافت مي‌كند. به گفته OpenAI، براي ساخت و توسعه جي‌پي‌تي-۴ شش ماه زمان صرف شده است تا ايمن‌تر و هماهنگ‌تر شود. جي‌پي‌تي-۴ تا ۸۲ درصد كمتر به درخواست‌هاي محتواي غيرمجاز پاسخ مي‌دهد و احتمال پاسخ‌هاي واقعي آن تا ۴۰ درصد بيشتر است. با اين حال، سم آلتمن درباره اين نسخه جديد گفته كه با وجود پيش‌بيني‌ها، جي‌پي‌تي-۴ هنوز ناقص و محدود است.
 
 سم آلتمن در حالي كه از موفقيت محصول شركتش رضايت دارد، اما مي‌گويد كه نگراني از خطرات احتمالي اين زبان هوش مصنوعي بارها خواب شبانه را از چشم‌هاي او ربوده است. يكي از ترس‌هاي عملي- تخيلي رايجي كه آلتمن به آن اشاره نكرد اين است كه الگوهاي هوش مصنوعي، نيازي به انسان‌ها ندارند، خودشان به تنهايي تصميم مي‌گيرند و نقشه حاكميت بر جهان را مي‌كشند. آلتمن در اين مورد مي‌گويد: «چت جي‌پي‌تي منتظر كسي است كه يك ورودي به آن بدهد. اين ابزاري است كه تا حد زيادي تحت كنترل انسان قرار مي‌گيرد.» آلتمن با اشاره به اينكه نگران نوع كنترلي است كه انسان‌ها مي‌توانند روي آن داشته باشند، اضافه مي‌كند: «افراد ديگري هم خواهند بود كه هيچ محدوديت امنيتي براي آن نمي‌گذارند. فكر مي‌كنم جامعه زمان محدودي براي محاسبه چگونگي واكنش نشان دادن به آن، نظارت بر آن و مديريت آن در اختيار دارد.»
 
 ظاهرا اين نگراني چندان هم بيراه نيست؛ تا جايي كه ولاديمير پوتين، رئيس‌جمهور روسيه، در زمان آغاز سال تحصيلي سال ۲۰۱۷ به دانشجويان گفته بود كه هر كس بتواند رقابت در عرصه هوش مصنوعي را مديريت كند، احتمالا سكان رهبري جهان را هم به دست خواهد گرفت. آلتمن با اشاره به اين نقل‌قول گفت: «اين قطعا اظهارنظر ترسناكي است. در عوض اميدوارم به صورت مداوم سيستم‌هاي قدرتمندتري را توسعه بدهيم كه بتوانيم در موارد مختلف از آنها بهره ببريم و آنها را با زندگي روزمره و اقتصاد ادغام كنيم تا به ابزاري براي رسيدن افراد به اهداف‌شان تبديل بشود.»
 نگراني از اطلاعات نادرست
 
 طبق اعلام شركت OpenAI، نسخه جديد GPT-۴ بهبودهاي زيادي نسبت به نسخه قبلي دارد كه از آن جمله مي‌توان به توانايي درك تصاوير به عنوان يك ورودي، اشاره كرد. آزمايش‌هاي اوليه نشان مي‌دهند كه اين نسخه جديد مي‌تواند توضيح بدهد كه در يخچال خانه هر فرد چه چيزهايي وجود دارد، پازل و معما حل كند و حتي معني الگوهاي رفتاري افراد در اينترنت را به وضوح توضيح بدهد. البته اين قابليت در حال حاضر تنها در اختيار گروه كوچكي از كاربران قرار دارد. با اين همه، به عقيده آلتمن، موضوع مهمي كه درباره الگوهاي زباني هوش مصنوعي مانند چت جي‌پي‌تي وجود دارد، اطلاعات نادرست است. او معتقد است كه اين برنامه مي‌تواند اطلاعات نادرستي به افراد بدهد. آلتمن در اين مورد مي‌گويد: «آنچه تلاش مي‌كنم درباره آن به مردم هشدار بدهم، چيزي است كه به آن مشكل توهمات مي‌گوييم. اين الگوي زباني، مسائل را با چنان اطميناني مطرح مي‌كند كه انگار حقيقت غير قابل انكار هستند.»
 
 OpenAI اعلام كرده است كه اين زبان هوش مصنوعي بيشتر از استدلال استقرايي بهره مي‌گيرد تا به حافظه سپردن. در همين راستا، «ميرا موراتي» مدير ارشد تكنولوژي اين شركت به ABC News مي‌گويد: «يكي از بزرگ‌ترين تفاوت‌ها ميان نسخه قبلي با GPT-۴ همين توانايي استدلال بهتر آن است. هدف آن است كه واژه بعدي پيش‌بيني شود و با اين كار شاهد درك بيشتر اين زبان خواهيم بود. ما مي‌خواهيم اين الگوهاي زباني، جهان را مثل ما ببينند و درك كنند.» آلتمن در تكميل اين موضوع مي‌گويد: «روش درست تفكر اين الگوهاي زباني، داشتن يك موتور استدلال است، نه ديتابيسي از حقايق و داده‌ها. ما مي‌خواهيم كه آنها توانايي استدلال را به دست بياورند و اميدواريم در طول زمان به اين توانايي دست بيابند.»
 احتياط‌هايي در برابر بازيگران بد
 
 نوع اطلاعاتي هم كه چت جي‌پي‌تي و ديگر الگوهاي زباني هوش مصنوعي در اختيار دارند، محل نگراني هستند. براي مثال، اينكه چت جي‌پي‌تي بتواند به يك كاربر روش ساخت يك بمب را آموزش بدهد يا خير. جواب خير است، به خاطر معيارهاي ايمني كه در كدنويسي چت جي‌پي‌تي در نظر گرفته شده. آلتمن در اين مورد به ABC News مي‌گويد: «موضوعي كه نگران آن هستم، آن است كه قرار نيست ما تنها خالقان اين تكنولوژي باشيم. افراد ديگري هم خواهند بود كه محدوديت‌هاي امنيتي مد نظر خودشان را در اين تكنولوژي مي‌گنجانند.»
 
 از نظر مديرعامل شركت OpenAI، راهكارها و نكات ايمني كمي براي تمام اين خطرات بالقوه وجود دارند. يكي از آنها اين است كه بگذاريم در همين روزهاي اول، جامعه با چت جي‌پي‌تي درگير شود و مردم روش كار با اين تكنولوژي را بياموزند. مدير ارشد تكنولوژي اين شركت هم معتقد است كه با استفاده بيشتر مردم از چت جي‌پي‌تي، شناسايي موارد خطرناك و مشكلات بالقوه آن ساده‌تر خواهد شد. ميرا موراتي در اين مورد مي‌گويد: «شناسايي موارد كاربرد چت جي‌پي‌تي، مشكلات و معايب آن، به ما براي بهبود سريع‌تر در نسخه‌هاي بعدي كمك مي‌كند. به همين دليل استفاده بيشتر مردم از اين تكنولوژي براي ما اهميت زيادي دارد.»
 
 آلتمن هم با اين رويكرد موافق است و مي‌گويد: «مردم به زمان بيشتري براي به‌روز شدن، تعامل و استفاده كردن از اين تكنولوژي نياز دارند تا بتوانند نقاط تاريك آن را شناسايي كرده و بهره‌برداري مفيدتري از آن بكنند. ما با متخصصان امنيتي و سياستگذاري مختلفي صحبت كرده‌ايم، سيستم‌ها را براي شناسايي موارد مشكل بررسي كرده و مي‌دانيم كه اين تكنولوژي هنوز كامل نيست، اما همچنان به آموزش و ياد گرفتن دراين فرآيند اعتقاد داريم.»
 هوش مصنوعي جايگزين مشاغل مي‌شود؟
 
 در ميان دغدغه‌هاي مختلفي كه درباره قابليت‌هاي خطرناك اين تكنولوژي وجود دارد، جايگزين شدن آن با مشاغل جايگاه خاصي دارد. آلتمن معتقد است كه احتمالا بعضي مشاغل در آينده نزديك از بين مي‌روند و بيشتر نگراني‌ها مربوط به سرعت اين اتفاق است. او در اين مورد مي‌گويد: «فكر مي‌كنم بيش از دو نسل از بشريت در برابر تغييرات تكنولوژيك عمده مقاومت كرده‌اند. اما بالاخره اين اتفاق در كمتر از ۱۰ سال ديگر رخ خواهد داد.» با اين حال مديرعامل OpenAI افراد را تشويق مي‌كند تا چت جي‌پي‌تي را بيشتر به عنوان يك ابزار ببينند، نه يك جايگزين. او تاكيد مي‌كند: «خلاقيت انسان نامحدود است و ما مي‌توانيم مشاغل تازه‌اي پيدا كنيم. كاربردهاي چت جي‌پي‌تي به عنوان يك ابزار، مخاطرات خاص خودشان را هم دارند.»