آیا «مدل‌های زبانی هوشمند» برای انسان‌ها نگرانی ایجاد خواهند کرد؟

هوش مصنوعی دارای شعور

شان هیگینز* در قسمت نخست این مجموعه، نگرانی تاریخی از نابودی شغل‌ها توسط فناوری‌های نوین بررسی شد و نشان داده شد که نوآوری‌های گذشته (مانند کشاورزی مدرن، اتوماسیون و اینترنت) نه‌تنها بیکاری گسترده ایجاد نکردند، بلکه با ایجاد مشاغل جدید، به رشد اشتغال و افزایش رفاه انجامیدند.

بااین‌حال اما هوش مصنوعی به‌دلیل توانایی در جایگزینی حرفه‌های ماهر و شناختی که پیش‌تر در برابر اتوماسیون مصون تلقی می‌شدند، فضایی از ابهام و اضطراب بی‌سابقه‌ای ایجاد کرده است. پیش‌بینی‌ها از تاثیرات جزئی تا جابه‌جایی ده‌ها‌میلیون شغل متغیر است و حتی سیاستمدارانی مانند برنی سندرز آن را تهدیدی وجودی برای معیشت کارگران می‌دانند. درحالی‌که اقتصادهای پیشرو مانند آمریکا با پذیرش سریع فناوری توانسته‌اند رقابت‌پذیری خود را حفظ کنند، نگرش عمومی به هوش مصنوعی برخلاف استقبال از اینترنت در دهه ۱۹۹۰، با بدبینی و ترس همراه است. با وجود درس‌های تاریخی مبنی بر تطبیق‌پذیری اقتصادها، این بار ماهیت متفاوت هوش مصنوعی، پاسخ نهایی را به‌صورت یک سوال باقی نهاده است.

هوش مصنوعی چگونه عمل می‌کند؟

در طول سال‌ها، تفسیرهای متعددی از هوش مصنوعی وجود داشته است. به طور کلی، این اصطلاح به نرم‌افزارهای کامپیوتری با پیچیدگی‌های متفاوت اشاره دارد که می‌توانند وظایفی را انجام دهند که ظاهرا مستلزم سطحی از تفکر مستقل و خلاقیت است. جدیدترین نسخه‌های هوش مصنوعی با نوآوری‌های قبلی تفاوت دارند، زیرا این احتمال را مطرح می‌کنند که هوش مصنوعی می‌تواند نه تنها یک وظیفه یا شغل واحد، بلکه طیف وسیعی از آنها را جایگزین کند.

یک مثال ساده، پیشنهاد خریدهای تکمیلی و اضافی به خریداران آنلاین است. خرده‌فروشی آنلاین آمازون این قابلیت را در اواخر دهه ۱۹۹۰ توسعه داد. این وب‌سایت از الگوریتم‌ها برای پیش‌بینی محصولاتی استفاده می‌کند که ممکن است خریدار بر اساس سابقه خرید خود دوست داشته باشد. الگوریتم با این فرض که افرادی که کالاهای مشابهی می‌خرند ممکن است علایق و سلایق مشابهی داشته باشند، خریدهای آنان را لحاظ می‌کند. بازخوردها نیز در نظر گرفته می‌شوند؛ اگر مشتری آنچه را که پیشنهاد شده بخرد، الگوریتم آن را ثبت کرده و به دنبال موارد مشابه بیشتری برای پیشنهاد می‌گردد. از این حیث، الگوریتم «یاد می‌گیرد» که خریدار چه می‌خواهد. این روند حتی می‌تواند ژرف‌نگرانه به نظر برسد. وب‌سایت طنز پیاز (The Onion) در تیتر یکی از مطالب خود اعلام کرد: «پیشنهادهای وب‌سایت آمازون، زنِ ساکن منطقه را بهتر از شوهرش درک می‌کند».

برنامه‌های هوش مصنوعی همین فرآیند پایه‌ای، یعنی جمع‌آوری داده‌ها و محاسبه احتمالات را انجام می‌دهند، اما میزان داده‌ها و تعداد محاسبات درگیر را برای دقیق‌تر کردن خروجی افزایش می‌دهند. برنامه‌های حاصل به مراتب پیچیده‌تر هستند و اغلب به نظر می‌رسد که در حال تفکرند.

در حال حاضر، متغیر و شکل اصلی هوش مصنوعی چیزی است که به عنوان یک «مدل زبانی بزرگ» (LLM) شناخته می‌شود. این برنامه‌ها، مانند ChatGPT متعلق به OpenAI، بر روی کتابخانه‌هایی از مقالات خبری، کتاب‌ها، وب‌سایت‌ها، مقالات علمی و سایر منابع آموزش دیده‌اند. ایده اصلی این است که به الگوریتم‌ها مجموعه‌های داده‌ای به طور مداوم بزرگ‌تری داده شود تا از روی آنها کار کنند. به طور فرضی، این فرآیند می‌تواند با گذشت زمان بهبود یابد تا زمانی که برنامه‌ها به اندازه کافی بزرگ شوند که تفکر انسانی را شبیه‌سازی کنند.

آموزش دیدن بر روی آثار متنی موجود در اینترنت، به مدل‌های زبانی بزرگ مزایای زیادی نسبت به نسخه‌های قبلی هوش مصنوعی می‌دهد. نخست اینکه آنها می‌توانند به زبان طبیعی ارتباط برقرار کنند، که این امر تعامل کاربران با آنها و پرسیدن سوالات پیچیده‌تر نسبت به آنچه می‌توان از یک موتور جست‌وجوی استاندارد پرسید را آسان‌تر می‌کند. دوم اینکه آنها می‌توانند منابع مختلف را به روش‌هایی که موتورهای جست‌وجو قادر به آن نیستند، به هم متصل کنند. اگر از آن بپرسید چه اطلاعاتی درباره یک موضوع وجود دارد، می‌تواند اطلاعات را از چند منبع استخراج کرده و آنها را برای شما خلاصه کند.

علاوه بر این، مدل‌های زبانی بزرگ شکلی از هوش مصنوعی مولد هستند که ظاهرا می‌توانند محتوای اصیل و جدید، از جمله گزارش‌های روزنامه‌نگاری، مقالات، آثار هنری و انیمیشن تولید کنند. برای مثال، یک برنامه نویسندگی هوش مصنوعی به جای اینکه صرفا یک برنامه جست‌وجو یا غلط‌گیری املایی باشد، می‌تواند هدایت شود تا بر اساس ورودیِ داده‌های خاص، مقالاتی را از صفر خلق کند. برنامه‌های هوش مصنوعی همین الان هم می‌توانند پاسخ‌های کتبی مفصلی به سوالات بدهند. از برنامه‌های دیگر برای ساختن نقیضه‌ها یا ترکیب‌های موزیکال استفاده شده است که می‌توانند خوانندگان موسیقی کانتریِ از دنیا رفته مانند هنک ویلیامز را بازسازی کنند که ترانه‌های رپ گنگستری می‌خواند! آنها می‌توانند نسخه‌های جایگزینِ صحنه‌های مشهور سینمایی را انیمیشن‌سازی کنند. حامیان هوش مصنوعی باور دارند (و منتقدان می‌ترسند) که هوش مصنوعی ممکن است به زودی بتواند آن دسته از کارهای عمیق را تولید کند که تاکنون تنها انسان‌ها قادر به خلقشان بوده‌اند: داستان‌های خبری مفصل و بلند، فیلم‌نامه‌ها و نمایشنامه‌های اصیل تلویزیونی و سینمایی و گرافیک و انیمیشن. بسیاری از کسب‌وکارها مشتاق پذیرش آن هستند، با این باور که می‌تواند وظایف خسته‌کننده‌ای را که در حال حاضر توسط انسان‌ها انجام می‌شود خودکار کند. فاکتورهای ناشناخته این است که هوش مصنوعی چقدر از نیروی کار انسانی را جایگزین خواهد کرد، با چه سرعتی توسعه خواهد یافت و کارگران انسانی همچنان قادر به انجام چه شغل‌هایی خواهند بود..

فناوری‌های جدید: انتظارات در برابر واقعیت

فناوری‌های نوظهور غالبا با ادعاهای بزرگی مبنی بر اینکه ما را به آینده‌های علمی-تخیلیِ تصورشده نزدیک‌تر خواهند کرد، همراه هستند اما در نهایت از دستیابی به آن پیش‌بینی‌ها بازمی‌مانند. در دهه ۲۰۰۰، موضوع داغ روز «سلول‌های بنیادی» بود که انتظار می‌رفت درمان‌های معجزه‌آسای پزشکی ارائه دهند. کریستوفر ریوف، بازیگر فلج‌شده، در سال ۲۰۰۲ ادعا کرد که سلول‌های بنیادی می‌توانند ظرف دو تا سه سال به او کمک کنند تا دوباره راه برود. پرینت سه‌بعدی قرار بود عملا فناوری «همانندپذیر/تکثیرکننده» (Replicator) دیده شده در سریال تلویزیونی پیشتازان فضا (Star Trek) را به ما بدهد، اما این امر هنوز رخ نداده است. نانوفناوری نیز یکی دیگر از فناوری‌های ظاهرا تحول‌آفرین بود. پیشرفت‌هایی در همه آن زمینه‌ها حاصل شده است، اما آنها هرگز حتی به ادعاهای گسترده‌ای که در ابتدا وعده داده شده بود نزدیک هم نشده‌اند.

حتی فناوری‌های تحول‌آفرین، مانند اینترنت، چیزها را به روش‌های غیرمنتظره‌ای تغییر می‌دهند. آیا زمانی را به یاد دارید که قرار بود اینترنت حفظ و دسترسی به اطلاعات قابل اعتماد را آسان‌تر کند، به جای اینکه ما را در دریایی از داده‌های پیش‌پاافتاده و اغلب غیرقابل اعتماد غرق سازد؟ ادعاهایی مبنی بر اینکه هوش مصنوعی نیاز به برخی حرفه‌های با مهارت بالا را به طور کامل از بین خواهد برد، تاکنون چند شکست و افتضاح قابل‌توجه داشته است. جفری هینتون، دانشمند هوش مصنوعی و برنده جایزه نوبل، در سال ۲۰۱۶ جنجال زیادی به پا کرد؛ زمانی که اعلام نمود: «انسان‌ها باید همین الان آموزش‌ها در حیطه رادیولوژی را متوقف کنند. کاملا واضح است که ظرف پنج سال، یادگیری عمیق عملکرد بهتری نسبت به رادیولوژیست‌ها خواهد داشت.» این اتفاق نیفتاد. مشاغل رادیولوژی از بین نرفتند و رادیولوژیست‌ها همچنان تقاضای بالا و دستمزد بالایی دارند. روزنامه نیویورک تایمز در سال ۲۰۲۵ گزارش داد: «با نگاه به گذشته، [هینتون] معتقد است که در سال ۲۰۱۶ بیش از حد کلی‌گویی کرده است».

سناریوی آخرالزمانی و محدودیت‌های هوش مصنوعی

ظهور هوش مصنوعی باعث ایجاد ترس‌های شدیدتری نسبت به جایگزینی مشاغل انسانی توسط ماشین‌ها شده است. چه می‌شود اگر هوش مصنوعی به طور کامل از انسان‌ها پیشی بگیرد؟ آیا هوش مصنوعی می‌تواند آن‌قدر هوشمند شود که خودآگاهی و شعور پیدا کند و نوعی آخرالزمان ربات‌ها را رقم بزند که در فیلم‌های ترمیناتور و سایر مجموعه فیلم‌های علمی-تخیلی دیده می‌شود؟

در نامه سرگشاده‌ای تحت عنوان «بیانیه درباره ریسک هوش مصنوعی» در سال ۲۰۲۳ که امضاکنندگان آن شامل سم آلتمن، مدیرعامل OpenAI، بیل گیتس، بنیان‌گذار مایکروسافت، و افراد بسیار دیگری بودند، اعلام شد: «اقدام برای کاهش خطر انقراض ناشی از هوش مصنوعی باید به‌عنوان یک اولویت جهانی، در کنار سایر تهدیدهای کلان اجتماعی مانند بیماری‌های همه‌گیر و جنگ هسته‌ای، در نظر گرفته شود.»

یوشوا بنجیو، پژوهشگر هوش مصنوعی در دانشگاه مونترال و یکی از امضاکنندگان گفت: «سیستم‌های امروزی حتی به نقطه‌ای که خطر وجودی ایجاد کنند، نزدیک هم نیستند. اما در یک سال، دو سال، پنج سال آینده چطور؟ عدم‌قطعیت بیش از حد است. مساله اینجاست. ما نمی‌توانیم مطمئن باشیم که از نقطه‌ای عبور نخواهیم کرد که اوضاع فاجعه‌بار شود.»

یکی از سناریوهای رایج درباره نحوه وقوع این اتفاق، به‌اصطلاح «آخرالزمان گیره کاغذ» (Paperclip Apocalypse) است؛ یک آزمایش فکری که در سال ۲۰۱۴ توسط نیک بوستروم، فیلسوف دانشگاه آکسفورد مطرح شد. او این نظریه را مطرح کرد که یک هوش مصنوعی فوق‌هوشمند که مامور ساخت گیره کاغذ شده است، منابع اضافی را به ساخت گیره کاغذ اختصاص می‌دهد و روش‌هایی را برای جلوگیری از خاموش شدن خود پیدا می‌کند که در نهایت منجر به غرق شدن جهان در گیره‌های کاغذ اضافی می‌شود.

هدف این آزمایش فکری این نبود که گیره کاغذ نگران‌کننده است چراکه این سناریو می‌تواند مربوط به هر محصول دیگری باشد؛ بلکه هدف این بود که هوش مصنوعی فوق هوشمند می‌تواند از تلاش‌های انسانی برای تحت کنترل نگه داشتن آن پیشی بگیرد.

یکی از دلایلی که چرا چنین سناریوهایی برای بسیاری پذیرفتنی به نظر می‌رسند این است که فرهنگ عامه از قبل ما را طوری آموزش داده که فکر کنیم کامپیوترهای صاحب شعور اجتناب‌ناپذیر هستند. ربات‌ها و کامپیوترهایی با هوش در سطح انسان، دست‌کم از دهه ۱۹۵۰ به بعد در فیلم‌ها، رمان‌ها و کتاب‌های مصور رایج بوده‌اند. سرگرمی‌های محبوب بارها با پیامدها و تهدیدهای احتمالی آگاهی و شعور کامپیوترها دست‌وپنجه نرم کرده‌اند.

مخاطبان سینما در سال ۱۹۶۸ وقتی ‌هال ۹۰۰۰ در فیلم «۲۰۰۱: اودیسه فضایی» با خونسردی تمام سعی کرد خدمه سفینه را به قتل برساند، از ترس به خود می‌لرزیدند. بیست سال بعد، «ترمیناتور» جهانی را پیش‌بینی کرد که در آن رایانه‌ها بر انسان‌ها تسلط یافته و ربات‌هایی به شکل آرنولد شوارتزنگر می‌سازند تا مخالفان را شکار کنند. در سال ۱۹۹۹، فیلم «ماتریکس» این ایده را مطرح کرد که رایانه‌ها از قبل پیروز شده‌اند و واقعیتی ساختگی را بر بشریت تحمیل کرده‌اند که از آن بی‌خبر است.

هیچ‌یک از این سناریوها در آینده نزدیک معقول و محتمل نیستند. هوش مصنوعی واقعا صاحب شعور نشده است و با فرض اینکه اصلا امکان‌پذیر باشد، احتمالا راه زیادی تا آن باقی مانده است. حتی نوآوران هوش مصنوعی استدلال می‌کنند که فناوری فعلی تفکر نمی‌کند و برنامه‌هایی که قادر به شبیه‌سازی تفکر انسانی باشند، هنوز در دسترس نیستند.

یان لکون، رهبر پروژه هوش مصنوعی شرکت متا پلتفرمز در سال ۲۰۲۵ گفت: «ما صرفا با بزرگ کردن مقیاس مدل‌های زبانی بزرگ به هوش مصنوعی در سطح انسان نخواهیم رسید، و برخلاف آنچه ممکن است از برخی همکاران ماجراجوتر من بشنوید، این اتفاق ظرف دو سال آینده رخ نخواهد داد».

اورن اتزیونی، مدیرعامل بنیان‌گذار موسسه هوش مصنوعی الن (یک آزمایشگاه پژوهشی در سیاتل) گفت: «عبارت "فرضی بودن" روشی بسیار مؤدبانه برای بیان دیدگاه من درباره مباحث مربوط به خطرات وجودی است».

* اقتصاددان بازار کار