هوش مصنوعی و چالشهای پیشرو
از جمله مواردی که طی چند ماه اخیر در رابطه با هوش مصنوعی خبرساز شد، میتوان به سه مورد ذیل اشاره کرد، نخست، فرار کردن تعدادی از عوامل هوش مصنوعی (AI agent) از محدوده تعیین شده برای فعالیت آنها در زیرساخت شرکت OpenAI و نفوذ غیر مجاز آنها به سرورهای شرکت Hugging face؛ دوم، استعفای تعدادی از کارکنان شرکت Anthropic در اعتراض به فقدان سیاستهای درون سازمانی برای ایجاد محدودیتهای امنیتی برای عوامل هوش مصنوعی و البته سوم، نامه مدیرعامل شرکت پیشرو در عرصه هوش مصنوعی Anthropic، یعنی آقای داریو آمودی در رابطه با لزوم متوقف کردن یا کاهش سرعت توسعه این تکنولوژی.
اما با فرض اینکه توسعه و پیشرفت این تکنولوژی منحصر به فرد همین امروز متوقف شود، خطر دور نخواهد شد. آنچه که امروز به عنوان دستاورد از سوی این شرکتها ارائه میشود، به خودی خود، میتواند بسیار مخاطره انگیز باشد. برخی از خطرات بالقوه این تکنولوژی (که بعضا با آنچه در سند ملی هوش مصنوعی جمهوری اسلامی ایران ذکر شده همپوشانی دارد) شامل تهدیدهای مرتبط با بازار کار، مشاغل و درآمدها، دستکاری شناختی و رفتاری، سلامت عمومی و آموزش و موارد دیگر میشود.
بازار کار و مشاغل
روایتهای رایج حول محور از بین رفتن مشاغل از طریق جایگزین شدن نیرویکار با هوش مصنوعی، روایتهایی غیر دقیق هستند که تاکنون نیز به وقوع نپیوستهاند. اما این به معنای بیخطر بودن این فناوری پیشرفته نیست. دارون عجماوغلو (Daron Acemoglu)، استاد دانشگاه امآیتی و برنده جایزه نوبل اقتصاد، یکی از اقتصاددانان شناخته شدهای ست که طی سالهای گذشته تحقیقات شایان توجهی را در این عرصه انجام داده است. چارچوب فکری آقای عجماوغلو، توانایی کاربردی این فناوری را به دو دسته تقسیم میکند، افزایش بهرهوری نیروی کار (labor augmenting) و جایگزینی نیروی کار(labor displacing).
اما نگاهی دقیقتر، سال گذشته توسط دیوید آتر (David Autor) یکی دیگر از استادان دانشگاه امآیتی مطرح شد. بر اساس این چارچوب فکری، ریز وظایف مربوط به هر حرفه، براساس نیاز به دانش تخصصی، تقسیمبندی میشوند. لذا، میتوان این پرسش را مطرح کرد که چه بخشی از وظایف یک فرد شاغل (مثلا پزشک متخصص) به کمک هوش مصنوعی انجام میشود و چه بخشهایی همچنان بر عهده فرد شاغل باقی خواهد ماند. این نگرش، کمک شایانی میکند به توان ما برای ترسیم تصویری واقعی از آینده کار (آیندهای که در آن، همه ما با هوش مصنوعی همکار خواهیم بود). در صورتی که بخشی از وظایفی که نیازمند سالها آموزش و کسب تخصص است به عهده هوش مصنوعی گذاشته شود، تعداد کسانی که میتوانند از عهده وظایف این مشاغل بر بیایند افزوده شده و احتمالا نظر به کاهش قدرت چانهزنی متخصصان این عرصه، دستمزدها هم با روند کاهشی مواجه خواهند شد.
در سوی دیگر سکه، میتوان به مشاغلی اشاره کرد که هوش مصنوعی، بخش تکراری، بدون نیاز به فکر و خسته کننده شغل را انجام میدهد (خودکار میکند) و متخصص میتواند بخش عمده وقت خود را صرف پرداختن به وظایف تخصصی خود کند. در چنین شرایطی، میتوان انتظار داشت که بهرهوری در این مشاغل افزایش یافته و به دلیل اهمیت پیدا کردن تخصصی که قابل واگذاری به هوش مصنوعی نیست، درآمد این گونه متخصصان نیز افزایش یابد. بسیاری از کارکنان بخش خدمات سلامت در دسته اخیر میگنجند.
دستکاری شناختی
امروزه طرح پرسش از چتباتها (مانند ChatGPT) به جای جستوجو کردن در موتورهای جستوجوگر، بسیار رایج شده است. این عمل در مواردی، کار را بسیار تسریع میکند. نکتهای که در این عمل نهفته، واگذار کردن حق جستوجو و نتیجهگیری، از سوی انسان به چتبات است که در نهایت سبب کاهش عاملیت انسان کاربرمیشود. افزایش رایج این عادت، میتواند سبب سوق دادن تفکر بخشی از جامعه، به سمتی از پیش تعیین شده، در موضوعی خاص توسط عدهای خرابکار، با نیات شوم بشود. و در موارد خاص و حدی، این خطر بالقوه میتواند موجبات بیثبات شدن نظامهای سیاسی را به ارمغان آورد.
یک مثال واقعی، موضوع را کمی ملموستر میکند. نزدیک به یک ماه پیش، موسسهای که ثبت قانونی نشده بود، تحت عنوان اتاق فکر «موسسه سیاست عمومی هانوفر» بیش از ۱۲۰ گزارش غیر واقعی، متشکل از حدود نیممیلیون کلمه را در شبکه جهانی اینترنت بارگذاری کرد. به گزارش نشریه گاردین، این حرکت با بودجه اسرائیل و با هدف فریب دادن چتباتها، مانند چت جیپیتی، انجام شده بود. چتباتها با استفاده از اطلاعات اینترنت آموزش میبینند و کار اصلی آنها، باز تولید همان چیزی ست که در محتوای آموزشی آنها بهوفور تکرار شده است.
بدیهیست که تفاوتی بین جستوجو کردن و پرسیدن از چتباتها وجود دارد. طرح پرسش، جستوجو کردن، مطالعه کردن، اندیشیدن و قضاوت کردن، نوعی از فهم را در کاربر به وجود میآورد. فهمی که پیرو این فرآیند بهدست میآید، فاصلهای ژرف با فهمی دارد که به واسطه طرح پرسش از چتبات بهدست میآید. در نظام اطلاعاتی سالم و آزاد و در بستر سیاسی دموکراتیک، کاوش درباره حقیقت به عهده شهروند بوده و البته ضروری ست. اما طرح از یک چتبات آموزش دیده همراه با سوگیریهای یکطرفه، میتواند آغازی بسیار خطرناک برای ایجاد انحرافی شناختی در جامعه باشد.
سلامت عمومی و مباحث حول محور آموزش
دو تهدید دیگر که متوجه سلامت ذهنی و روانی جوامع هستند، عبارتند از استفاده از هوش مصنوعی به عنوان حامی روانی و رواندرمانگر و استفاده غلط از هوش مصنوعی به عنوان همیار در فرآیند آموزش. برخی آمارها (در جوامع غربی) حاکی از این هستند که نزدیک به ۶۰ درصد از کاربران هوش مصنوعی، در شرایط سخت و چالشی از این ابزار به منظور دریافت حمایت روحی و عاطفی استفاده میکنند. نظر به اینکه این چتباتها طراحی شدهاند برای اینکه رضایت کاربر را جلب کنند، بخش لاینفک کارکرد این چتباتها، مُهر تایید زدن بر آنچیزی ست که کاربر ارائه میدهد. حال آنکه اگر کاربر دچار یکی از انواع سوگیریهای شناختی شده باشد، این چتباتها به برداشت غلط کاربر از واقعیت صحه میگذارند!
یکی از فرآیندهای درمان (cognitive behavioural psychotherapist) بررسی تطبیقی حس مراجع، با واقعیت پیرامون اوست. چتباتها آموزش دیدهاند که اطلاعات دریافتی از کاربر را به عنوان واقعیت بپذیرند. لذا در زمینه طرح چالش برای بررسی فاصله احتمالی بین دریافت شخصی کاربر از محیط پیرامون و واقعیت پیرامون عاجز هستند. این نقش، به افزایش وخامت self-aggrandizement در کسانی که زمینه این عارضه را دارند منجر میشود.
در عرصه آموزش نیز، استفاده بیرویه و نابجا میتواند مشکلاتی را برای رشد توانایی ذهنی و تحلیلی افراد ایجاد کند. در بستر نظام آموزشی، چتباتها میتوانند تسهیلگر یا مانع باشند و این تماما بستگی به نحوه استفاده کاربر دارد. تعجیل و به دنبال جواب رفتن، مسیر را سریعتر میکند و فرصت لازم برای درک و دریافت مطلب را از دانشآموزان میگیرد. همین ابزار اما میتواند کمک شایانی را به دانشآموزانی ارائه دهد که علاقه دارند مطالب را عمیقتر درک کنند. برای این دسته از کاربران، هوش مصنوعی میتواند یک حامی و همراه ارزشمند باشد. از این رو، این ابزار حقیقتا مشابه شمشیر دولبه است، هم کمک در آموزش و تسهیلگر برای فهم عمیق، هم ارائه دهند میانبرهایی که فرصت یادگیری را از دانشآموز سلب میکند.
ایجاد نهاد ناظر و نقشآفرینی فعال مردم و رسانهها
از انقلاب صنعتی به این سو، فناوریهای متعددی بودهاند که باعث و بانی تحولات ژرف در زندگی ما انسانها شدهاند، از موتور بخار که حملونقل ریلی را ممکن کرد گرفته، تا موتور الکتریکی که خط تولید صنعتی را ممکن کرد، تا ترانزیستور که پایه ارتباطات دیجیتال شد، تا پروتکلهای ارتباطی که پیامرسانهای بینالمللی و ارتباط تصویری برخط را ممکن ساختند. همه این فناوریها مزایا و معایبی داشتهاند. اما آیا هوش مصنوعی نیز مانند مابقی تکنولوژیهای دو قرن اخیر است؟ آیا آثار گسترش استفاده از هوش مصنوعی در سطح گسترده، بر بازار کار، بر نحوه پخش شدن درآمد ملی بین اقشار مختلف، بر عرصه آموزش، بر سطح سلامت روانی جامعه و بر افزایش یا کاهش بوجود آمدن دوقطبیهای خشن سیاسی، طی سالهای آینده قابل پیشبینی خواهد بود؟
امروز ما با تکنولوژی روبهرو هستیم که عالیرتبهترین مدیران مهمترین شرکتهایی که در حال توسعه آن هستند، خواستار کاهش سرعت توسعه این تکنولوژی شدهاند. جای این پرسش باقیست آیا ما درک درستی از پیامدهای گسترش این تکنولوژی داریم؟ صحبت از پتانسیلهای هوش مصنوعی بسیار است: افزایش چشمگیر رشد اقتصادی، پیشرفت چشمگیر رشد علمی، ریشهکن شدن فقر و غیره و البته هشدارهای مربوط به هوش مصنوعی بیشتر از وعدههای شیرین هستند: عدم دستیابی به رشد اقتصادی، تاثیر منفی بر مشاغل و درآمدها، ایجاد یک حباب مالی بزرگ، تهدید جدی برای سلامتی روان جوامع، افزایش دو قطبیهای خشن سیاسی و غیره.
مسیر پیشرو، بسیار پر چالش است و در وصف اهمیت انتخابها و کنشهای جوامع در مواجهه با این فناوری نمیتوان اغراق کرد. استقرار و ارائه خدمات هوش مصنوعی را نباید به نظامهای حکمرانی سپرد؛ چرا که هوش مصنوعی یکی از بهترین فناوریها برای استقرار سلطه و ایجاد خفقان است و نیز، سپردن این ابزار به بخش خصوصی، به مانند اهدای انحصار دانش به یک شرکت، در عصر پیشا اینترنت است. تضمین موفقیت این شرکت و وابستگی دیگران به او. لذا، ایجاد مسیر سوم، قطعا ضروری است. بنیانگذار شرکت دیپ مایند (DeepMind) آقای دمیس هسبیس پیشنهادی برای تاسیس یک نهاد ناظر (غیر انتفاعی) را مطرح کرده که البته این کار ضروری است. جمهوری اسلامی ایران نیز گامهایی در این راستا برداشته است. اما نظر به پرپیچوخم بودن مسیر پیشرو، اطمینان حاصل کردن از محدود ماندن تهدیدهای این فناوری، نیازمند نقشآفرینی فعال مردم، توجه بیش از پیش رسانهها و مسوولیتپذیری قانونگذاران است.
* تحلیلگر مسائل اقتصاد بینالملل
