تهدید‌های بالقوه هوش مصنوعی

در این یادداشت می‌کوشم چنین چشم‌اندازی ارائه کنم تا نشان دهم چگونه نوید افزایش بهره‌وری اقتصادی از سوی هوش مصنوعی می‌تواند با تهدیدی برای تمرکز قدرت جهانی همراه شود؛ تمرکزی که ممکن است نهادهای حیاتی سیاسی را تضعیف کند، مگر آنکه با دقت و دوراندیشی لازم برای تقویت بنیان‌های محلی آنها اقدام کنیم. هرچند من از منظر یک دانشمند علوم اجتماعی و با هدایت مدل‌های بنیادی نظریه اقتصادی و سیاسی به این پرسش‌ها می‌پردازم، با پاپ لئو چهاردهم درباره ارزش بالقوه بینش‌هایی که می‌توان از ارجاعات کتاب مقدس به برج بابل و دیوارهای اورشلیم در دوران نحمیا به دست آورد، هم‌نظر هستم. نتیجه‌گیری‌های من در اینجا نیز با رساله Magnifica Humanitas او همسو است، به‌ویژه در تاکید بر اهمیت اصل «تبعیت» به‌عنوان اصلی بنیادین برای جامعه‌ای که بتواند به اندازه کافی نیرومند باشد تا با چالش‌های امروزی هوش مصنوعی مواجه شود. همچنین بررسی می‌کنم که چگونه می‌توان حتی بدون مقررات رسمی دولتی، به رعایت استانداردهای ایمنی بالاتر در حوزه هوش مصنوعی تشویق کرد. اما در نهایت، از آنجا که تمام پیش‌بینی‌های کنونی ما درباره پیامدهای اجتماعی بالقوه و تحول‌آفرین هوش مصنوعی را تنها می‌توان نوعی گمانه‌زنی آگاهانه دانست، باید این بحث را با این ملاحظه به پایان برسانم که ضرورت احتیاط سنجیده در به‌کارگیری این فناوری جدید، در کشورهای پیشرو که زودتر از دیگران آن را به کار می‌گیرند، بیش از هر جای دیگری خواهد بود.

بازاندیشی دیدگاه‌ها  درباره تغییرات فناورانه 

از آغاز شکل‌گیری اقتصاد مدرن، اقتصاددانان استدلال کرده‌اند که منافع حاصل برای کسانی که از پیشرفت‌های فناورانه افزایش‌دهنده بهره‌وری منتفع می‌شوند، از زیان‌هایی که متوجه افرادی می‌شود که مهارت‌ها و معیشت پیشینشان در اثر فناوری جدید منسوخ شده است، بیشتر خواهد بود. بااین‌حال، هنگامی که مشخص نباشد آیا کسانی که از فناوری جدید منتفع می‌شوند واقعا غرامتی متناسب به کسانی خواهند پرداخت که به دلیل منسوخ‌شدن سرمایه‌گذاری‌های شخصی‌شان در مشاغلی که از میان می‌روند متضرر شده‌اند یا نه، این استدلال‌ها چندان قانع‌کننده نیستند.

اقتصاددانان همچنین ممکن است خاطرنشان کنند که از دست‌رفتن مشاغل در یک بخش، در بلندمدت باید با ایجاد مشاغل جدید در بخش‌های دیگر جبران شود؛ زیرا نرخ‌های دستمزد تعدیل می‌شوند تا عرضه و تقاضای نیروی کار را با یکدیگر برابر کنند. اما نظریه اقتصادی این امکان را نیز می‌پذیرد که پیشرفت‌های فناورانه در تعادل جدید به دستمزدهای پایین‌تر منجر شوند؛ برای مثال، زمانی که فناوری جدید به صاحبان بنگاه‌ها و سرمایه امکان دهد سودها و رانت‌های بیشتری به دست آورند و در نتیجه سهم بزرگ‌تری از محصول ملی را به خود اختصاص دهند. بنابراین، برای ارزیابی پیامدهای اجتماعی تغییرات فناورانه، باید بپرسیم چه نوع مشاغلی ممکن است از میان بروند و این تغییرات چگونه می‌توانند بر توزیع ثروت و قدرت در جامعه اثر بگذارند.

نخستین نکته بنیادی که باید به آن توجه کنیم این است که هوش مصنوعی، به‌طور کلی، جایگزینی برای هوش انسانی خواهد بود. اگر در دسترس‌بودن هوش مصنوعی باعث شود مزدی که کارفرمایان حاضرند برای هوش انسانی بپردازند کاهش یابد، در آن صورت ممکن است انگیزه انسان‌ها برای سرمایه‌گذاری پرهزینه در آموزش خودشان کمتر شود.

افزون بر این، هنگامی که بنگاه‌ها سرمایه‌گذاری در آموزش و پرورش نیروی انسانی را با سرمایه‌گذاری در ماشین‌های هوش مصنوعی مقایسه می‌کنند، این امکان که کسب مهارت‌های جدید به کارکنان انسانی اجازه دهد دستمزدهای رقابتی بالاتری مطالبه کنند، ممکن است خود انگیزه‌ای برای بنگاه‌ها باشد تا به‌جای هوش انسانی، بیشتر در هوش مصنوعی سرمایه‌گذاری کنند. بنابراین، اگر نمی‌خواهیم در جامعه‌ای با سطح پایین‌تر هوش انسانی زندگی کنیم، شاید به‌درستی بتوان پیشنهاد کرد که بر هوش مصنوعی مالیاتی وضع شود تا درآمد حاصل از آن برای یارانه‌دادن به آموزش انسانی اختصاص یابد. چنین یارانه‌هایی ممکن است به‌ویژه در جوامعی ضروری باشند که در آنها شمار زیادی از مشاغل از میان رفته است، به‌گونه‌ای که نسل بعدی ممکن است بدون الگوهای بزرگسال برای شکل‌دادن به معیشت آینده خود رشد کند. در چنین جوامعی، هزینه از دست‌رفتن مشاغل کنونی ممکن است در اثر پیامدهای جانبی منفیِ ازهم‌گسیختگی اجتماعی که می‌توانند نسل‌ها ادامه یابند، تشدید شود. ما انسان‌ها در طول تکامل خود گرایشی پیدا کرده‌ایم که هنگامی که در بزرگسالی کار می‌کنیم، در کارمان احساس کرامت کنیم؛ به‌ویژه وقتی کار خود را مشابه کاری می‌بینیم که در کودکی از بزرگان محترم جامعه دیده‌ایم. بنابراین، تحلیل اقتصادی نباید هنگام ارزیابی رفاه بلندمدت انسان‌ها، از پیامدهای نامطلوبی که تغییرات فناورانه از طریق ایجاد اختلال در جوامع کامل و به‌هم‌پیوسته به وجود می‌آورند، غافل شود.

تاثیر هوش مصنوعی بر مشاغل

بااین‌حال، دلایلی وجود دارد که نشان می‌دهد تاثیر هوش مصنوعی ممکن است به‌طور چشم‌گیری با تاثیر سایر پیشرفت‌های فناورانه اخیر متفاوت باشد. برای درک چرایی این امر، می‌توانیم بحث را با بررسی تمایزی میان مشاغل آغاز کنیم که در جریان همه‌گیری اخیر کووید-۱۹ آشکار شد.

در اوج همه‌گیری، بسیاری از مردم دریافتند که می‌توانند با برقراری ارتباط از طریق ایمیل و ویدئوکنفرانس در بستر اینترنت جهانی، همچنان کار خود را از خانه انجام دهند. اما بسیاری دیگر همچنان مجبور بودند برای کار از خانه خارج شوند و در طول همه‌گیری خطر ابتلا به بیماری را بپذیرند، زیرا مسوولیت‌هایی برای رسیدگی به امور محلی داشتند که مستلزم حضور فیزیکی آنان در خارج از خانه بود. می‌توانیم این دو گروه گسترده را به‌ترتیب «شبکه‌کاران» و «مراقبت‌کنندگان» بنامیم. بسیاری از مشاغل پردرآمدی که مستلزم هدایت تصمیم‌ها و سیاستگذاری‌ها در سازمان‌های بزرگ بودند، در میان مشاغل شبکه‌کارانی قرار می‌گرفتند که می‌توانستند از خانه کار کنند.

هرچند ممکن بود شبکه‌کاران در دوران همه‌گیری گروهی برخوردار و ممتاز به نظر برسند، مشاغلی از این دست ممکن است به‌ویژه در برابر کاربردهای آتی هوش مصنوعی آسیب‌پذیر باشند. فردی که با استفاده از اینترنت از خانه کار می‌کند، به‌طور مرتب متن‌ها، داده‌ها و تصاویری را که به‌صورت دیجیتال منتقل شده‌اند دریافت می‌کند، دانش و تجربه شخصی خود را برای پردازش این اطلاعات به کار می‌گیرد و سپس متن‌ها، داده‌ها یا تصاویر جدیدی تولید می‌کند تا به هدایت دیگران در شبکه کمک کند. اما پیشرفت‌های اخیر در فناوری هوش مصنوعی روش‌های قدرتمند جدیدی را برای آموزش رایانه‌ها معرفی کرده‌اند تا در برابر اطلاعات دیجیتال به شیوه‌هایی واکنش نشان دهند که با الگوهای نشان‌داده‌شده از سوی متخصصان انسانی مطابقت داشته باشد؛ مشروط بر آنکه داده کافی درباره واکنش‌های متخصصان انسانی در دسترس باشد. بنابراین، در اصل، مدل‌های هوش مصنوعی مولد را می‌توان آموزش داد تا جایگزین هر نوع کاری شوند که شبکه‌کاران بتوانند از راه دور و از طریق اینترنت انجام دهند.

تغییرات فناورانه در نسل‌های پیشین، از نظر کیفی، تفاوت بسیاری با این وضعیت داشته‌اند. از جمله نوآوری‌های فناورانه مهم در قرن نوزدهم می‌توان به موتور و برق اشاره کرد. موتورها می‌توانستند در مشاغل فیزیکی مربوط به مراقبت و رسیدگی، جایگزین نیروی عضلانی انسان شوند و مدارهای الکتریکی نیز امکان انتقال سریع اطلاعات در فواصل طولانی را فراهم کردند؛ انتقالی که می‌توانست توانایی مغز انسان در پردازش اطلاعات را تکمیل کند. در نتیجه، تحولات قرن بیستم امکان افزایش چشم‌گیری را در سهم جمعیتی از انسان‌ها فراهم کرد که مشاغلشان مستلزم پردازش اطلاعات در شبکه‌های جهانیِ پشتیبان تصمیم‌گیری و تخصیص منابع در سازمان‌های بزرگ بود. این گسترش طبقه متوسط بسیار باسواد ممکن است به گسترش بی‌سابقه دموکراسی در کشورهای سراسر جهان کمک کرده باشد.

اما اکنون هوش مصنوعی تهدید می‌کند که این روند را معکوس کند و مردم را از مشاغل طبقه متوسط در شبکه‌هایی که تخصیص منابع را در سراسر جهان مدیریت می‌کنند، به سمت مشاغلی بازگرداند که بر رسیدگی به منابع محلی متمرکزند. هوش مصنوعی با کاهش هزینه‌های دستمزد در اداره شرکت‌های بزرگ و دستگاه‌های دولتی، می‌تواند به شکل‌گیری جهانی منجر شود که در آن سازمان‌های بزرگ‌تر مسلط‌اند و شمار کمتری از افراد آنها را هدایت می‌کنند. بنابراین، ممکن است گمراه‌کننده باشد اگر از تاریخ پیشرفت‌های فناورانه قرن نوزدهم نتیجه‌گیری خود را به زمان حاضر تعمیم دهیم؛ پیشرفت‌هایی که می‌توانستند هوش انسانی را تکمیل کنند، درحالی‌که هوش مصنوعی امروزی می‌تواند جایگزین هوش انسانی شود.

اکنون باید نسبت به این امکان نگران باشیم که سهم فزاینده‌ای از انسان‌ها احساس کنند از شبکه‌های جهانی‌ای که قدرت اقتصادی و سیاسی را در جوامع سراسر جهان اعمال می‌کنند، جدا افتاده و بیگانه شده‌اند.

کاهش هزینه‌های رانت مخاطره اخلاقی

در این زمینه، یکی از مفاهیم مرتبط در نظریه اقتصادی، مفهوم «رانت مخاطره اخلاقی» است. سازمان‌های بزرگ به‌طور معمول اختیارات قابل‌توجهی در زمینه منابع و سیاست‌ها را به مامورانی که استخدام کرده‌اند واگذار می‌کنند. در بسیاری از موارد، یک شغل ممکن است شامل اختیارات تفویض‌شده‌ای باشد که مامور را وسوسه کند از آنها برای کسب منفعت شخصی سوءاستفاده کند؛ آن‌هم به شیوه‌هایی که در بلندمدت می‌تواند به منافع کارفرما آسیب بزند، اما در کوتاه‌مدت مشاهده آن برای کارفرما دشوار باشد. در مورد چنین مشاغلی، کارفرما ممکن است برای ایجاد انگیزه در مامور جهت رفتار درست، وعده دهد که علاوه بر یک دستمزد رقابتی، در صورتی که مامور سابقه‌ای از خدمت شایسته از خود به جا بگذارد، می‌تواند انتظار پاداش‌های بلندمدتی را داشته باشد که از منافع بالقوه او در صورت سوءاستفاده از اختیارات تفویض‌شده بیشتر باشد. این پاداش‌های تکمیلی، همان رانت‌های مخاطره اخلاقی برای مامور مسوول هستند.

اقتصاددانان می‌دانند که در بسیاری از موارد، بنگاه‌ها می‌توانند با واگذارکردن سهمی از مالکیت منابع محلی به مامور، از پرداخت رانت‌های مخاطره اخلاقی برای مشاغل مربوط به رسیدگی به منابع محلی اجتناب کنند. اما قدرت و اختیار تفویض‌شده بر شبکه‌های اداری را نمی‌توان به این سادگی خصوصی کرد. ازاین‌رو، بسیاری از مطلوب‌ترین مشاغل امروز در اقتصاد ما، رانت‌های قابل‌توجهی از نوع رانت مخاطره اخلاقی را از جایگاه‌های قدرت در شبکه‌های اقتصادی و سیاسی جهانی دریافت می‌کنند.

حال در نظر بگیرید چه اتفاقی ممکن است رخ دهد اگر بتوان یک سامانه رایانه‌ای مبتنی بر هوش مصنوعی را آموزش داد تا به ورودی‌های پیچیده شبکه‌ای، همانند بهترین متخصصان انسانی حاضر در این جایگاه‌ها، پاسخ دهد، اما بدون آنکه هیچ منفعت انسانی‌ای برای سوءاستفاده شخصی از قدرت تفویض‌شده در این جایگاه‌ها داشته باشد. در این صورت، کارفرمایانی که در این جایگاه‌ها رایانه‌ها را جایگزین انسان‌ها کنند، می‌توانند در هزینه رانت‌های مخاطره اخلاقی صرفه‌جویی کنند؛ هزینه‌ای که ممکن است بسیار بیشتر از هزینه یک دستمزد رقابتی و کفاف‌دهنده زندگی باشد. از منظر اقتصادی، حذف هزینه این رانت‌های مخاطره اخلاقی، آشکارا یک افزایش بهره‌وری به شمار می‌رود؛ زیرا به کارفرمایان اجازه می‌دهد کالاها و خدمات بیشتری را با منابع کمتری تولید کنند.

اما از منظر سیاسی، باید نسبت به حذف گسترده رانت‌های مخاطره اخلاقی از سازمان‌های بزرگ سیاسی و اقتصادی نگرانی‌های جدی داشته باشیم. در طول تاریخ، رانت‌های مخاطره اخلاقی عاملی مهم در واداشتن نخبگان حاکم به تقسیم منافع قدرت با گروه‌های گسترده‌تری از مردم در شبکه‌های اداری فراگیر بوده‌اند. حتی پیش از شکل‌گیری دموکراسی قانون اساسی، رهبران ملی می‌دانستند که توانایی آنان برای حکومت‌کردن به این بستگی دارد که به‌طور قابل‌اعتمادی به حامیان سیاسی و ماموران اجرایی حکومت، پاداش‌های وعده‌داده‌شده را اعطا کنند؛ و ترس از دست‌دادن این اعتبار می‌توانست نیرویی اساسی برای واداشتن رهبران ملی به رعایت محدودیت‌های قانون اساسیِ مورد پذیرش گسترده در جامعه باشد.

بنابراین، فناوری هوش مصنوعی با فراهم‌کردن امکان جایگزین‌کردن مدیران انسانی دارای منافع شخصی با سامانه‌های هوش مصنوعی که برای خدمت به منافع اربابان شرکتی خود برنامه‌ریزی شده‌اند، ممکن است حتی در شرایطی که سازوکارهای سنتی تضمین‌کننده توزیع گسترده‌تر منافع قدرت در جامعه را تضعیف می‌کند، دستاوردهای قابل‌توجهی در کارآیی اقتصادی به همراه داشته باشد. اینها دلایلی بنیادین هستند که باید ما را نسبت به ظرفیت هوش مصنوعی برای ایجاد تمرکزهایی از قدرت که از نظر تاریخی بی‌سابقه‌اند و در دست نخبگانی محدود قرار می‌گیرند، به‌شدت نگران کنند.

درس‌هایی درباره محدودکردن قدرت متمرکز

در کشورهایی که اصول دموکراسی قانون اساسی در آنها به‌خوبی تثبیت شده‌اند، می‌توان امیدوار بود که پاسخ‌گویی دموکراتیک نیز رهبران را وادار کند منافع قدرت را به‌طور گسترده‌تری تقسیم کنند. اما ائتلاف‌های سیاسی ملی به‌طور فزاینده‌ای به الگوریتم‌هایی وابسته می‌شوند که با استفاده از هوش مصنوعی اداره می‌شوند و می‌توانند تعیین کنند چه کسانی در اینترنت مورد توجه گسترده قرار گیرند. بنابراین، توانایی مردم برای سازمان‌دهی سیاسی در برابر تمرکز ثروت و قدرت در شبکه‌های عظیمی که با هوش مصنوعی اداره می‌شوند، ممکن است بیش از پیش به گروه‌های سیاسی محلی‌ای وابسته شود که بتوانند بدون استفاده از اینترنت و از طریق گردهمایی‌های شهری و تعاملات چهره‌به‌چهره میان همسایگان، اعضا را جذب کنند.

پرسش حیاتی در اینجا این است: هنگامی که نظام‌های سیاسی و اقتصادی جهان به دست نخبگانی محدود و با استفاده از هوش مصنوعی اداره می‌شوند، چه چیزی می‌تواند تضمین کند که این نظام‌ها در خدمت منافع بشریت به‌طور کلی باشند؟ در بلندمدت، دفاع از منافع ما به استعداد ذاتی انسان‌ها برای سازمان‌دهی گروه‌ها و شبکه‌های محلی از طریق تعاملات شخصی وابسته خواهد بود؛ زیرا همین توانایی در به‌اشتراک‌گذاشتن اطلاعات و سازمان‌دهی اقدامات جمعی در سطح جامعه بود که در اصل به انسان‌ها امکان داد بر جهان مسلط شوند. اما تاریخ نمونه‌های بسیاری را در بر داشته است که در آن نخبگان ملی توانسته‌اند با اعمال کنترل از بالا به پایین بر رهبری محلی، جمعیت‌های بزرگی را سرکوب کنند. کشورهایی که نهادهای خودمختار حکومت محلی را حفظ نمی‌کنند، ممکن است در عصر هوش مصنوعی با بیشترین خطر تمرکز مهارنشده قدرت روبه‌رو شوند. از این منظر، می‌توانیم خردمندانه‌بودن پیشنهاد پاپ لئو را دریابیم که می‌گوید اندیشیدن درباره چالش‌های هوش مصنوعی می‌تواند به‌نحو سودمندی با مقایسه دو داستان کتاب مقدس درباره پروژه‌های ساخت‌وساز در دوران باستان هدایت شود: برج بابل و بازسازی دیوارهای اورشلیم به دست نحمیا. داستان نحمیا را می‌توان یادآوری‌ای جاودانه دانست مبنی بر اینکه حتی بزرگ‌ترین امپراتوری‌ها نیز ممکن است برای حفاظت از رفاه مردم همچنان به نهادهای محلی خودمختار نیاز داشته باشند.

هنگامی که برای یافتن درس‌هایی از دوران باستان تلاش می‌کنیم که بتوانند چشم‌اندازی بلندمدت‌تر درباره انقلاب هوش مصنوعی امروز به ما ارائه دهند، می‌توانیم در داستان کتاب مقدسِ برج بابل، نمونه‌ای با شباهت‌های بسیار نزدیک بیابیم. در این داستان، مردمی که در جامعه‌ای جهانی و یکپارچه زندگی می‌کردند، ساخت برجی را برای رسیدن به آسمان الهی آغاز کردند، تا آنکه پروژه مقدس‌ستیزانه آنان با فروپاشی دولت یکپارچه‌شان متوقف شد. پاپ لئو در رساله Magnifica Humanitas پیشنهاد می‌کند که این داستان را باید در کنار داستان کتاب مقدسِ پروژه نحمیا برای بازسازی دیوارهای اورشلیم قرار داد؛ پروژه‌ای که پس از آن آغاز شد که امپراتوران پارسی به یهودیان اجازه دادند از تبعید بابلی بازگردند.

هر دو پروژه ساخت‌وساز درون امپراتوری‌های عظیمی انجام شدند که از دید ساکنانشان همچون جهانی یکپارچه به نظر می‌رسیدند. داستان بابل به ما هشدار می‌دهد که برای آنچه می‌توان با قدرت متمرکز در یک امپراتوری بزرگ به انجام رساند، باید محدودیت‌هایی قائل شویم؛ در مقابل، داستان نحمیا از واگذاری قدرت به مقامات محلی خودمختار در درون امپراتوری بزرگ ایران سخن می‌گوید. نحمیا، که خدمتکاری یهودی در دربار امپراتور پارس بود، از امپراتور اجازه خواست تا دیوارهای پیرامون زادگاه اجدادی خود، اورشلیم، را بازسازی کند. با موافقت امپراتور، بازسازی این دیوارها به رهبران محلی این شهر کوچک امکان می‌داد تا از مردم خود در برابر برخی تهدیدهای اساسی محافظت کنند.

بنابراین، دیوارهای اورشلیم ابتکاری محلی بودند که می‌توانستند از امپراتوری مجوز بگیرند، زیرا امپراتور به نحمیا به‌عنوان نماینده منافع محلی آن استان گوش داد. در مقابل حمایت امپراتور، امپراتوری او می‌توانست از طریق افزایش رفاه جامعه محلی و وفاداری رهبران محلی مورد اعتماد، نیرومندتر شود. ازاین‌رو، امپراتوری پارس می‌توانست نسبت به بابل دوام بیشتری داشته باشد، زیرا امپراتوران پارس رهبران محلی را تشویق می‌کردند تا برای برقراری صلح و رفاه در هر بخش از قلمرو پهناور امپراتوری، سرمایه‌گذاری‌های محلی و غیرمتمرکز انجام دهند.

اصل کلی در اینجا، یعنی محدودکردن تمرکز قدرت از طریق واگذاری مسوولیت‌ها و توانمندی‌های بیشتر به جوامع و انجمن‌های محلی، اصل تبعیت (subsidiarity) نامیده می‌شود. هرچه هوش مصنوعی امکان تمرکز قدرت بر شبکه‌های جهانی را در دستانی محدودتر فراهم می‌کند، اهمیت این امر نیز بیشتر می‌شود که مردم در همه‌جا رهبران محلیِ پاسخ‌گو در برابر جامعه خود داشته باشند؛ رهبرانی که بتوانند از جامعه خود در برابر برخی تهدیدهای اساسی محافظت کنند و همچنین صدایی برای دفاع از منافع محلی نزد رهبران ملی باشند.

بنابراین، نگرانی درباره آثار تمرکزگرایانه هوش مصنوعی ممکن است ما را نیز وادار کند، همانند نحمیا، بپرسیم برای تقویت خودحکمرانی محلی مردم در همه‌جا چه می‌توان کرد. در کشورهایی که از نهادهای خودمختار حکومت محلی برخوردار نیستند، معادل‌های امروزی دیوارهای اورشلیم باستان باید با مقررات ملی‌ای آغاز شوند که مسوولیت‌های قابل‌توجهی را همراه با یک بنیان مالی مستحکم به حکومت‌های محلی منتخب واگذار کنند. سپس، برای تقویت نهادهای حکومت محلی در عصر هوش مصنوعی، شاید ارزش داشته باشد ایده‌هایی را بررسی کنیم درباره اینکه چگونه حکومت‌های محلی می‌توانند نقشی منظم در تایید هویت شهروندان خود در اینترنت بر عهده بگیرند و چگونه استانداردهای اینترنتی می‌توانند منابع خبری محلی را بیشتر در فیدهای خبری و شبکه‌های اجتماعی مردم تقویت کنند. همچنین می‌توان پیشنهاد کرد که هنگامی که مهندسان هوش مصنوعی اصول بنیادین قانون اساسی را برای هدایت رفتار عامل‌های هوش مصنوعی تدوین می‌کنند، احترام به رهبران جوامع محلی در نهادهای خودمختار محلی نیز باید به‌عنوان یک اصل اساسی در این چارچوب گنجانده شود.

پرسش‌هایی درباره ایمنی هوش مصنوعی

در بحث بالا، چالش‌های بالقوه هوش مصنوعی را در شرایطی بررسی کردیم که این فناوری مطابق با مقاصدی که انسان‌های توسعه‌دهنده آن در نظر گرفته‌اند، عمل کند. اما نگرانی‌های گسترده‌ای نیز درباره این احتمال وجود دارد که اقدامات ناایمن و ناخواسته از سوی عامل‌های هوش مصنوعی ابرهوشمند بتواند به پیامدهایی فاجعه‌بار منجر شود.

این خطرات به‌ویژه در مورد سامانه‌های هوش مصنوعی‌ای بیشتر است که در حوزه‌های حساسی مانند مهندسی ژنتیک، سامانه‌های تسلیحات هسته‌ای یا امنیت سایبری تخصص دارند. عرضه مدل‌های زبانی بزرگ مجهز به هوش عمومی مصنوعی (AGI) می‌تواند چنین تخصص بالقوه خطرناکی را در دسترس همگان قرار دهد. اگر تولیدکنندگان هوش مصنوعی از هدف دستیابی به هوش عمومی مصنوعی روی برگردانند و در عوض بر توسعه مدل‌های تخصصی هوش مصنوعی تمرکز کنند که تنها در حوزه‌های مشخصی آموزش عمیق دیده‌اند، ممکن است بتوان این خطرات را کاهش داد؛ به‌گونه‌ای که دسترسی به مدل‌های دارای تخصص در یک حوزه حساس تنها در اختیار گروه محدودی از کاربران واجد صلاحیت قرار گیرد.

پاسخ‌های مناسب به نگرانی‌های واقع‌بینانه درباره ایمنی هوش مصنوعی باید در قالب استانداردهای ایمنی تدوین شوند؛ استانداردهایی که کارشناسان مستقل در زمینه فناوری هوش مصنوعی و کاربردهای بالقوه خطرناک آن تعیین می‌کنند. چنین استانداردهایی ممکن است از سوی نهادهای مقررات‌گذار دولتی در کشورهایی وضع شوند که بر شرکت‌های پیشرو در حوزه هوش مصنوعی صلاحیت قضایی دارند. اما در غیاب مقررات دولتی، استانداردهای صنعتیِ بالفعل نیز می‌توانند به‌طور موثر از سوی کمیته‌ای از کارشناسان تعیین شوند؛ مشروط بر اینکه ارزش داوری‌های این کمیته از سوی گروهی برجسته از ذی‌نفعان به رسمیت شناخته شود و این گروه به‌طور علنی پایبندی خود را به گزارش‌های کمیته اعلام کنند.

مزایای پیشرفت کندتر اجرای گسترده هوش مصنوعی

تنها پس از آنکه سال‌ها تجربه حاصل از کاربردهای محدودتر یک فناوری جدید به ما نشان دهد چه تعداد از امور ممکن است در مورد آن به خطا برود، می‌توانیم نسبت به چگونگی مدیریت خطرات آن فناوری تا حدی اطمینان پیدا کنیم. این نیاز به کسب شناخت بیشتر درباره خطرات بالقوه، دلیل خوبی برای کندتر پیش رفتن در معرفی هوش مصنوعی در شرایط کنونی است. بااین‌حال، دشواری پاسخ‌گویی به چالش‌های بالقوه هوش مصنوعی با استدلال‌های رایجی تشدید شده است که بر اساس آنها سیاستگذاران نباید هیچ اقدامی انجام دهند که بتواند توسعه هوش مصنوعی را در کشورشان کند کند؛ مبادا کشورهای دیگر در رقابت برای پیشتازی در توسعه هوش مصنوعی، مزیت‌های حیاتی‌ای به دست آورند. برای جمع‌بندی بحث، باید پاسخی کلی به این استدلال‌ها ارائه کنیم.

نخست، مؤلفه مربوط به امنیت ملی را از این استدلال‌ها کنار بگذاریم. منطق تراژیک و قانع‌کننده مسابقه تسلیحاتی را شاید بتوان در مورد چند کاربرد خاص فناوری هوش مصنوعی، مانند امنیت سایبری یا هدایت تاکتیکی تسلیحات جدید، مرتبط دانست. اما قدرت‌های نظامی بزرگی که در مسابقات تسلیحاتی شرکت می‌کنند، عموما انتظار ندارند سرمایه‌گذاری‌هایشان برای تولید تسلیحات جدید، هیچ‌گاه در مقیاسی گسترده برای فروش به مردم جامعه مورد استفاده قرار گیرد. توسعه قابلیت‌های جدید هوش مصنوعی که برای امنیت ملی ضروری تلقی می‌شوند، می‌تواند از محل بودجه‌های نظامی و برای اهداف تخصصی تامین تجهیزات نظامی تامین مالی شود، بی‌آنکه لازم باشد یک شبکه ملی گسترده از مراکز داده برای دگرگون‌کردن کل اقتصاد ایجاد شود. بنابراین، روشن نیست چرا توسعه سامانه‌های پیشرفته هوش مصنوعی برای اهداف امنیت ملی باید به پیشتازی گسترده‌تر یک کشور در توسعه مدل‌های زبانی بزرگِ همه‌منظوره و هوش مصنوعی مولد وابسته باشد.

دلایل بسیاری دیدیم که نشان می‌دهند اجرای گسترده فناوری هوش مصنوعی می‌تواند ظرفیت قابل‌توجهی برای ایجاد ازهم‌گسیختگی اجتماعی داشته باشد: از طریق از میان بردن مشاغل مسوولانه، کاهش انگیزه‌ها برای سرمایه‌گذاری در سرمایه انسانی، و فراهم‌کردن امکان تمرکز هرچه بیشتر قدرت اقتصادی و سیاسی. هزینه‌های چنین ازهم‌گسیختگی اجتماعی‌ای ممکن است به‌ویژه در کشورهایی شدید باشد که در اجرای هوش مصنوعی در سراسر اقتصاد خود به پیشتازی زودهنگام دست می‌یابند. کشورهایی که هوش مصنوعی را دیرتر معرفی می‌کنند، می‌توانند با منتظر ماندن و مشاهده آثار آن در کشورهایی که زودتر آن را به کار گرفته‌اند، راه‌هایی برای تنظیم این فناوری بیابند که بتواند زیان‌بارترین پیامدهای آن را کاهش دهد.

در واقع، می‌توان آینده‌ای را تصور کرد که در آن، رهبری انسانی در شبکه‌های جهانی قدرت، بیش از همه از سوی کشورهایی سرچشمه بگیرد که هوش مصنوعی را دیرتر معرفی کرده‌اند و در نتیجه توانسته‌اند نقاط قوت خود در زمینه سرمایه انسانی و سرمایه اجتماعی را بهتر حفظ کنند. قطعا کشورهایی که نخستین کشورها در معرفی هوش مصنوعی هستند، باید بیش از همه علاقه‌مند به سرمایه‌گذاری برای پیش‌بینی آثار نامطلوب بالقوه آن باشند. ناتوانی ما در پیش‌بینی مطمئن تمامی آثار نامطلوب بالقوه هوش مصنوعی بر جامعه‌مان، باید خود دلیلی بنیادین برای احتیاط باشد.

* نوبلیست اقتصاد