زمین بازی «هوش‌مصنوعی» چیست؟ کارشناسان در میزگرد «اکوایران» بررسی کردند
داده‌هراسی در ایران
مهران خسروزاده : فناوری واژه‌ای پرتکرار در زندگی ما انسان‌ها است. کمتر کسی را می‌توان یافت که معتقد نباشد پیشرفت تکنولوژی ما رو خوشبخت‌تر از قبل کرده است. با این حال برخی صاحب‌نظران بر این عقیده‌اند که خوش‌بینی به فناوری می‌تواند خطرناک باشد و خطراتی را متوجه آینده بشر کند. جدیدترین کتاب دارون عجم‌اوغلو، استاد دانشگاه MIT با نام «قدرت و پیشرفت؛ نزاع هزار ساله بشر بر سر فناوری و بهروزی» نیز به انسان‌ها نسبت به این تیغ دو لبه هشدار می‌دهد. رسانه تصویری«اکو ایران» با دعوت از دو صاحب‌نظر اقتصادی و سیاسی، پیام این کتاب را به بحث گذاشته و درس‌های آن را برای جامعه امروز ایران بررسی می‌کند. بر این اساس درحالی‌که قهرمان‌پور هوش‌مصنوعی را یک فناوری کلیدی و تغییر‌دهنده تاریخ بشر معرفی می‌کند، نیلی معتقد است مساله امروز ایران در حوزه فناوری‌های نوین تنظیم‌گری «داده‌ها» است.
یکی از سوالاتی که طی سال‌های اخیر به شکلی جدی مطرح می‌شود، این است که آیا تکنولوژی ما را نسبت به گذشته خوشبخت‌تر کرده است؟ به نظر می‌رسد اگر به وضعیت سلامتی و امکانات امروز بشر نگاهی گذرا داشته باشیم کمتر کسی را می‌توان یافت که به این سوال پاسخ منفی بدهد. با این حال کتاب جدید عجم‌اوغلو و جانسون که به فارسی نیز ترجمه شده است، نگاهی عمیق‌تر به ماجرا دارند و با آمار و ارقام روایتی دیگر ارائه می‌دهند.
آنها معتقدند که الزاما تکنولوژی بشر را خوشبخت‌تر نکرده است؛ برای مثال، بشر با یکجانشین شدن و فاصله گرفتن از شکار با کاهش طول عمر و قد مواجه شد. کتاب تلاش می‌کند تا نسبت به خوش‌بینی بی‌حد و حصر نسبت به تکنولوژی هشدار دهد. این نکته تاریخی غیرقابل انکار است که آنچه بشریت را به سطح رفاه فعلی رسانده تکنولوژی است اما به نظر می‌رسد با ظهور هوش مصنوعی، شکل جدیدی از تکنولوژی ظهور کرده که قادر است رشته‌های بشر را پنبه کند. به عبارت دیگر تکنولوژی شرط لازم بهروزی بشر است و شرط کافی آن به حساب نمی‌آید. در همین راستا، رسانه تصویری «اکو ایران» میزگردی را با حضور فرهاد نیلی، اقتصاددان و رحمن قهرمان‌پور، پژوهشگر مسائل بین‌الملل برگزار کرده است تا پیام کتاب را از جنبه‌های مختلف به بحث بگذارند.
فناوری؛ همراه همیشگی بشر
در ابتدا فرهاد نیلی سخنانش را با این نکته شروع کرد که در طول تاریخ بشر، همواره به نظر می‌رسد که تکنولوژی همنشین ما بوده و ابزارهای ابتدایی شکارچیان را می‌توان از اولین مصادیق فناوری تلقی کرد. انسان با آن ابزارها در شکار عملکرد بهتری از خود برجای می‌گذاشت. به گفته این استاد اقتصاد، بدون شک انسان با آن ابزارها نسبت به حالتی که ابزاری در اختیار ندارد، بهره‌وری بالاتری دارد. با این حال ابزار و تکنولوژی مکمل عملکرد انسان بود و مهارت بشر در چگونگی استفاده از ابزار همچنان بر خروجی فعالیت بشر تاثیر می‌گذاشت. نیلی میافزاید که البته تکنولوژی‌هایی که برای یک کار ابداع می‌شد، در تعداد بالا اتفاق می‌افتاد و به مرور زمان و با پس دادن آزمون خود، یکی از آنها فراگیر می‌شد و تاریخ بشر را به جلو می‌برد.
این حرکت تاریخی بشر را یک گام جلوتر می‌برد. اما نکته اینجاست که آیا منافع حاصل از این توانمندی به‌صورت یکسان میان انسان‌ها توزیع می‌شد؟ قطعا این‌گونه نبوده است و این قاعده تسهیم دیگران در منافع همان چیزی است که با عنوان نهاد یا قاعده بازی می‌شناسیم. به گفته نیلی، عجم اوغلو و جانسون می‌گویند که نیاکان ما علاوه بر ساختن ابزار، قاعده اشتراک‌گذاری منافع حاصل از آن ابزار را نیز ابداع کردند. این استاد اقتصاد توضیح می‌دهد که کتاب مذکور، کل تاریخ بشر را از لنز فناوری نگاه می‌کند و به رابطه فناوری با بهره‌وری، دستمزد، نابرابری، فقر و بهروزی می‌پردازد. برای مثال در دوران فئودالیسم بشر توانست به این تکنولوژی برسد که چگونه ساختمان‌های محکمی بسازد؛ اما بهره‌مندی از این تکنولوژی به اربابان و شاهان و قلعه‌هایشان محدود شد.
به گفته نیلی، از این تصویر می‌توان فهمید که علاوه بر خود تکنولوژی، نهاد قدرتی که نحوه تخصیص آن را مشخص می‌کند نیز از اهمیت زیادی برخوردار است و تعیین می‌کند که کدام فناوری‌ها انتخاب و استفاده شود. این اقتصاددان می‌افزاد که مهم‌ترین نقش‌آفرینی فناوری در زندگی بشر را می‌توان در انقلاب صنعتی مشاهده کرد؛ به عبارت دیگر تاریخ 300سال اخیر حیات بشری را فناوری به شکلی ساخته که یکسره از سایر بخش‌های تاریخ بشر متفاوت است. نیلی معتقد است که تمرکز بر 300سال اخیر بازی میان فناوری، قدرت، رفاه و کسب‌وکارها را بر ما آشکار می‌کند و نقطه فرود کتاب را هشدار نویسندگان نسبت به خوش‌بینی درباره تکنولوژی می‌داند.
هراس یا هشدار؟
در ادامه، مجری از دیگر میهمان برنامه این سوال را پرسید که هراسی که کتاب نسبت به تکنولوژی در مخاطبان ایجاد می‌کندریشه در چه دارد؟ آیا ورود دولت به این حوزه می‌تواند به کاهش این هراس کمک کند؟ قهرمان‌پور در پاسخ به این سوال به این نکته اشاره کرد که چرایی نگارش این کتاب را باید در کنار موجی قرار داد که بسیاری از متفکران هم‌اکنون در حال پرداختن به هوش‌مصنوعی به‌عنوان تازه‌ترین تکنولوژی ساخته دست بشر هستند. به عبارت دیگر، همان‌طور که دستیابی به فناوری هسته‌ای در دهه1940 توانست چهره جهان را تغییر دهد، به نظر می‌رسد که هوش مصنوعی نیز قرار است چنین تاثیری بر سرنوشت بشر بگذارد. به گفته این کارشناس، با این حال هوش مصنوعی تفاوت مهمی با سایر تکنولوژی‌های ماقبل خود دارد.
بر این اساس، در تکنولوژی‌های قبلی عاملیت انسان همچنان پابرجا بود و تکنولوژی در کنار انسان معنا پیدا می‌کرد، اما برای نخستین‌بار در تاریخ شاهد ظهور یک فناوری هستیم که پتانسیل آن را دارد که جایگزین عاملیت انسان شود. بنابراین نمی‌توان این هراس را امری ساختگی دانست و این یک واقعیت است که انسان می‌تواند از مرکز تحولات جهان خارج شود. بنابراین مواجهه همدلانه با این هراس این نکته را بر ما آشکار می‌کند که این هشدارها به معنای جمع‌کردن هوش‌مصنوعی نیست، بلکه نسبت به عواقب منفی احتمالی آن به ما هشدار می‌دهد. قهرمان‌پور به سخنان نیلی ارجاع داد و تاکید کرد که هر فناوری جدید منافعی را برای گروهی از جامعه به‌وجود می‌آورد و برای آنها دست بالا را ایجاد می‌کند. بنابراین می‌توان گفت که در یک دوره سرنوشت‌ساز قرار گرفته‌ایم و جای تعجب نیست که نسبت به آینده این تکنولوژی جدید نگران باشیم و از کنترل خارج شدن آن ابراز نگرانی کنیم.
تیغ دولبه ورود دولت
در این بخش مجری برنامه به این نکته اشاره کرد که نویسندگان کتاب معتقدند خوشبختی امروز ما ناشی از آن است که اجداد ما تصمیم‌گرفتند تا مزایای تکنولوژی به گروه بزرگ‌تری از انسان‌ها برسد؛ آنها ادامه می‌دهند که درباره هوش مصنوعی نیز یکی از راه‌حل‌ها این است دولت ورود کند و منافع حاصل از تکنولوژی جدید را در جامعه بازتوزیع کند. او در ادامه از نیلی خواست تا توضیحات بیشتری در این‌باره بدهد.
این اقتصاددان توضیح داد که هرجا درباره رفاه صحبت می‌کنیم در واقع از دستاورد رشد اقتصادی صحبت می‌کنیم و رشد اقتصادی بدون فناوری ممکن نیست. به گفته او، تا پیش از 300سال قبل، هیچ‌جای تاریخ بشر خبری از رشد اقتصادی نیست و جرقه‌های رشد و رفاه در گلاسکوی اسکاتلند با رشد تکنولوژی و وقوع انقلاب صنعتی ممکن شد. به عبارت دیگر بدون سپرده شدن نیروی عضلانی بشر به ماشین بخار، هیچ‌یک از اتفاقات انقلاب صنعتی ممکن نبود. به این ترتیب ما در پارادایمی قرار داریم که به واسطه فناوری وجود دارد. اما وجه تمایز هوش مصنوعی در این است که تا پیش از این فناوری به انسان توانایی تسلط بر طبیعت می‌داد؛ اما این تکنولوژی نوظهور در حال تغییر بازی میان انسان‌هاست؛ به همین خاطر هوش مصنوعی در کنار تمام فرصت‌هایی که می‌سازد می‌تواند فرصت‌سوز عمل کند.
نیلی به دو ویژگی کلیدی تکنولوژی که در کتاب به آنها اشاره شده است، اشاره کرد و گفت: در جایی که تکنولوژی با اتوماسیون جایگزین نیروی کار شده، احتمال آسیب به نیروی کار را افزایش داده است؛ اما در جایی که تکنولوژی به افتتاح خطوط تولید جدید و احداث کارخانه‌های جدید منجر شده، توانسته است نیروی کار را نیز منتفع کند. همچنین نیلی تشریح کرد که وقتی صحبت از تنظیم‌گری دولت در عرصه‌های خاصی است که با نام کالای عمومی شناخته می‌شود، به نقش مکمل آن با بازار اشاره دارد و این موضوع در علم اقتصاد شناخته شده است. با این حال نیلی افزود که قاعده کلی این است که هر جا دخالت دولت صورت بگیرد، آسیب ایجاد می‌کند. او به آنکروگر اشاره کرد و گفت که در جایی که بازار شکست می‌خورد، ممکن است دولت شکست بزرگ‌تری بخورد؛ چراکه با افرادی مواجهیم که اطلاعات، قدرت و منافعی دارند که در اختیار دیگران نیست و می‌توانند از آن سوءاستفاده کنند. این اقتصاددان تاکید کرد که این موضوع با تنظیم‌گری تفاوت دارد.
جای خالی تنظیم‌گری داده
به عقیده نیلی، اولین و مهم‌ترین تنظیم‌گری در زمینه هوش مصنوعی، موضوع نظارت بر داده‌ها و نحوه استفاده از آنهاست. نیلی مهم‌ترین موضوع کشور ما در حوزه هوش مصنوعی را تنظیم‌گری داده معرفی کرد. به عقیده او، این موضوع همان‌قدر که فرصت‌ساز است، فرصت سوز نیز هست. به گفته نیلی، اکنون که قاعده‌ای در این زمینه وجود ندارد، ترس از عواقب استفاده از برخی داده‌ها موجب می‌شود تا عواید استفاده از این داده‌ها در اقتصاد کشور از دست برود. نیلی تنظیم‌گری هوش‌مصنوعی را اقدامی ظریف و هوشمندانه دانست و اولین قدم در این راستا را تنظیم‌گری داده دانست. به گفته او اکنون ما در کالیفرنیا نیستیم و مساله امروز ما نیز با آنها متفاوت است.
نوع دولت مهم است
قهرمان‌پور در پاسخ به سوالی مشابه به بدبینی اقتصاددانان اشاره کرد و با بیان اینکه در برخی بخش‌های جهان، مانند شرق آسیا تجارب قابل توجهی از مداخله و عملکرد مثبت دولت‌ها وجود دارد، تاکید کرد که نوع دولت و اهداف آن در پاسخ ما به این سوال که ورود دولت به حوزه هوش مصنوعی چه اثری دارد، تاثیر می‌گذارد. به عقیده او، ما زمانی که با دولتی مواجهیم که توسط مجموعه‌ای از نخبگان میهن‌دوست توسعه‌گرا اداره شود، نمی‌توان مداخله دولت را لزوما اقدامی مضر تلقی کرد؛ اما در آن‌سو متاسفانه دولت‌هایی نیز وجود دارند که تنها مساله مهم برای آنها بقاست و همین مساله ورود آنها به تنظیم‌گری هوش مصنوعی را خطرناک می‌کند. با این حال نیلی معتقد بود که دولت ما هم‌اکنون با ویژگی‌های یک دولت توسعه‌گرا فاصله دارد و دغدغه‌ها و چالش‌های پیش‌روی آن از جنس دیگری است.
ما هم درگیریم
قهرمان‌پور ضمن تایید اینکه دغدغه‌های حوزه فناوری در کشورما با آنچه مقصود نویسندگان کتاب بوده، متفاوت است، تاکید کرد که با این حال اشتراکات قابل توجهی با آن دیده می‌شود و از قضا برخی از آثار ظهور تکنولوژی‌های جدید، جهانی است. قهرمان‌پور به برخی از جریان‌های سیاسی در سال‌های اخیر اشاره کرد که با استفاده از بستر فراهم شده در تکنولوژی‌های جدید رشد کردند و در برخی کشورها به جریان سیاسی رسمی و در برخی کشورها به آشوب و خشونت منتهی شدند. به گفته این صاحب‌نظر، یکی از نگرانی‌های مهم درباره هوش مصنوعی و فناوری‌های جدید، بازگشت به ناامنی و برهم خوردن نظمی است که پس از جنگ جهانی دوم در بسیاری از دموکراسی‌های غربی حاکم شده و رشد اقتصادی و شکوفایی چشمگیری را به بار آورده است.
بدبینی و خوش‌بینی به هوش مصنوعی
نیلی در بخشی از توضیحات خود درباره کتاب قدرت و پیشرفت، بیان کرد که افرادی که نگاه به دوردست‌ها دارند می‌تواند ملغمه‌ای از خوش‌بینی و بدبینی باشد. با این حال همان‌طور که در این کتاب ذکر شده است، «شاید هوش مصنوعی مهم‌ترین چیزی باشد که بشریت تاکنون روی آن کار کرده است». جای دیگری از این کتاب ذکر می‌شود که این فناوری، متحول‌کننده‌ترین فناوری در تاریخ بشریت به حساب می‌آید. نیلی افزود اینکه برای آینده نسخه خاصی بپیچیم کار ما نیست، بلکه باید در گام اول نگاه خود را درست کنیم و نسبت موقعیت خود در بازی را بشناسیم. این اقتصاددان بار دیگر تاکید کرد که اکنون باید از حاکمیت بخواهیم قاعده استفاده از داده را به شکلی که ریسک آن را حداقل و منفعت آن را حداکثر کند فراهم سازد، چرا که عصر جدید عصر داده محوری است.
ثانیا میوه این قواعد و تکنولوژی را باید کسب‌وکارهای بخش خصوصی بچینند که خدمات و کالاهای جدیدی را برای مردم فراهم می‌کنند. به عقیده نیلی، هوش مصنوعی با تصمیم‌گیری‌های قاعده‌مند و مبتنی بر یادگیری ماشینی می‌تواند بیاموزد و از اشتباهات پیشین خود دوری کند. نیلی به استفاده‌های احتمالی از هوش مصنوعی در سیاستگذاری نیز اشاره کرد و گفت که می‌توان به عنوان ابزاری مهم در گرفتن تصمیمات پولی و مالی از آن بهره برد.
انتخاب با ماست
فرهاد نیلی در پایان این نشست سخن خود را با جمله‌ای از کتاب به پایان برد و تاکید کرد انتخاب همچنان بر عهده ما انسان‌ها است. به گفته او، پیام اصلی کتاب در همین جمله است که می‌گوید: «بنا نیست فناوری‌های جدید به‌صورت خودکار به بهروزی فراگیر بینجامد» بلکه شرط کافی این است که انتخاب اقتصادی اجتماعی فرهنگی ما چگونه به این فناوری شکل بدهد. فناوری اهمیت دارد؛ اما انتخاب همچنان با ماست. فناوری در جای دیگری خلق می‌شود و ما واردکننده آن هستیم. فناوری بارانی است که بر این سرزمین می‌بارد؛ اینکه شما آب را با کاسه جمع می‌کنید یا حوض درست کنید یا آب باران را به سمت فعالیت مولدتری مثل کشاورزی هدایت کنیم، انتخاب عمومی و اجتماعی ماست. ما هستیم که تصمیم می‌گیریم چه چیزهایی را استفاده کنیم و چه چیزهایی را سرکوب کنیم.
باشگاه اقتصاددانان را بخوانید
