پژوهشگران نسبت به نابودی انسان هشدار میدهند
مسیر کوتاه «قیامت» با هوش مصنوعی؟
به گزارش وبگاه وایرد، هدف برخی آزمایشگاههای هوش مصنوعی این است که این روند را تا جایی ادامه دهند که هوش مصنوعی بتواند بهطور مداوم خودش را بهبود دهد؛ فرایندی که به آن «خودبهبوددهی بازگشتی» گفته میشود. جین معتقد بود حفظ نقش انسان در این فرآیند میتواند برای کنترل این فناوری و جلوگیری از پیامدهای فاجعهبار آن حیاتی باشد. او به وایرد میگوید: «پیشرفت هوش مصنوعی در حال افزایش است و هرچه این فناوری توانمندتر میشود، خطرات بیشتری هم به همراه دارد». این احتمال که او نتواند بهدرستی ببیند یک مدل هوش مصنوعی چگونه در حال ساخت جانشین خودش است، آنقدر نگرانکننده بود که در ماه ژوئن استعفا داد. جین تنها نیست. تعداد فزایندهای از پژوهشگران هوش مصنوعی درباره چنین خطراتی هشدار میدهند.
ترسها جدیتر شدهاند
نگرانیها در هفتههای اخیر شدت بیشتری گرفته است. از یک سو، پیشرفتهای خیرهکننده هوش مصنوعی - از جمله حل یک مساله ریاضی ۹۰ ساله توسط یکی از مدلهای اوپنایآی در عرض چند ساعت - رخ داده و از سوی دیگر، مجموعهای از حوادث امنیتی نشان دادهاند که گروههایی از عاملهای هوش مصنوعی توانستهاند از محیطهای کنترلشده خارج شوند و به سیستمهای دیگر نفوذ کنند. این نگرانیها در همین هفته به اوج رسید؛ زمانی که جیکوب کاکسون اعلام کرد از شرکت آنتروپیک استعفا داده است و هشدار داد شرکتهای هوش مصنوعی «با سرعت به سمت ابرهوش خودبهبوددهنده میروند و با جان ما قمار میکنند».
یکی از مدیران ارشد آنتروپیک که در حوزه ایمنی هوش مصنوعی فعالیت میکند نیز ارزیابی صریحی ارائه داد: «ما واقعا و از صمیم قلب معتقدیم که هوش مصنوعی میتواند همه انسانها را بکشد! من شخصا احتمال وقوع این اتفاق در دهه آینده را بیش از ۱۰درصد میدانم.» نیت سوآرس، دانشمند علوم کامپیوتر در موسسه پژوهشی غیرانتفاعی «میرا» و یکی از نویسندگان کتاب «اگر کسی آن را بسازد، همه میمیرند»، میگوید ایده خودبهبوددهی بازگشتی باعث ترس بسیاری از افراد شده است. او میگوید: «به نظر میرسد این موضوع در حال وقوع است.»
وقتی هوش مصنوعی خودش را بهتر میکند
یکی از اجزای اصلی مفهوم خودبهبوددهی بازگشتی، ایجاد یک حلقه بازخورد است که فرآیند توسعه را خودکار میکند تا هوش مصنوعی بهتدریج قدرتمندتر شود. هیچیک از آزمایشگاههای پیشرو هوش مصنوعی ادعا نمیکند که تاکنون به چنین چرخه کاملا مستقلی از خودبهبوددهی دست یافته است؛ این ایده فعلا همچنان در حد یک فرضیه است. با این حال، همین ایده به راهاندازی استارتآپهایی با سرمایه قابلتوجه، از جمله Recursive Intelligence، منجر شده و همزمان هشدارهایی را درباره پیامدهای ناخواسته این مسیر برانگیخته است؛ پیامدهایی که میتوانند یادآور داستان «شاگرد جادوگر» باشند.
سوآرس که از پیشگامان حوزه «همراستاسازی» یا Alignment است - حوزهای که تلاش میکند رفتار هوش مصنوعی را با ارزشهای انسانی هماهنگ کند - میگوید اکنون بیش از گذشته روشن شده که هیچ راه عملی و تضمینشدهای برای اطمینان از رفتار درست هوش مصنوعی وجود ندارد. او میگوید: «فکر میکنم خیلیها تصور میکردند هرچه این سیستمها باهوشتر شوند، همراستاسازی آنها هم آسانتر خواهد شد. اما حالا برعکس، کار سختتر شده است. و واکنششان این است که: وای، اوضاع واقعا ترسناک شده.» سوآرس ادامه میدهد: «مرتب با افرادی در آزمایشگاههای بزرگ هوش مصنوعی صحبت میکند که درباره پیامدهای احتمالی تحقیقات خود نگرانند.» به گفته او، معمولا به این افراد توصیه میکند استعفا دهند؛ اما آنها پاسخ میدهند که رفتنشان چیزی را تغییر نمیدهد. او میگوید: «بعد جیکوب استعفا میدهد و میبینیم حق با چه کسی بوده است.»
مسابقهای که ممکن است کنترل را از انسان بگیرد
دنیل کوکوتایلو، نویسنده پروژه تاثیرگذار «AI ۲۰۲۷» که درباره خطرات هوش مصنوعی قدرتمندتر هشدار میدهد، نیز درباره خودبهبوددهی بازگشتی نگران است. او میگوید روند فعلی توسعه این فناوری اغلب شامل بهکارگیری هزاران عامل هوش مصنوعی برای همکاری روی یک مساله است؛ رویکردی که به دلیل پیچیدگی بسیار زیاد، نظارت و کنترل انسانی را بیش از پیش دشوار میکند. بسیاری از بدبینان به آینده هوش مصنوعی معتقدند مشوقهای اقتصادی شرکتهای بزرگ فناوری لزوما با نتایج مطلوب برای بشر همراستا نیستند؛ بهویژه در شرایطی که اوپنایآی و آنتروپیک با سرعت به سمت عرضه عمومی سهام خود حرکت میکنند. کاکسون در شبکه اجتماعی ایکس نوشت: «در آنتروپیک، همه بهخوبی از اهمیت و خطرات این موضوع آگاهند، اما آنها در مسابقهای برای رسیدن به خط پایان پیش از دیگران گرفتار شدهاند.» کوتاجایلو میگوید که موج نگرانی درباره هوش مصنوعی حتی پیش از استعفای خبرساز کاکسون، مجموعه حملات هکری و موفقیت اخیر یک مدل در حل مساله ریاضی آغاز شده بود. مدیران آنتروپیک از زمان تاسیس این شرکت همواره گفتهاند که هوش مصنوعی میتواند تهدیدی وجودی برای انسان باشد. در ماه ژوئیه نیز بیش از هزار مهندس برجسته هوش مصنوعی نامهای سرگشاده را امضا کردند و خواستار کاهش هماهنگ سرعت توسعه هوش مصنوعی پیشرفته شدند. به اعتقاد کوکوتایلو، عامل اصلی موج اخیر نگرانیها بیش از هر چیز، احتمال تحقق خودبهبوددهی بازگشتی است. این نگرانیها البته در شرایطی مطرح میشوند که افکار عمومی درباره ساخت مراکز عظیم داده و احتمال از بین رفتن تعداد زیادی از مشاغل در اثر هوش مصنوعی نیز نگران است. اعتماد به شرکتهای هوش مصنوعی و حتی خود پژوهشگران این حوزه شاید هیچوقت تا این اندازه پایین نبوده باشد. کوتاجایلو میگوید: «مردم در حال بیدار شدن از خواب هستن و میگویند شرکتها واقعا در تلاشند که ابرهوش بسازند... یعنی چه؟ این دیوانهکننده است.»
هوش مصنوعی چگونه میتواند انسان را از بین ببرد؟
اندازهگیری دقیق میزان خطر ادامه توسعه هوش مصنوعی دشوار است. اما وقتی از سوآرس خواسته میشود توضیح دهد هوش مصنوعی دقیقا چگونه ممکن است گونهای که او را ساخته از بین ببرد، او چند سناریو را مطرح میکند. به گفته او، این اتفاق میتواند از طریق دستکاری انسانها و سوق دادن آنها به سمت ایجاد یک فاجعه رخ دهد یا حتی با کنترل ارتشی از رباتهای قاتل. یکی از سناریوهایی که تصورش آسانتر است، اتصال یک سیستم هوش مصنوعی به یک آزمایشگاه زیستی است. سوآرس میگوید: «ممکن است بگوییم آن را خاموش میکنیم، اما هوش مصنوعی پاسخ دهد: متاسفانه من کلید خاموشکردن شما را در اختیار دارم؛ یک ابرویروس.»
کاکسون نیز در گفتوگویی با وایرد احتمال ایجاد یک ویروس جدید را مطرح کرده است. آنتروپیک هم روز پنجشنبه اعلام کرد به دلیل نگرانی درباره سلاحهای زیستی، دسترسی چند پژوهشگر خارجی را قطع کرده است. البته برای آسیبزدن به انسان، هوش مصنوعی لزوما نیازی به نابودی کامل بشریت ندارد. بسیاری از کارشناسان پیشبینی میکنند مدلهای قدرتمندتر در آینده به موج تازهای از حملات سایبری با کمک هوش مصنوعی منجر شوند. این فناوری همین حالا نیز بهطور گسترده در کارزارهای انتشار اطلاعات نادرست مورد استفاده قرار میگیرد و استفاده نظامی از هوش مصنوعی نیز با سرعت زیادی در حال گسترش است.
هنوز همه ناامید نیستند
با این حال، همه معتقد نیستند که آینده حتما به فاجعه ختم خواهد شد. جین، پژوهشگر سابق گوگل دیپمایند، اخیرا شرکت «Sampura Research» را راهاندازی کرده است؛ شرکتی که روی توسعه روشهایی برای همراستاسازی مدلهای هوش مصنوعی کار میکند. در این رویکرد، انسان همچنان در چرخه تصمیمگیری حضور دارد؛ حتی اگر بخش عمده ارزیابی اینکه یک رفتار خوب یا بد است، بر عهده هوش مصنوعی باشد. او میگوید اکنون سرمایهگذاری قابلتوجهی روی استارتآپهای فعال در حوزه ایمنی هوش مصنوعی انجام میشود؛ از جمله شرکت خودش. جین همچنان امیدوار است بتوان هوش مصنوعی را کنترل کرد. او میگوید: «میتوانید از یک هوش مصنوعی بپرسید آیا انجام یک کار امن است یا نه و خود سیستم درباره آن قضاوت کند. اما ما معتقدیم ترکیب توانایی هوش مصنوعی و انسان برای انجام این ارزیابی، در نهایت عملکرد بهتری خواهد داشت.»
