نوشتاری جدید از ستون نویس نیویورکتایمز؛
اتحاد ابرقدرتها علیه هوش مصنوعی
به گزارش گروه آنلاین روزنامه دنیای اقتصاد، توماس فریدمن، ستون نویس نیویورکتایمز در یادداشتی که پیش از سفر ترامپ به چین منتشر کرده، نوشته بود که دیدار دونالد ترامپ و شی جینپینگ ، رؤسایجمهور آمریکا و چین در پکن، (۱۵-۱۴ مه) میتواند به مهمترین مواجهه رهبران دو کشور از زمان دیدار ریچارد نیکسون و مائو تسهتونگ در سال۱۹۷۲ در پکن تبدیل شود.
به باور او، همان طور که آن دیدار تاریخی، دههها خصومت میان پکن و واشنگتن را کاهش داد و اتحادی ضمنی بین ایالات متحده و چین در برابر اتحاد جماهیر شوروی شکل داد، اجلاس کنونی نیز در یک برهه دگرگونکننده مشابه در عرصه جهانی برگزار شد؛ زمانی که تهدیدی مشترک و جدید برای هر دو کشور ظهور کرده است. این تهدید، یک بینظمی فزاینده است که میتواند جهان را بیثبات کرده و به هر دو کشور آسیب برساند، مگر اینکه آنها راهی برای رقابت و همکاری همزمان در برابر فهرست فزایندهای از چالشها بیابند.
مقابله موفقیتآمیز با این چالشها تنها با اقدام دستهجمعی آنها امکانپذیر است؛ به نحوی که در وهله اول، چارچوبهای محافظتی مشترک توسط آمریکا و چین در برابر استفادههای مخرب از هوش مصنوعی ایجاد شود، بهویژه اکنون که جدیدترین مدلهای آن قابلیتهای حیرتآور خود را در حملات سایبری نشان دادهاند.
از زمان دیدار نیکسون و مائو، دو تغییر پارادایم کلان، جهان را دگرگون کرده است. مورد اول – که با وجود به صدا درآمدن ممتد زنگهای خطر، هنوز بهطور گسترده درک نشده است – ظهور این ابزارهای جدید و نامتقارن هوش مصنوعی است که میتواند به بازیگران کوچک و مخرب، اعم از تروریستها، آنارشیستها، تبهکاران، گروههای سیاسی یا دولت-ملتهای کوچک، قدرت فوقالعادهای ببخشد؛ به نحوی که تنها دو نفر در یک غار با یک لپتاپ، دسترسی به جدیدترین مدلهای هوش مصنوعی و یک ترمینال استارلینک، میتوانند به زیرساختهای حیاتی هر جامعهای حمله کنند.
تغییر دوم به مقوله جهانیشدن مربوط میشود. اجلاس نیکسون-مائو آغازگر روندی بود که جهان را از حالت قطع ارتباط، به وضعیتی بسیار مرتبطتر و سپس درهمتنیده سوق داد. زمانی که نیکسون و مائو روند خروج چین از انزوای اقتصاد جهانی را آغاز کردند – روندی که دنگ شیائوپینگ سپس با سوق دادن چین به سمت سرمایهداری دولتی آن را به شدت تسریع کرد؛ مجموعهای عظیم از نیروهای اقتصادی و فناوری را آزاد کردند.
با فرا رسیدن قرن بیست و یکم، ترکیب پیوستن چین به سازمان تجارت جهانی و اتصال جهان به اینترنت به این معنا بود که افراد بیشتری در مکانهای بیشتر میتوانستند با هزینه کمتر، در زمینههای بیشتر و به روشهای متنوعتری نسبت به هر زمان دیگری در تاریخ بشر، با یکدیگر رقابت، ارتباط و همکاری داشته باشند.
به همین دلیل بود که در سال ۲۰۰۵ کتابی با عنوان «جهان مسطح است» نوشتم. با این حال، ماهیت تغییرات فناوری این است که هر گام بزرگ رو به جلو، سریعتر از گام قبلی برداشته میشود، زیرا بر پایه ابزارهایی بنا میشود که در دوره قبل به وجود آمدهاند. بنابراین، سالها پس از آنکه استدلال کردم جهان مسطح است، فناوری و سایر متغیرها پیشروی کردند و همانطور که داو سیدمن، بنیانگذار موسسه «هاو» استدلال میکند، ما را از حالت «مرتبط» به «وابسته به یکدیگر»، یا به تعبیر او، از حالت «مسطح» به «درهمتنیده» بردند. شما میتوانستید از دنیای مسطح جدا شوید، اما هیچ راه فراری از دنیای درهمتنیده وجود ندارد. اکنون همه ما با هم اوج میگیریم و با هم سقوط میکنیم.
این پیوستگی تنها به این دلیل نیست که پیشرفتها در اینترنت، گوشیهای هوشمند، فیبر نوری، ماهوارهها و ارتباطات بیسیم، ما را از نظر فناوری بیش از هر زمان دیگری به هم پیوند داده است؛ بلکه به این دلیل نیز هست که مجموعهای از چالشهای در مقیاس سیارهای، سرنوشت ما را بیش از پیش به هم گره زده است.
این چالشها چنان گستردگی دارند و نسبت به مرزهای ملی چنان بیتفاوتند که هیچ دولتی، هرچند قدرتمند، نمیتواند به تنهایی با آنها مقابله کند یا از آنها بگریزد. ما میدانیم این چالشها چیستند: کاهش اثرات تغییرات اقلیمی، جلوگیری از گسترش سلاحهای هستهای و بیولوژیک، مدیریت مهاجرتهای جهانی، کنترل همهگیریها، حفظ عملکرد روان زنجیرههای تامین جهانی که اکنون همه به آنها وابستهایم و از همه مهمتر و فوریتر مدیریت این گونه جدید از هوش مصنوعی که خودمان خلق کردهایم.
ما تاکنون توانستهایم با همکاری محدود، رسیدگی به بسیاری از این مسائل کلان را به تعویق بیندازیم یا با آنها سر کنیم، اما زمان برای مهار قدرتهای سایبری هوش مصنوعی به پایان رسیده است. دیگر نمیتوان این مشکل را به آینده موکول کرد؛ راهی برای عقب انداختن مشکل باقی نمانده است. کریگ موندی، مدیر سابق تحقیقات و استراتژی در مایکروسافت و شریک فکری من در بررسی این تهدید جدید هوش مصنوعی، خاطرنشان میکند که سالهاست ایالات متحده و چین به طور مرتب یکدیگر را محک زدهاند، زیرساختهای بدافزاری را در سیستمهای هم جاسازی کردهاند و با عملیاتهای سایبری پنهان، اطلاعات یکدیگر را به سرقت بردهاند.
اما به گفته موندی، آنها به خوبی میدانستند که اگر چینیها شبکههای برق ما را از کار بیندازند، ما نیز میتوانیم همین کار را با شبکههای آنها بکنیم و اگر آنها بتوانند چراغها را در واشنگتن خاموش کنند، ما نیز میتوانیم پکن را در خاموشی فرو ببریم. این دقیقا معادل منطق بازدارندگی سلاحهای هستهای است: موندی میگوید: «آنها مفهوم نابودی قطعی متقابل را بازتولید کرده بودند.» اما حالا حدس بزنید چه کسی وارد میدان شده است؟ مجموعهای از بازیگران جدید که بهطور بالقوه بسیار خطرناکند و صرفا محدود به کشورها نمیشوند؛ با این حال میتوانند هر دوی ما را تهدید کنند.
اینها همان سیستمهای «هوش مصنوعی عاملمحور» هستند که اخیرا توسط آنتروپیک و اوپنایآی معرفی شدهاند و میتوانند با هزینه بسیار اندک و تقریبا بدون نیاز به تخصص، ابزارهایی را در اختیار مهاجمان سایبری کوچک قرار دهند تا اقتصاد چین، اقتصاد ما و هر کشور دیگری را مختل کنند. میتوانید مطمئن باشید که سایر مدلهای آمریکایی مانند جمینای گوگل و به زودی مدلهای هوش مصنوعی چینی نیز همین قابلیتها را ارائه خواهند داد.
موندی معتقد است از آنجا که شرکتهای آمریکایی و چینی اولین تولیدکنندگان این سیستمهای عاملمحور بودهاند، «این دو کشور باید در کنترل توزیع آنها و ایجاد خطوط دفاعی برای محافظت از خود (و در صورت نشت این فناوری به بیرون، محافظت از همه)پیشگام شوند.» آنتروپیک و اوپنایآی میگویند جدیدترین مدلهای آنها در یافتن و سوءاستفاده از نقصهای نرمافزاری چنان قدرتمندند که هر دو شرکت تصمیم گرفتهاند توزیع آنها را فعلا محدود کنند. اما دیر یا زود این فناوریها از کنترل خارج شده و در دسترس عموم قرار خواهند گرفت - اگر تا الان قرار نگرفته باشند. موندی استدلال میکند: «این موضوع باید انگیزه بزرگی برای گردهم آمدن این دو کشور باشد؛ حتی اگر فقط برای همین یک مساله محدود باشد که اکنون یک خطر واضح و حاضر برای هر دو محسوب میشود.» این درخواست غیرممکنی نیست. موندی نتیجهگیری میکند که چین و ایالات متحده در دوران نیکسون و مائو توانستند با یکدیگر همکاری کنند، «زیرا ما یک مشکل مشترک داشتیم: اتحاد جماهیر شوروی. خب، اکنون ما یک مشکل مشترک دیگر داریم. این مشکل کشور دیگری نیست، بلکه یک فناوری است؛ یعنی خطرات نوظهور ناشی از تهدیدهای سایبری نامتقارنِ سیستمهای هوش مصنوعی عاملمحور.»/
