خطر از کنترل خارج شدن ماشینها
درنتیجه میتوان امیدوار بود که با ورود جدی هوش مصنوعی به بحث امنیت محلی و ملی بتوان یک نوع توازن قوا و ثبات امنیت را در بیشتر نقاط دنیا به وجود آورد و بسیاری از مفاهیم سنتی و فاجعهبار امنیتی را که درگذشته موجب بروز جنگها و حملات نظامی متعددی شدهاند، از میان برداشت یا تا حد زیادی تعدیل کرد.
در چنین شرایطی طبیعی است که تقسیمبندیهای جدیدی بین جوامع و در درون آنها شکل بگیرد؛ یعنی بین کسانی که به فناوریهای جدید دسترسی دارند و آنهایی که یا نمیخواهند یا نمیتوانند از این فناوریهای پیشرفته بهره ببرند. این به آن معنا خواهد بود که گروهها و جوامعی که از قافله هوش مصنوعی عقب ماندهاند قدرت پیشبینی و واکنش نشان دادن سریع و درست به پدیدهها را از دست خواهند داد. این از هم دور شدن ملتها و گروهها از همدیگر، میتواند آینده کشورها و ملتها را به شدت تحتالشعاع قرار دهد.
بههرحال موفقیت پروژههایی مانند آلفازیرو ثابت کرده که هوش مصنوعی این قابلیت را دارد تا از محدودیتهایی که همیشه گریبانگیر بشر بوده، بگذرد و مرزهای دانش بشری را پشت سر گذارد؛ هرچند که باید این واقعیت را نیز مدنظر داشت که حتی هوش مصنوعی بهکاررفته در آلفازیرو و پروژه مشابه آن نیز دارای محدودیتهای خاص خود است و دامنه تواناییهای آن نامحدود و بینهایت نیست.
با این همه، آنچه مسلم است اینکه با رشد روزافزون تعداد اپلیکیشنهای هوش مصنوعی و تکامل هر چه بیشتر آنها، این اطمینان وجود دارد که ماشینها بتوانند راهحلهایی را طراحی و اجرا کنند که بسیار فراتر از تصور و توان بشر است. بهعنوان مثال، در سال ۲۰۱۶ و در قالب پروژه «ذهن عمیق» گوگل، یکی از مهمترین و قدیمیترین مشکلات و چالشهای مرتبط با حوزه بهینهسازی مصرف انرژی در پایگاههای داده با کمک هوش مصنوعی حل شد. موضوع از این قرار بود که مهندسان شرکت گوگل سالها بود در حال بررسی راههایی برای خنک کردن دیتاسنترهای شرکت گوگل بودند. اما در این مسیر به موفقیت شایانی دست پیدا نکرده بودند. آنها در این سال توانستند با کمک گرفتن از هوش مصنوعی، میزان مصرف انرژی موردنیاز برای خنک کردن این پایگاهها را تا ۴۰درصد کاهش دهند. توسعه چنین موفقیتهایی در آینده بهطور حتم موجب خواهد شد تا دنیای ما شاهد تغییر و تحولات عظیمی باشد و بهجای بهتری برای زندگی کردن تبدیل شود؛ دنیایی که در آن هوش مصنوعی راهحلهای مبتکرانه و هوشمندانهای را به ما انسانها پیشنهاد میدهد که بسیار پختهتر و همهجانبهتر از راهحلهای انسانی برای مشکلات و چالشهای موجود است. این یعنی شکلگیری و گسترش شکل جدیدی از یادگیری و تفکر منطقی در میان غیرانسانها؛ یعنی ماشینها.
هنگامیکه هوش مصنوعی به توانایی مافوق بشری برسد و بتواند یکسری کارها را بهتر از انسان انجام دهد، این زنگ خطر میتواند به صدا درآید که احتمال به انحراف کشیده شدن هوش مصنوعی و بروز فاجعه برای بشر به طرز خطرناکی افزایش مییابد. چنین تهدیدی نه در صحنه بازی شطرنج و توسط آلفازیرو، بلکه در زمینه مسائل امنیتی و توسط ماشینی میتواند اتفاق بیفتد که به یک مقام ارشد امنیتی پیشنهاد میکند به خاطر نجات تمام مردم شهر دستوری صادر کند که به کشته شدن صدها یا هزاران نفر منتهی شود؛ آنهم به این دلیل که هوش مصنوعی پیش خودش محاسبه کرده که کشته شدن هزار نفر بهتر از کشته شدن هزاران نفر از مردم شهر است.
در اینجا پرسشهای بنیادین و تکاندهندهای مطرح میشود که ما را نسبت به آیندهای که هوش مصنوعی قرار است برایمان رقم بزند هوشیارتر و محتاطتر میسازد. آیا انسان بهروشنی میداند که هوش مصنوعی بر اساس کدام محاسبات و ملاحظات تصمیماتش را گرفته و میگیرد؟ آیا انسان قادر به شناسایی بهموقع و پیشگیری از تصمیمات و قضاوتهای نادرست و نامطلوب هوش مصنوعی است؟ هنگامیکه ما قادر به درک عمیق تصمیماتی که هوش مصنوعی میگیرد نیستیم، آیا میتوانیم بهصورت چشمبسته توصیهها و پیشنهادهای هوش مصنوعی را اجرا کنیم؟ و حتی اگر بتوانیم به این درک عمیق دست یابیم چگونه میخواهیم پیشنهادهایی بهتر از آنچه هوش مصنوعی ارائه داده عرضه کنیم؟
اگر نگاهی دقیقتر به پروژههای آلفازیرو و آنتیبیوتیک هالیسین بیندازیم، درمییابیم که هردوی آنها در پاسخ به مسالهای شکل گرفتند که توسط انسان طرح شده بود و هوش مصنوعی توانست آن مساله را برای انسان حل کند: در آلفازیرو مساله اصلی عبارت بود از پیدا کردن راهی برای پیروزی در بازی شطرنج و در هالیسین نیز هدف تعیینشده عبارت بود از کشتن یک باکتری خطرناک و مقاوم در برابر سایر آنتیبیوتیکها.
در هر دو این موارد، هوش مصنوعی توانست با شیوهای جدید و متفاوت از روشهای رایج مورد استفاده انسانها مساله را حل کند و این یعنی اینکه یک نوع همکاری و شراکت بین انسان و ماشین در حال شکل گرفتن است که در آن، انسان سفارشدهنده و طرحکننده مسائل است و هوش مصنوعی و ماشینها نقش حلکننده آن مسائل را بر عهده دارند.
درواقع، همکاری کنونی بین انسان و ماشین مستلزم وجود مسائل قابل تعریف و اهداف قابلاندازهگیری است. همین مساله باعث میشود تا نگرانیها بابت از کنترل خارج شدن ماشینها و هوش مصنوعی تا حد زیادی کاهش یابد، چراکه تمام راهحلهایی که هوش مصنوعی پیدا میکند به مسائلی مربوط میشود که ما انسانها برای آنها تعریف کردهایم. با این همه باید هوشیار بود که تکامل و پیشرفت هر چه بیشتر هوش مصنوعی میتواند شرایط متفاوتی را در آینده رقم بزند که در آن خود ماشینها اقدام به تعریف مساله و هدفگذاریهای خودخواسته کنند و با استفاده از دیتایی که انسانها در اختیارشان قرار دادهاند یا اینکه خودشان به آن دیتا دست پیدا کردهاند وارد حل مسائلی شوند که ما برایشان تعریف نکردهایم. این خطر و تهدید را باید کاملا جدی گرفت، چراکه هوش مصنوعی و ماشینی که قادر به تفکر و نتیجهگیریهای هوشمندانه است، این توانایی را نیز خواهد داشت تا یکسری مسائل را خودش تعریف کرده و خودش هم آنها را حل کند.