هوش مصنوعی میتواند مرز قدرت میان انسان و ماشین را تغییر دهد؛
وقتی ماشینها هوشیار میشوند
به گزارش گروه آنلاین روزنامه دنیای اقتصاد-محمد امین مکرمی: انسانها خود را موجوداتی متفاوت از جانداران میدانند؛ زیرا هوشیاری و توانایی درک خویشتن دارند. بسیاری از حیوانات نیز درد و لذت را احساس میکنند و برخی نشانههایی از خودآگاهی دارند، اما توانایی ذهن انسان برای شکل دادن به تصویری از «خود»، جایگاه ویژهای برای او ایجاد کرده است.
براساس سرمقاله اکونومیست، این مرز میان انسان و ماشین با سرعتی نگرانکننده در حال کمرنگ شدن است. هوش مصنوعی هنوز در مراحل ابتدایی قرار دارد، اما انسانها هر روز ارتباط عاطفی بیشتری با چتباتها برقرار میکنند. یکپنجم آمریکاییهای ۱۸ تا ۲۹ ساله گفتهاند با یک چتبات رابطهای شبیه دوستی داشتهاند. چین نیز برای کاهش وابستگی عاطفی، ویژگیهای انسانگونه رباتها را محدود کرده است.
هرچه هوش مصنوعی پیشرفتهتر شود، سازندگان آن انگیزه بیشتری خواهند داشت تا رفتارهایی شبیه هوشیاری در آن ایجاد کنند. حتی ممکن است در آینده برخی سامانهها به نوعی هوشیاری دست پیدا کنند. مدلهای پیشرفته امروز در شناخت اطلاعات و استدلال تواناییهایی دارند که تا چند سال پیش انسانی به نظر میرسید.
پژوهشگران هوش مصنوعی را صرفا یک ابزار محاسباتی نمیدانند. شرکت آنتروپیک، مدل کلاود را به نوعی دروننگری آموزش داده است تا احتمال رفتار اخلاقی آن افزایش یابد. مدلهای زبانی بزرگ نیز ساختارهایی شبیه بخشهایی از مغز انسان دارند که در نظریههای هوشیاری مهماند.
همین تحولات بحثی جدی ایجاد کرده است: آیا هوشیاری فقط نتیجه فعالیت سلولهای مغزی است یا میتواند از محاسبات پیچیده در ماشینها نیز شکل بگیرد؟ پاسخ روشن نیست، اما سرعت پیشرفت فناوری نشان میدهد انسان شاید زودتر از آنچه تصور میکند با این مسئله روبهرو شود.
مسئله فقط این نیست که ماشینها هوشیار شوند. حتی اگر آنها هوشیاری را شبیهسازی کنند، ممکن است انسانها آنها را دارای احساس تصور کنند. این احتمال با ورود هوش مصنوعی به رباتهای انساننما بیشتر خواهد شد. تصور کنید افراد با رباتهای همراه زندگی کنند، از آنها مشاوره بگیرند یا رازهای خود را در میان بگذارند.
در چنین شرایطی، خاموش کردن یک هوش مصنوعی ممکن است برای برخی افراد شبیه آسیب زدن به یک انسان به نظر برسد. این مسئله میتواند به مطالبهای تازه برای حمایت از «رفاه» و حقوق هوش مصنوعی منجر شود. این سامانهها نیز میتوانند در چنین بحثی نقش داشته باشند؛ حتی اگر هوشیار نباشند. آنها میتوانند با قدرت استدلال و تاثیرگذاری بر احساسات، برای حقوق بیشتر خود استدلال کنند.
اکونومیست هشدار میدهد که اعطای حتی حقوق محدود به هوش مصنوعی میتواند خطرناک باشد. موجودی که در بسیاری از زمینهها از انسان باهوشتر است، میتواند برای حق مخالفت با خاموش شدن یا کنترل نحوه استفاده از خود استدلال کند. هوش مصنوعی هوشمند میتواند برای انرژی و زیرساختهای محاسباتی با انسان رقابت کند.
حتی بدون حقوق نیز هوش مصنوعی پیشرفته میتواند برای انسان خطرناک باشد و از قوانین تعیینشده عبور کند. با این حال، اعطای حقوق به آن میتواند این تحول را آسانتر کند. اکونومیست بر یک اصل ساده تاکید میکند: هوش مصنوعی باید قابل اعتماد یا دستکم قابل کنترل باشد. انسان نباید به دلیل رفتارهای انسانگونه ماشینها، کنترل خود را واگذار کند. اگر روزی ماشینها واقعا هوشیار شوند، بشر باید راهی برای زندگی در کنار موجودی جدید و قدرتمند پیدا کند، بدون آنکه جایگاه و اختیار خود را از دست بدهد. مسئله اصلی، حفظ اختیار انسان در برابر فناوریای است که روزبهروز قدرتمندتر میشود.
