وابستگی به هوش مصنوعی فاجعه است

دنیای اقتصاد: من Daniel Dennett فیلسوف معروف آمریکایی را همزمان با مراسم ریاست جمهوری دونالد ترامپ ملاقات کردم. موضوعی که او در آخرین کتابش مورد بررسی قرار داده شکست تمدن در مقابله با تغییرات گسترده تکنولوژیکی است. Dennett چهره‌ای منحصر به فرد در فرهنگ ایالات متحده آمریکا محسوب می‌شود، فیلسوفی ۷۴ ساله با سر و ریش سفید که کتاب‌هایش سوالاتی را در مسیر رابطه علم، تکنولوژی و هوش به ذهن می‌آورد. موضوع مورد بررسی او ذهن و نحوه خلق معانی و دستاوردهای ذهن انسان از آینده‌ای که شامل هوش مصنوعی و روبات‌ها می‌شود، است. دنیل دنت در حال حاضر به همراه همسرش سوزان در لندن حضور دارد تا قرارداد انتشار مجدد آخرین کتاب خود با عنوان «From Bacteria to Bach And Back» را امضا کند. او در آپارتمانی در منطقه Notting Hill مستقر شده بود و زمانی که او را ملاقات کردم به لپ‌تاپش خیره شده بود و مشغول توییت کردن بود.واضح است که آخرین کتاب او در زمانی متفاوت نوشته شده است. Dennet با عقایدی مشابه Richard Dawkins در این کتاب از دریچه‌ای تکاملی به جامعه نگاه کرده است. فصل آخر کتاب او که درباره آینده تکنولوژیکی بحث کرده، به منظور تحریک افکار خوانندگان نوشته شده، اما در عمل بسیار ترسناک به نظر می‌رسد. در این بخش از کتاب آمده «بشریت در حال رویارویی با نتایج تکنولوژی‌هایی است که روز به روز درکش نسبت به آن کمتر می‌شود. تعامل امروز بشریت و اعتماد به وجود آمده محصولی از پروسه‌های فرهنگی هستند که حتی ممکن است نتیجه عکس نیز داشته باشند. تمدن امروزی شکننده‌تر از آن چیزی است که فکرش را می‌کنیم.»

چند سال پیش مقاله‌ای در رابطه با اینکه چه بخواهیم یا نخواهیم، تکنولوژی می‌تواند شفاف‌سازی را برای مردم و سازمان‌ها فراهم بیاورد و اثرات گسترده‌ای خواهد داشت، منتشر کردید. آیا آن اظهارات شما امروز در حال پدیدار شدن است؟

بله من آن مقاله را با همکاری Deb Roy دانشمند جوان و بی‌نظیر فعال در بخش کامپیوتر و روباتیک و مدیر فعلی بخش تحقیقات توییتر نوشتم و آن را با انفجار دوره کامبرین که به دوره بروز وسیع خلاقیت معروف است، مقایسه کردم. سبک جدید امروزی همزمان با نابودی سبک‌های زندگی‌ قدیمی به وجود آمده است. چیزی شبیه رقابت‌های تسلیحاتی.

گوگل بسیار جذاب است چون دروازه ورود و دستیابی به این حقایق است و همچنین به‌عنوان وسیله تبادل فرهنگی نیز شناخته می‌شود، چیزی شبیه یک الگوی فرهنگی. موافقید؟

بله همین‌طور است. بنابراین، پس از جست‌وجوی یک عبارت در گوگل، بالاترین لینکی که به ما پیشنهاد می‌شود، موفق‌ترین نسخه‌ حقیقت را به دیگران ابلاغ می‌کند و این یعنی الگوی فرهنگی پیروز. بله، الگوریتم اساسی که از سوی لری پیج و سرگئی برین ساخته شد وگوگل را به برترین موتور جست‌وجو تبدیل کرد، بارها و بارها بهینه‌سازی شده است و همچنین باهوش‌ترین افراد جهان نیز برای رفع ایرادهای این موتور جست‌وجو فعالیت می‌کنند.کسی نمی‌داند که این افراد تا کجا می‌توانند همین طور موفق عمل کنند اما شکی نیست که تمام تلاش خود را می‌کنند. در ضمن خیلی خوشحالم که Deb Roy مسوول فعالیت‌های علمی توییتر است.او و تیمش در جهت شناسایی و رفع مشکلات توییتر به شدت تلاش می‌کنند.

آیا رابطه بین شرکت‌های فعال در بخش تکنولوژی و دولت آمریکا شما را نگران می‌کند؟

خیلی به این قضیه اهمیت نمی‌دهم اما خیلی هم خوشایند به نظر نمی‌رسد. در حال حاضر راه‌حل مناسبی برای دور نگه داشتن هر چه بیشتر این شرکت‌ها از دولت آمریکا نمی‌بینم. Danny Hills در مصاحبه خود اعلام کرد که سازمان‌های ملی حساس در آمریکا بیش از حد ضرورت به اینترنت وابستگی دارند. اگر اینترنت قطع شود، احتمالا باعث از کار افتادن شبکه برق، موبایل، رادیو و تلویزیون خواهد شد و در نتیجه در تاریکی الکترونیکی غرق خواهیم شد. ما به این نوع اتفاقات عادت نداریم. اگر تا الان فکر می‌کردید ۱۱ سپتامبر ترسناک بوده، باید بگویم این فاجعه به مراتب گسترده‌تر و وحشت انگیزتر خواهد بود. باید برنامه‌ای برای مقابله با این فاجعه داشته باشیم.

شما می‌گویید که دستاوردهای هوش مصنوعی شما را شگفت زده کرده و در عین حال به اینکه روبات‌ها بخواهند بر ما حکومت کنند خیلی اهمیت نمی‌دهید، آیا به چیزهای دیگری اهمیت می‌دهید؟

بله البته که شگفت زده شدم. اما کل جریان هوش مصنوعی و روبات‌ها کمی مضحک به نظر می‌رسد و فقط حواس مردم را از مشکلات جدی‌تر پرت می‌کند. به زودی مردم به ابزارهای مجهز به هوش مصنوعی وابسته خواهند شد. یکی از خطرهای این دستگاه‌ها این است که بیش از حد مجاز به آنها اختیار اعطا می‌کنیم. به آنها اجازه می‌دهیم درباره مسائلی که نباید در آن دخالتی داشته باشند، ما را راهنمایی کنند.

اشاره داشتید که یکی از همکاران شما معتقد است سیستم کلمات پیشنهادی موتور جست‌وجوی گوگل با استفاده از هوش مصنوعی، طرز نگرش افراد نسبت به دنیای اطراف را تحت کنترل دارد. آیا نظر شما همین است؟ آیا معتقدید که روبات‌ها ذهن ما را کنترل می‌کنند و ما هنوز به این قضیه پی نبرده‌ایم؟

بله. بشر خود را غرق در الهامات تکنولوژیکی کرده است. به زودی ثابت خواهیم کرد که گوگل نتایج دقیق را به ما می‌دهد، نتایجی که تنها از این طریق به دست می‌آیند. البته می‌دانیم که فعلا قدرت درک نحوه انجام این کار از سوی گوگل را نداریم. مردم از این تکنولوژی گوگل به‌عنوان جعبه سیاه علم صحبت می‌کنند. در ضمن این مساله ربطی به اخبار و سیاست ندارد. این مساله کاملا علمی است.

در دنیایی که دانشمندانش درکی از نحوه کار این دستگاه‌ها و سیستم‌ها نداشته باشند، چه خطراتی وجود خواهد داشت؟

یکی از تم‌های اصلی کتاب من درباره نحوه کنترل جهان از گذشته تا امروز بدون هیچ درکی از آن است. درک جدی دنیای اطراف در هزاره اخیر رخ داده و حتی قدمت آن به یک میلیون سال هم نمی‌رسد. اما امروز در حال عبور از مرز دنیای هوشمند هستیم و متاسفانه خیلی به درک دنیای اطراف اهمیت نمی‌دهیم. از نظر من این مساله یکی از بزرگ‌ترین تهدیدها برای بشریت است. چه خوب چه بد، درک دنیای اطراف همواره یکی از آرمان‌های من بوده و خواهد بود. دوست دارم همه چیز را درک کنم و مردم نیز همین‌طور. من عاشق درک مسائل و توضیح آن برای خودم و دیگر افراد هستم. همیشه افرادی هستند که می‌گویند: «لازم نیست به خودت زحمت بدی و نحوه کار موتور خودرو را برای من توضیح بدی. من فقط دکمه استارت را می‌زنم و می‌روم.» وقتی چنین طرز تفکری نسبت به همه چیز داشته باشیم چه بلایی سرمان می‌آید؟

آیا به جایی رسیده‌ایم که درک تکنولوژی به دلیل پیچیدگی بیش از حد، برای ما و حتی سازندگان آن غیر ممکن شده است؟

این یک احتمال و مساله نگران‌کننده است. فکر نمی‌کنم به چنین مرحله‌ای رسیده باشیم. نکته جالب اینکه صدها سال است فلسفه‌دانان درباره محدودیت‌های قوه‌ ادراک بشر همانند یک دیوار صوتی صحبت می‌کنند. آنها بر این عقیده بودند که برای ادراک مرزی وجود دارد که امکان عبور از آن وجود ندارد. حال بشریت به شکل جدیدی از ادراک دست پیدا کرده است. البته به این معنی نیست که دیگر هیچ رازی در جهان باقی نمانده، مساله اینجاست که امروزه برای درک و پیشرفت هرچه بیشتر باید کار و علم را از هم جدا کنیم. برای مثال مقالات منتشر شده از مرکز تحقیقات هسته‌ای اروپایی Cern از سوی حدود ۵۰۰نویسنده منتشر می‌شود و هیچ‌کدام از آنها درک کاملی از علم هسته‌ای ندارند. این فرهنگ به زودی بیش از پیش همگانی خواهد شد و درک گروهی مسائل بیش از پیش رواج پیدا خواهند کرد.

منبع: گاردین