هوش مصنوعی در آستانه خودمختاری؟

به گزارش گروه آنلاین روزنامه دنیای اقتصاد؛ پیشرفت خیره‌کننده هوش مصنوعی در دو سال اخیر، پرسشی را که زمانی بیشتر به داستان‌های علمی‌تخیلی تعلق داشت، به یک دغدغه جدی تبدیل کرده است: آیا هوش مصنوعی به‌زودی از کنترل انسان خارج خواهد شد؟ در حالی که شرکت‌های پیشرو این صنعت هر روز مدل‌های قدرتمندتری معرفی می‌کنند، برخی از همان بازیگران اصلی اکنون نسبت به سرعت این پیشرفت هشدار می‌دهند و خواستار امکان توقف موقت توسعه پیشرفته‌ترین سامانه‌های هوش مصنوعی شده‌اند.

یکی از مهم‌ترین دلایل این نگرانی، جهش سریع توانایی مدل‌های هوش مصنوعی در برنامه‌نویسی، مهندسی و پژوهش است. شرکت آنتروپیک، سازنده چت‌بات کلاود، اعلام کرده که بیش از ۸۰ درصد کدهای منتشرشده این شرکت اکنون توسط خود کلاود نوشته می‌شود؛ رقمی که پیش از عرضه نسخه برنامه‌نویس این مدل، تنها در حد چند درصد بود. همزمان، ارزیابی‌ها نشان می‌دهد مدل‌های جدید قادرند وظایفی را انجام دهند که پیش‌تر به بیش از یک روز کاری یک مهندس انسانی نیاز داشت.

براساس گزارش اکونومیست، نگرانی اصلی به مفهومی به نام «خودبهبوددهی بازگشتی» بازمی‌گردد. در این سناریو، یک مدل هوش مصنوعی قادر می‌شود نسخه پیشرفته‌تر خود را طراحی کند. سپس نسخه جدید، نسل بعدی را می‌سازد و این چرخه به‌طور مداوم ادامه می‌یابد. در چنین وضعیتی، فرآیند توسعه دیگر به مهندسان انسانی وابسته نخواهد بود و ماشین‌ها خود مسئول ارتقای نسل‌های بعدی خواهند شد.

برخی پژوهشگران معتقدند این نقطه عطف ممکن است بسیار نزدیک‌تر از آن چیزی باشد که تصور می‌شود. جک کلارک، از بنیان‌گذاران آنتروپیک، احتمال می‌دهد تا پایان سال ۲۰۲۸ سامانه‌ای ظهور کند که بتواند بدون دخالت انسان جانشین خود را بسازد. اگر چنین اتفاقی رخ دهد، سرعت پیشرفت هوش مصنوعی می‌تواند به شکل بی‌سابقه‌ای افزایش یابد؛ زیرا برخلاف انسان، ماشین‌ها قادرند به‌صورت شبانه‌روزی و بدون خستگی روی توسعه نسخه‌های جدید کار کنند.

البته رسیدن به چنین مرحله‌ای هنوز با موانع قابل‌توجهی روبه‌رو است. توسعه مدل‌های پیشرفته تنها به برنامه‌نویسی محدود نمی‌شود. طراحی الگوریتم‌های جدید، تامین داده‌های آموزشی، ساخت زیرساخت‌های محاسباتی و ارزیابی ایمنی مدل‌ها همچنان به تخصص‌های متنوع انسانی نیاز دارد. با این حال، بسیاری از این وظایف نیز به تدریج در حال واگذاری به هوش مصنوعی هستند.

نمونه‌های عملی این روند از هم‌اکنون مشاهده می‌شود. پژوهشگران نشان داده‌اند که عامل‌های هوش مصنوعی قادرند فرآیند آموزش مدل‌های دیگر را بهینه‌سازی کنند و زمان موردنیاز برای آموزش آنها را به شکل محسوسی کاهش دهند. در برخی آزمایش‌ها، یک عامل هوش مصنوعی توانسته تنها در چند روز بهبودهایی ایجاد کند که حتی پژوهشگران برجسته این حوزه پیش‌تر به آنها توجه نکرده بودند.

این تحولات می‌تواند بهره‌وری تحقیق و توسعه را به‌طور چشمگیری افزایش دهد. برخی برآوردها حاکی از آن است که با افزایش سهم هوش مصنوعی در فعالیت‌های پژوهشی، سرعت پیشرفت فناوری ممکن است ده‌ها یا حتی صدها برابر شود. اما همین مزیت بالقوه، منبع اصلی نگرانی نیز هست. اگر ماشین‌ها نه‌تنها مدل‌های جدید را طراحی کنند، بلکه ایمنی آنها را نیز خودشان ارزیابی کنند، نقش انسان در چرخه توسعه به حداقل خواهد رسید.

در مقابل، گروهی از کارشناسان معتقدند خطرات مطرح‌شده بیش از حد بزرگ‌نمایی می‌شود. از نگاه آنها، محدودیت‌های فیزیکی مهمی همچنان وجود دارد. دسترسی به تراشه‌های پیشرفته، ظرفیت مراکز داده، مصرف انرژی و کمبود داده‌های آموزشی باکیفیت از جمله عواملی هستند که می‌توانند سرعت خودبهبوددهی هوش مصنوعی را محدود کنند. افزون بر این، بسیاری از توانایی‌های انسانی مانند قضاوت اجتماعی، خلاقیت و درک پیچیدگی‌های جهان واقعی هنوز به‌راحتی قابل خودکارسازی نیستند.

با وجود این، حتی خوش‌بین‌ترین تحلیلگران نیز اذعان دارند که مرز میان ابزار هوشمند و سامانه خودمختار به سرعت در حال کمرنگ شدن است. آنچه امروز صرفا یک دستیار دیجیتال به نظر می‌رسد، ممکن است در آینده نزدیک به بازیگری تبدیل شود که بخش مهمی از فرایند توسعه فناوری را خود مدیریت می‌کند.

پرسش اصلی دیگر این نیست که آیا هوش مصنوعی توانایی مشارکت در توسعه خود را خواهد داشت یا نه؛ بلکه این است که انسان‌ها تا چه اندازه می‌توانند همگام با این تحول، سازوکارهای نظارتی و ایمنی لازم را ایجاد کنند. آینده هوش مصنوعی شاید نه در توانایی‌های فنی آن، بلکه در کیفیت مدیریت انسانی این فناوری رقم بخورد./