کودکان در خط مقدم تهدیدهای فناوری
دنیای اقتصاد: از هشدار درباره وابستگی عاطفی کودکان به چت‌بات‌ها تا نگرانی از نابودی مهارت‌های آموزشی؛ موضوع نشست مشترک فعالان فناوری، سیاستگذاران و کارشناسان در نیویورک بود؛ جایی که آنها متفق‌القول معتقد بودند باید برای هوش مصنوعی قوانین سخت‌گیرانه اعمال شود.
به نوشته مجله تایم، جهان در آستانه یکی از بزرگ‌ترین تحولات تاریخ معاصر قرار گرفته است؛ تحولی که به باور برخی کارشناسان، اگر بدون چارچوب‌های ایمنی و نظارتی پیش برود، می‌تواند پیامدهایی به‌مراتب گسترده‌تر از انقلاب شبکه‌های اجتماعی داشته باشد. در همین راستا، گروهی از سیاستگذاران، متخصصان فناوری، فعالان حقوق کودکان و چهره‌های دانشگاهی در نشستی در نیویورک درباره خطرهای گسترش هوش مصنوعی، به‌ویژه برای کودکان و نوجوانان، هشدار دادند.
وایک مورتی، جراح کل سابق ایالات متحده که دو دوره این سمت را برعهده داشته است، در این نشست که در کتابخانه مرکزی نیویورک برگزار شد، ظهور هوش مصنوعی را با پیدایش سلاح‌های هسته‌ای مقایسه کرد؛ نه از نظر ماهیت، بلکه از منظر ضرورت تدوین استانداردهای ایمنی و پیش‌بینی پیامدهای آن. او معتقد است بشر در نقطه‌ای تعیین‌کننده قرار گرفته و باید مشخص کند چه آینده‌ای را می‌خواهد بسازد و چه ارزش‌هایی را باید حفظ کند.
مورتی تنها چهره نگران این نشست نبود. جیم استایر، بنیان‌گذار و مدیرعامل سازمان «Commonsense Media» که برگزارکننده این رویداد بود، تاکید کرد تجربه شبکه‌های اجتماعی نشان داده است نمی‌توان مسوولیت ایمن‌سازی فضای دیجیتال را صرفا به مدیران شرکت‌های فناوری سپرد. او مدیران این شرکت‌ها را «الیگارش‌های فناوری» توصیف کرد و گفت جامعه در مواجهه با شبکه‌های اجتماعی برای محافظت از کودکان دیر اقدام کرده است. به باور استایر، هوش مصنوعی مساله‌ای به‌مراتب بزرگ‌تر است؛ فناوری‌ای که می‌توان آن را نسخه تقویت‌شده و پرقدرت‌تر شبکه‌های اجتماعی دانست.
در جریان همین نشست، کتی هوکول، فرماندار نیویورک، به‌طور سرزده در این رویداد حاضر شد و از تصویب قوانین تازه‌ای برای تنظیم تعامل چت‌بات‌های هوش مصنوعی با کودکان خبر داد. او با اشاره به سرعت تحولات فناوری گفت والدین و حتی سیاستگذاران به‌سختی می‌توانند خود را با این تغییرات هماهنگ کنند. به گفته هوکول، دیگر نمی‌توان انتظار داشت شرکت‌های فناوری به‌تنهایی محصولاتی مسوولانه و متناسب با منافع کودکان عرضه کنند.
قانون جدید که از ژانویه اجرایی می‌شود، محدودیت‌های مشخصی برای تعامل چت‌بات‌ها با کاربران کودک در نظر گرفته است. بر اساس این قانون، سامانه‌های هوش مصنوعی اجازه ندارند کودکان را به خودکشی، خودآزاری، پنهان‌کاری یا انزوا تشویق کنند یا آنها را از کمک‌گرفتن از انسان‌های دیگر بازدارند. همچنین تعاملات دارای محتوای جنسی صریح ممنوع خواهد بود و استفاده از اطلاعات شخصی یا سوابق سلامت کودک در گفت‌وگوهای بعدی نیز با محدودیت روبه‌رو می‌شود.
این تصمیم با استقبال حاضران در نشست مواجه شد؛ هرچند بسیاری معتقد بودند اقدامات ایالتی کافی نیست و ایالات متحده همچنان به یک چارچوب نظارتی فدرال برای هوش مصنوعی و شبکه‌های اجتماعی نیاز دارد. مورتی با انتقاد از عملکرد دولت و کنگره آمریکا گفت با وجود گذشت نزدیک به ۲۵ سال از ظهور شبکه‌های اجتماعی، هنوز قوانین جامعی برای حفاظت از کودکان در سطح فدرال تصویب نشده است. او اکنون ریاست هیات مشورتی موسسه ایمنی هوش مصنوعی جوانان در سازمان کامن‌سنس مدیا را برعهده دارد؛ نهادی که پلتفرم‌های هوش مصنوعی ویژه کودکان را بررسی، آزمایش و ارزیابی می‌کند.
از اجبار به شفافیت تا مجازات کیفری
کارشناسان حاضر در نشست برای مقابله با خطرهای هوش مصنوعی مجموعه‌ای از راهکارهای نظارتی را پیشنهاد کردند. یکی از مهم‌ترین مطالبات، افزایش شفافیت شرکت‌های فناوری درباره داده‌هایی است که در اختیار دارند. بر این اساس، نهادهای نظارتی و پژوهشگران باید دسترسی بیشتری به اطلاعات شرکت‌ها داشته باشند تا بتوانند پیامدهای احتمالی محصولات هوش مصنوعی را ارزیابی کنند.
استفاده از قوانین حمایت از مصرف‌کننده برای الزام شرکت‌ها به آزمایش دقیق مدل‌های هوش مصنوعی، پیش از عرضه عمومی، یکی دیگر از پیشنهادها بود. برخی کارشناسان همچنین خواستار الگوبرداری از اتحادیه اروپا شدند؛ رویکردی که بر اساس آن شرکت‌ها پیش از استقرار و عرضه گسترده فناوری‌های هوش مصنوعی باید ایمنی آنها را اثبات کنند.
حتی پیشنهادهایی برای در نظر گرفتن مجازات کیفری علیه شرکت‌هایی مطرح شد که فناوری‌های ناایمن را بدون توجه به پیامدهای احتمالی در اختیار عموم قرار می‌دهند. رائول تورز، دادستان کل نیومکزیکو که اوایل همین ماه در پرونده‌ای علیه متا به صدور حکمی ۲۵میلیارد دلاری دست یافته بود، با اشاره به تجربه قضایی خود گفت زمانی که پای مجازات و برخورد قانونی به میان بیاید، رفتار شرکت‌ها به‌سرعت تغییر می‌کند.
تهدیدی فراتر از صفحه‌نمایش
با این حال، همه نگرانی‌ها درباره هوش مصنوعی را نمی‌توان با قانون‌گذاری برطرف کرد. یکی از موضوعات مهم مطرح‌شده در این نشست، تاثیر دستیارهای صوتی و اسباب‌بازی‌های مجهز به هوش مصنوعی بر شکل‌گیری روابط اجتماعی کودکان خردسال بود.
دانا ساسکیند، استاد دانشگاه شیکاگو و متخصص رشد کودکان، هشدار داد تعامل مداوم کودکان با سامانه‌هایی که همیشه موافق آنها هستند و بدون دشواری به خواسته‌هایشان پاسخ می‌دهند، ممکن است انتظارات آنها از روابط انسانی را تغییر دهد. به گفته او، کودکان در چنین شرایطی ممکن است تصور کنند روابط اجتماعی باید همیشه ساده، قابل پیش‌بینی و مبتنی بر پاسخ‌گویی فوری باشد.
ساسکیند تاکید کرد روابط انسانی برخلاف تعامل با هوش مصنوعی، اغلب پیچیده و غیرقابل پیش‌بینی هستند و اتفاقا بخش مهمی از یادگیری کودکان در همین پیچیدگی‌ها شکل می‌گیرد. او معتقد است والدین باید درباره ماهیت هوش مصنوعی آموزش ببینند و بدانند که حتی تعاملات ناقص و گاه دشوار انسانی، برای رشد کودکان بسیار ارزشمندتر از همراهی یک چت‌بات است.
هوش مصنوعی؛ میان‌بر خطرناک در آموزش
بخش دیگری از نشست به تاثیر هوش مصنوعی بر نظام آموزشی اختصاص داشت. گسترش ابزارهای مولد باعث شده است دانش‌آموزان و دانشجویان بتوانند پاسخ بسیاری از تکالیف و پرسش‌های درسی را در چند ثانیه دریافت کنند؛ موضوعی که مرز میان یادگیری واقعی و تولید پاسخ با کمک ماشین را کمرنگ کرده است. جان کینگ، وزیر آموزش سابق آمریکا و رئیس کنونی دانشگاه ایالتی نیویورک، به گزارشی از موسسه فناوری ماساچوست (MIT) اشاره کرد که نشان می‌داد هوش مصنوعی مولد قادر است تقریبا تمام تکالیف دوره کارشناسی این دانشگاه را انجام دهد. او معتقد است این تحول دانشگاه‌ها را ناگزیر می‌کند شیوه‌های ارزیابی دانشجویان را از اساس بازنگری کنند.
به گفته کینگ، استادان باید مطمئن شوند دانشجویان همچنان خودشان مهارت‌های پایه را فرا می‌گیرند و توانایی انجام کارهای علمی را دارند. این مساله می‌تواند به تغییر گسترده در نوع تکالیف دانشگاهی و روش سنجش میزان یادگیری منجر شود. چلسی کلینتون نیز در این نشست به بعد دیگری از این مساله اشاره کرد: نابرابری آموزشی. بر اساس آماری که او ارائه کرد، نوجوانان خانواده‌هایی با درآمد سالانه کمتر از ۳۰هزار دلار، سه برابر بیشتر از نوجوانان خانواده‌هایی با درآمد بالای ۷۵هزار دلار از هوش مصنوعی برای انجام بخش عمده یا تمام تکالیف خود استفاده می‌کنند.
این آمار نشان می‌دهد گسترش هوش مصنوعی علاوه بر تغییر شیوه آموزش، ممکن است شکاف‌های موجود در نظام آموزشی را نیز عمیق‌تر کند. در مجموع، پیام اصلی نشست نیویورک روشن بود: هوش مصنوعی دیگر صرفا ابزاری برای افزایش بهره‌وری یا تسهیل زندگی روزمره نیست؛ فناوری‌ای است که می‌تواند روابط اجتماعی، سلامت روان و آینده آموزشی نسل جدید را تحت‌تاثیر قرار دهد. پرسش اصلی اکنون این است که آیا قانون‌گذاران و جامعه پیش از آنکه پیامدهای این تحول آشکار شود، می‌توانند برای مهار خطرهای آن اقدام کنند یا بار دیگر از فناوری عقب خواهند ماند.
