تبعیض جنسیتی در عصر الگوریتم‌ها

میزان تعجب مرا تصور کنید؛ زمانی که تصویر دریافتی از همان طرح جلد، با رنگ جدید بود، اما به جای مادر جاه‌طلب، نام کتاب به پدر جاه‌طلب تغییر کرده بود. نام نویسنده نیز از «آنه ولش» به «جان ولش» تغییر کرده بود. شوکه شده بودم و در عین حال، تعجب هم نداشت.

از یک‌سو، من همیشه تردیدهایی سالم و متعادل نسبت به هوش مصنوعی داشته‌ام. می‌دانستم که هوش مصنوعی در تولید مقالات دچار وهم و خیال می‌شود. به همین دلیل حواسم بود که بلافاصله پس از استفاده از هوش مصنوعی، تمام مقاله را از نو بررسی کنم. تمام اعداد، تمام ارجاعات و جزئیات دیگر را بررسی می‌کردم تا هوش مصنوعی مطلبی بی‌ربط و اشتباه در مقاله من نگنجانده باشد. این کار را با دقت و سختگیری تمام انجام می‌دادم.

با این حال، این بار یک درخواست بسیار ساده از آن کردم و نتیجه دریافتی، چیزی بیش از یک اشتباه به نظر می‌رسید. حس می‌کردم که چیزی شبیه به این بوده است: هوش مصنوعی چنان با قرار گرفتن دو واژه انتخابی برای عنوان کتاب ناآشنا بوده که مجبور شده پیش از پایان پردازش، عنوان را با مجموعه جدیدی از واژگان تغییر دهد. سپس نام نویسنده را هم تغییر داده بود تا با عنوان کتاب همخوانی داشته باشد.

ما تصور می‌کنیم کامپیوترها اهل جانب‌داری و تبعیض نیستند؛ بالاخره آنها طبق داده‌ها عمل می‌کنند و باید نگاهی واقعی‌تر و منطقی‌تر به قضایا داشته باشند. با این حال، هوش مصنوعی بر اساس داده‌ها و اطلاعات موجود آموزش می‌بیند و برنامه‌نویسی می‌شود. آنچه هم موجود است، پر از جانب‌داری و تبعیض است. داستان‌های چه کسانی در کتاب‌های تاریخ نقل شده است؟ داستان‌های چه کسانی در داده‌ها نهادینه شده است؟ ما داستان‌های چه کسانی را مطالعه می‌کنیم و آن داده‌ها را چگونه تفسیر می‌کنیم؟ خطر اصلی آن است که مردم همیشه نمی‌دانند چه جانب‌داری‌ها و تبعیض‌هایی در پس داستان‌ها و داده‌ها وجود دارد و در نتیجه برای کشف آن، سوالات درستی نمی‌پرسند.

تنگنای قدیمی در دل فناوری جدید

با داغ شدن بحث شکاف جنسیتی در هوش مصنوعی، من بارها به آن داستان فکر کردم. در اغلب موارد، ما درباره شکاف‌های جنسیتی در رهبری سازمانی به شکلی بحث می‌کنیم که گویا با مشکلی مختص زنان مواجه هستیم. به زنان می‌گوییم: سخن بگویید، نظرات و دیدگاه‌هایتان را مطرح کنید. اعتماد به نفس بیشتری داشته باشید. مذاکره کنید. وکیل مدافع خود باشید.

مشکل این توصیه‌ها آن است که با رفتارهای مشابه در مردها و زن‌ها به شکلی مشابه رفتار نمی‌شود. ما این موضوع را از مدت‌ها قبل می‌دانیم و در عین حال درباره‌اش چندان صحبت نمی‌کنیم. به عنوان مثال، پژوهشی علمی درباره تنگنای رهبری سازمانی (با عنوان The strong, sensitive type) پی برده که زنان باید توانمندی‌های خود را در رهبری سازمانی اثربخش نشان دهند و همزمان باید گرما و عواطفی را نیز که از زنان انتظار داریم، به نمایش بگذارند. زنانی که به قدر کافی جسور و قاطع باشند که توانمندی خود را نشان دهند، به عنوان افرادی سرد و دوست‌نداشتنی تنبیه می‌شوند.

من این موضوع را در وضعیت بسیاری از موکلان خود مشاهده کرده‌ام. یکی از موکلان من قصد استخدام در یک بیمارستان بزرگ و برجسته داشت. او بارها در خلال آموزش‌های خود شاهد آن بود که همکاران مرد او هر گاه از بیماران سوالاتی می‌پرسیدند که کوچک‌ترین نشانی از همدردی و همدلی داشت، بابت آداب و نزاکت رفتارشان تحسین می‌شدند. در همین حال، همکاران زن او نیز رفتارهایی حاکی از همدردی و درک عالی شرایط بیماران نشان می‌دادند، ولی انگار آنها فقط به وظیفه‌شان عمل کرده‌اند. در آن سو، زمانی که زنان طبق این انتظارات رایج عمل نمی‌کردند، با انتقاد شدید مواجه می‌شدند، ولی مردان از چنین انتقادی معاف بودند. اکنون شاهد آن هستیم که چنین جانب‌داری‌ها و تبعیض‌هایی در هوش مصنوعی نیز دیده می‌شود.

آنچه پژوهش‌ها نشان می‌دهند

ما با یک شکاف جنسیتی در هوش مصنوعی مواجه هستیم. براساس پژوهش جدیدی که در نشریه «لین‌این» (Lean In) منتشر شده، مردان ۲۲ درصد بیش از زنان احتمال دارد که بگویند از هوش مصنوعی به طور روزانه یا مستمر در کارشان استفاده می‌کنند. تفاوت در میزان استفاده از هوش مصنوعی بین زنان و مردان از آنجا اهمیت دارد که هوش مصنوعی در حال تبدیل شدن به بخشی طبیعی از شیوه کار است و باید پذیرش و مواجهه سالم با آن آموخته شود. با این حال، طوری درباره این شکاف صحبت می‌کنیم که انگار راه‌حل آن فقط آن است که زنان را ترغیب به استفاده بیشتر از هوش مصنوعی کنیم. چنین راهکاری، محیطی را که از زنان خواستار انطباق با آن هستیم، نادیده می‌گیرد.

در همان پژوهش از لین‌این، مردان ۲۳ درصد احتمال بیشتری داشت که بگویند توسط مدیرشان به استفاده از هوش مصنوعی تشویق می‌شوند. مردان همچنین ۲۷ درصد احتمال بیشتری داشت که بگویند بابت استفاده از هوش مصنوعی تحسین می‌شوند. در همین زمان، زنان ۳۲ درصد احتمال بیشتری داشت که نگران باشند بابت استفاده از هوش مصنوعی به تقلب کردن متهم شوند. شاید زنان به درستی این ارزیابی و نگرانی را از شرایط موجود دارند. به هرحال آنها بیشتر متهم به دغلکاری می‌شوند! در پژوهشی با مشارکت بیش از هزار نفر مهندس نرم‌افزار، بررسی شد که افراد چگونه چند صفحه کدنویسی یکسان را ارزیابی می‌کنند. به همه افراد همان چند صفحه داده شد، اما به برخی گفته شد که فرد کدنویس از هوش مصنوعی استفاده کرده و به برخی گفته شد که کدنویس، خودش آن را نوشته است. همچنین به برخی گفته شد که کدنویس مرد بوده و به برخی گفته شد کدنویس زن بوده است. زمانی که مهندسان ارزیاب می‌شنیدند که کدنویس از هوش مصنوعی استفاده کرده، امتیاز کمتری به مهارت و صلاحیت او می‌دادند. اما نکته این بود که جریمه آنها برای زنان سنگین‌تر بود. هرگاه تصور شده بود که یک کدنویس زن از هوش مصنوعی استفاده کرده، دوبرابر همتای مرد خود، امتیاز مهارت و صلاحیت را از دست می‌داد. در این پژوهش، کار تغییر نکرده بود. آنچه تغییر کرده بود، دانش ارزیاب از این موضوع بود که هوش مصنوعی در فرآیند تولید استفاده شده است. مهم‌تر آنکه درحالی‌که همه بابت استفاده از هوش مصنوعی جریمه شدند، زنان متحمل جریمه بیشتری شدند. در همان پژوهش، نظرسنجی مکملی انجام شد. پژوهشگران پی بردند آن دسته از ارزیاب‌ها که افراد را بابت استفاده از هوش مصنوعی جریمه بیشتری می‌کردند، خودشان مقاومت بیشتری در پذیرش این فناوری نشان می‌دهند. این ارتباط همچنین بین زنان قوی‌تر بود.

به عبارت دیگر، زنان به درستی متوجه شده‌اند که بابت استفاده خود از هوش مصنوعی قضاوت (مبتنی بر تبعیض) خواهند شد و به همین دلیل نیز اکراه بیشتری برای پذیرش و استفاده از آن دارند. این وضعیت با هر تبعیض دیگری شباهت می‌یابد: به زنان گفته می‌شود که کار ایکس را انجام دهند، اما به آنها نمی‌گویند عملکرد آنها در کار ایکس متفاوت از عملکرد مردان در همان کار ارزیابی می‌شود.

برخی به زنان توصیه می‌کنند که بیشتر مذاکره کنند. اما در پژوهش‌هایی مشخص شده که زنان به اندازه مردان برای افزایش حقوق یا ترفیع مذاکره می‌کنند، اما احتمال کمتری دارد که درخواستشان قبول شود. پژوهش‌های دیگری حتی نشان داده که برخی زنان برای شروع به مذاکره تنبیه شده‌اند. در چنین شرایطی و بدون توجه به شرایط محیطی، ما به سادگی از زنان می‌خواهیم از هوش مصنوعی بیشتر استفاده کنند. زنان لازم دارند که آن را بیاموزند. آنها نیاز دارند خود را با فناوری‌ها و الزامات روز جهان انطباق دهند. اما زمانی که چنین کاری می‌کنند، آن را با قواعدی متفاوت قضاوت می‌کنیم.

مشکل دیگری که فرصت بحث مفصل درباره آن نیست، شکاف موجود در وظایف نامشهود و بدون دستمزد زنان و شکاف فراغت و تفریحات آنهاست.

ضعف‌های نهادینه‌شده

زمانی که به بحث کارکردها و پیاده‌سازی هوش مصنوعی بازمی‌گردیم، باید به یاد داشته باشیم که تمام ضعف‌ها، جانب‌داری‌ها و تبعیض‌های بحث شده در این مقاله، به هوش مصنوعی راه یافته‌اند. ما هنگام آموزش و کدنویسی هوش مصنوعی، هر داده و اطلاعاتی را که به عنوان خوراک به آن داده‌ایم، حاوی یک یا چند مورد از ضعف‌ها و تبعیض‌های مورد بحث بوده است.

با این حساب، چه در زمان پیاده‌سازی و چه هنگام استفاده از آن، احتمال زیادی دارد که مرتکب جانب‌داری‌ها و تبعیض‌های ناخواسته‌ای بشویم. اما نمی‌توان توصیه کرد برای پیشگیری از چنین خطاهایی، از تمام مزایا و پتانسیل‌های یک فناوری صرف نظر کنیم. توصیه عملی‌تر و منطقی‌تر آن است که در طول اقتباس، پیاده‌سازی و استفاده از هوش مصنوعی، مراقب تله‌های احتمالی باشیم و با صبر کافی و دقت زیاد، منصفانه‌ترین تصمیمات و موضع‌گیری‌های ممکن را اتخاذ کنیم.

منبع: Fast Company