خطر ماشین‌های هوشمند ناظر بر نیروی انسانی (بخش دوم)
عصر توبیخ کارمندان توسط روبات‌ها
روبات و نظارت بر احساسات
آنجلا (اسم مستعار) چند سال در مرکز پاسخگویی تلفنی یک شرکت بیمه کار می‌کرد و در نهایت این شرکت را ترک کرد. کار او، مثل همه پاسخگویی‌‌های تلفنی پراسترس بود. مشتریان اغلب ناراضی بودند. یک نرم‌افزار تعداد و طول مکالمات او را پیگیری می‌کرد و مدیرانش گاهی اوقات استراق سمع می‌کردند تا عملکرد او را ارزیابی کنند. اما سال گذشته یک تغییر دیگر ایجاد شد. علاوه بر معیارهای معمول، معیار سنجش احساسات هم اضافه شده بود که با هوش مصنوعی اندازه‌گیری می‌شد.
نرم‌افزاری که آنجلا با آن مواجه شده بود، Voci نام داشت که یکی از چند شرکتی بود که از هوش مصنوعی برای ارزیابی عملکرد نیروهای پاسخگویی تلفنی استفاده می‌کرد. معیارهای کاری دیگر آنجلا عالی بودند، اما این برنامه دائما به‌خاطر داشتن احساسات منفی از او ایراد می‌گرفت. او این موضوع را گیج‌کننده می‌دید، چون مدیران انسانی او قبلا از رفتارهای همدلانه او پشت تلفن تقدیر کرده بودند. هیچ‌کس دقیقا به او توضیح نمی‌داد چرا از طرف این نرم‌افزار توبیخ می‌شود، اما بهترین حدسی که خودش می‌زد این بود که هوش مصنوعی مدل تند و بلند حرف زدن و سکوت‌های مقطعی او (برای حفظ یک معیار دیگر که مشتری را زیاد پشت خط نگه ندارد) را احساس منفی تفسیر می‌کند.
آنجلا میگوید: «تعجب می‌کنم که این برنامه به همدردی‌های جعلی امتیاز می‌دهد. وقتی حس می‌کنی تنها روش درست برای نشان دادن احساسات، همان روشی است که کامپیوتر میگوید، احساس می‌کنی محدود شده‌ای. همچنین به نظر می‌رسد این بهترین تجربه برای مشتری نیست، چون اگر آنها می‌خواستند با کامپیوتر حرف بزنند، خب می‌توان از تلفن گویا استفاده کرد.» یکی از سخنگویان شرکت Voci میگوید این شرکت برنامه یادگیری ماشینی خود را با هزاران ساعت فایل صوتی آموزش داده تا احساسات مثبت یا منفی کارکنان را بسنجد. او اذعان می‌کند این ارزیابی‌ها عینی نیستند، اما در مجموع متغیرهایی مثل لحن و لهجه را کنترل می‌کنند. در نهایت، او گفت شرکت Voci یک ابزار تحلیل ارائه کرده و این مراکز پاسخگویی تلفنی هستند که باید تصمیم بگیرند چگونه از داده‌های ارائه شده آن استفاده کنند.
دردسرهایی که آنجلا با Voci پیدا کرده بود، او را نسبت به دور بعدی اتوماسیون نگران کرد. کارفرمای او می‌خواست یک نرم‌افزار دیگر را مورد استفاده قرار دهد که بخش‌هایی از ارزیابی‌های تلفنی را که هنوز توسط انسان انجام می‌شد، اتوماتیک‌سازی کند؛ مثلا اینکه آیا پاسخ‌دهنده‌ها از عبارت‌های درستی در مکالمات خود استفاده می‌کنند یا نه. همچنین آنها می‌خواستند استفاده از برنامه Cogito را توسعه دهند. این برنامه از هوش مصنوعی برای مربی‌گری کارمندان به‌صورت آنی استفاده می‌کند؛ مثلا همان لحظه به آنها میگوید آرام‌تر صحبت کنند یا انرژی بیشتری داشته باشند یا با مشتری اظهار همدردی کنند. وقتی مشاغلی را که در معرض اتوماسیون هستند لیست می‌کنیم، نیروهای پاسخگویی تلفنی بعد از رانندگان کامیون‌های خودران قرار میگیرند. شغل آنها تکراری است و یادگیری ماشینی امکان پیشرفت سریع را در تشخیص گفتار فراهم کرده است. اما یادگیری ماشینی با وظایف کاملا خاص و منحصر به فردی سروکار دارد و مردم اغلب دوست دارند با یک انسان واقعی صحبت کنند. بنابراین، این مشاغل مدیریتی و نظارتی هستند که اتوماتیک‌سازی می‌شوند. گوگل، آمازون و گروهی از شرکت‌های کوچک‌تر سیستم‌هایی مبتنی بر هوش مصنوعی تولید کرده‌اند که به تلفن‌ها گوش می‌دهند و کارکنان را راهنمایی می‌کنند یا به‌طور اتوماتیک عملکرد آنها را مورد ارزیابی قرار می‌دهند. به‌عنوان مثال، شرکت «کال‌ماینر» (Call Miner) از هوش مصنوعی برای امتیاز دادن به حرفه‌ای‌گری، ادب و اظهار همدردی کارکنان استفاده می‌کند و آن را در قالب درصد نشان می‌دهد.
کارکنان می‌گویند این سیستم‌ها اغلب قضاوت‌های ناجوری از تعاملات انسانی دارند. یکی از آنها میگوید مثلا این سیستم‌ها معیار «اظهار همدردی» را با گفتن زیاد کلمه «متاسفم» می‌سنجند. یکی دیگر از کارکنان مرکز پاسخگویی تلفنی یک شرکت بیمه میگوید هوش مصنوعی Cogito که به او میگوید هنگام حس کردن ناراحتی‌های احساسی مشتری با او همدردی کند، به هرگونه تغییر لحن، حتی خنده، واکنش نشان می‌دهد. وقتی یکی از مکالمات ضبط شده همکار او را مرور کردند، متوجه شدند فرد پشت خط به‌خاطر تولد یک کودک خوشحال بوده و می‌خندیده و کارمند پاسخگو که مشغول پر کردن یک فرم بوده و حواسش به‌طور کامل متوجه مکالمه نبوده، فقط از دستور هوش مصنوعی برای اظهار همدردی (به دلیل تغییر لحن فرد پشت خط) تبعیت کرده و گفته «متاسفم»!
فشار طاقت‌فرسا برای افزایش بهره‌وری
مک رونی، مهندس نرم‌افزار یک شرکت در اندونزی بود. او یک روز آگهی استخدام شرکت کراس‌اور را در شهر آستین در فیس‌بوک دید و با اینکه شغل فعلی خودش را دوست داشت، اما این کار را یک پیشرفت می‌دانست. حقوق پیشنهادی هم بیشتر- و ۱۵ دلار در هر ساعت - بود و این آگهی به او می‌گفت می‌تواند هر وقت بخواهد کار کند و حتی از خانه دورکاری کند. در اولین روز کاری در شرکت کراس‌اور، به او گفته شد یک برنامه به نام WorkSmart را دانلود کند. اندی تریبا، مدیر عامل کراس‌اور در یک تماس ویدئویی به او گفته بود کارمند مدرن دائما با اپلیکیشن‌های ابری سروکار دارد و این باعث می‌شود حجم زیادی از اطلاعات در مورد اینکه آنها چگونه زمان خود را صرف می‌کنند، تولید شود؛ اطلاعاتی که معمولا دور ریخته می‌شوند. نظر تریبا این بود که این داده‌ها باید برای افزایش بهره‌وری مورد استفاده قرار بگیرند. او در ادامه گفته بود این نرم‌افزار به کارکنان امکان می‌دهد به سطوح تازه‌ای از تمرکز شدید برسند. تریبا مجموعه‌ای از نمودارها را نشان داده بود که می‌گفت چگونه یک روز کاری از اختلال‌های پراکنده به بلوک‌های منسجمی از بهره‌وری بی‌وقفه تبدیل شده‌اند.
در واقع، برنامه WorkSmart روز کاری رونی را به بلوک‌های منسجمی از بهره‌وری تبدیل کرد، چون اگر لحظه‌ای تشخیص می‌داد که او به اندازه کافی کار نمی‌کند، دستمزدی به او تعلق نمی‌گرفت. این نرم‌افزار ضربه‌هایی که به صفحه کلید می‌خورد، کلیک‌های ماوس و اپلیکیشن‌های مورد استفاده را ردیابی می‌کرد و با اینها به بهره‌وری او امتیاز می‌داد. همچنین رونی ملزم بود به این برنامه امکان دسترسی به وبکم خود را بدهد. هر ۱۰ دقیقه، سه عکس به‌صورت تصادفی از او گرفته می‌شد تا اطمینان حاصل شود که پشت میزش نشسته است. اگر رونی موقع عکس گرفتن WorkSmart پشت میز نبود یا تشخیص می‌داد که به اندازه سقف بهره‌وری تعیین‌شده کار نکرده، آن وقفه ۱۰ دقیقه‌ای، از دستمزدش کسر می‌شد. یکی دیگر از کارکنان شرکت که همزمان با رونی آغاز به کار کرده بود، قبول نکرد که امکان دسترسی به وبکم بدهد و اخراج شد!
رونی خیلی زود متوجه شد با اینکه الان در خانه کار می‌کند، اما محل کار قبلی آزادی بیشتری به او می‌داد. در آنجا او می‌توانست زمانی را به خوردن ناهار اختصاص بدهد یا بین وظایف کاری استراحت داشته باشد. اما در کراس‌اور، حتی یک دوش گرفتن ساده در خانه خودش، به سرعت بالا و استراتژی نیاز داشت. باید حواسش به چراغ سبز وبکم بود تا به محض عکس گرفتن داخل حمام بدود و امید داشته باشد که قبل از عکس بعدی WorkSmart کارش را تمام کند. معیارهایی که برای سنجش کارش استفاده می‌شد هم بسیار سختگیرانه بودند: حدود ۳۵ هزار خط کد در هر هفته. او در نهایت فهمید که باید هر ۱۰ دقیقه حدود ۱۵۰ بار دکمه صفحه کلید را فشار دهد و اگر برای فکر کردن، تایپ را متوقف می‌کرد، امتیاز منفی می‌گرفت. او محاسبه کرد، با این روش او ۱۰ ساعت در هفته اضافه و بدون دستمزد کار می‌کند تا زمانی را که نرم‌افزار به او امتیاز نمی‌دهد، جبران کند. دیگر کارکنان کراس‌اور- یکی در لاتویا، یکی در لهستان، یکی در هند و یکی در بنگلادش- همین نظر را داشتند.
رونی میگوید: «به این ترتیب، اولین چیزی که از دست می‌دهید، زندگی اجتماعی است.» او دیگر نمی‌توانست دوستانش را ببیند، چون پشت کامپیوترش قفل شده بود و تلاش می‌کرد معیارهای نرم‌افزار را برآورده کند. «اغلب نمی‌توانستم پایم را از خانه بیرون بگذارم.» چند ماه گذشت و استرس رونی زیاد شد. او نمی‌توانست بخوابد. حتی موقع کار نمی‌توانست به موسیقی گوش دهد، چون نرم‌افزار، استفاده از یوتیوب را مخالف بهره‌وری می‌دانست و این روی دستمزدش اثر می‌گذاشت. کارش دیگر آزاردهنده شده بود. کار کردن با این همه فشار، باعث شد او کم بیاورد و بهره‌وری‌اش از بین برود. تریبا می‌گفت این شرکت پلت‌فرمی است که نیروی کار ماهر و ابزارهایی برای مدیریت آنها، به کسب‌وکارها معرفی می‌کند. این بستگی به خود کسب‌وکارها دارد که تصمیم بگیرند آیا می‌خواهند از این ابزارها استفاده کنند و چگونه. او میگوید افراد نباید مجبور باشند ساعات اضافه بدون دستمزد کار کنند و اگر نیاز به استراحت داشته باشند، می‌توانند دکمه توقف را بزنند و از ساعت کاری خارج شوند. وقتی از او سوال شد چرا این شدت از نظارت لازم است، پاسخ او این بود که دورکاری در آینده عادی می‌شود و کارکنان انعطاف بیشتری خواهند داشت. اما کارفرما هم به روشی نیاز دارد تا کارکنان خود را مسوولیت‌پذیر نگه دارد. به علاوه، داده‌هایی که با این نرم‌افزارها جمع‌آوری می‌شود، فرصت‌های تازه‌ای برای مربی‌گری کارکنان ایجاد می‌کند تا بتوان آنها را به‌سوی بهره‌وری بیشتر هدایت کرد.
اما برای رونی، وعده انعطاف‌پذیری کراس‌اور، توهمی بیش نبود. بعد از یک سال کار کردن برای این شرکت، نظارت‌ها و فشارها آنقدر زیاد شد که این کار را رها کرد. او میگوید: «فکر می‌کردم همه چیز را از دست داده‌ام.» او کار قبلی را از دست داده بود و نگران پرداخت قسط‌هایش بود، اما بعد از سه ماه، کار دیگری در یک اداره به سبک قدیمی پیدا کرد. حقوقش کمتر شده بود، اما او خوشحال‌تر بود. مدیری داشت که وقتی مشکلی برایش پیش می‌آمد، کمکش می‌کرد. وقت ناهار و استراحت و نوشیدن چای داشت. «حالا هر وقت بخواهم می‌توانم بیرون بروم و چای بنوشم، تفریح کنم و حتی داخل دفتر مکانی وجود دارد که می‌توانیم بخوابیم.»
افزایش بهره‌وری یا استرس مزمن؟
کار کردن همواره به معنی از دست دادن بخشی از آزادی بوده است. وقتی کارکنان کاری به دست می‌آورند، موافقت می‌کنند که بگذارند رئیس‌شان به آنها بگوید چگونه عمل کنند، چگونه لباس بپوشند، یا در یک زمان مشخص کجا باشند و همه اینها امری عادی به‌نظر می‌رسد. کارفرماها به گفته الیزابت اندرسون فیلسوف، مثل دولت‌های خصوصی عمل می‌کنند و مردم می‌پذیرند که به آنها قدرت بدهند تا تحت نظارت قرار بگیرند. مدیریت اتوماتیک‌سازی شده، این محاسبات را تغییر می‌دهد. یک کارفرما ممکن بود همیشه این حق را داشته باشد که دسک‌تاپ کامپیوتر شما را در طول روز چک کند، اما این کار زمان زیادی از او می‌گرفت. حالا اتوماتیک‌سازی چنین نظارتی نه تنها کار ساده‌ای است، بلکه برای جمع‌آوری داده‌های مورد نیاز به منظور بهینه‌سازی کار، ضروری هم هست. منطق این کار برای شرکتی که می‌خواهد هزینه‌های خود را پایین بیاورد، مقاومت‌ناپذیر به نظر می‌رسد.
اما نیروی کاری که تهدید انتزاعی نظارت بر کارش را تا الان تحمل می‌کرد، وقتی می‌بیند داده‌ها برای دیکته کردن همه حرکات او مورد استفاده قرار میگیرند، احساس مزاحمت بیشتری خواهد کرد. کارگر یکی از انبارهای آمازون چشم‌اندازی دلسردکننده را متصور است. او میگوید: «می‌توانیم الگوریتم‌هایی متصل به تکنولوژی داشته باشیم که به‌طور مستقیم روی بدن‌های ما قرار دارد و نحوه کار ما را کنترل می‌کند. درحال‌حاضر، چنین الگوریتمی به یک مدیر خط می‌دهد تا سر ما داد بکشد. در آینده، این الگوریتم می‌تواند بگوید یقه ما را بگیرند!» به هر حال، آمازون دستبندهای ردیاب اختراع کرده که با لرزش خود به کارگران دستور می‌دهند و والمارت ابزارهای کنترلی را تست می‌کند که حرکات پرسنل انبار را تحت نظارت قرار می‌دهند. سرعت کار تنها یکی از موارد پرسش‌های بزرگ‌تری است که تکنولوژی‌ها ما را با آن روبه‌رو می‌کنند: توازن درست بین کارآیی و استقلال انسان چیست؟
قدرت بی‌سابقه‌ای برای کنترل و بهینه‌سازی عملکرد کارگران با کوچک‌ترین جزئیات ایجاد شده است. آیا افزایش حداکثری بهره‌وری می‌ارزد که نیروی کار دچار استرس مزمن شود و عملکرد او تا حدی محدود شود که حس کند یک روبات است؟ تفاوت عمیقی که حتی درصد کمی از آزادی می‌تواند ایجاد کند را در این مثال می‌توان دید: کارگر یکی از انبارهای آمازون، این شغل را ترک کرده بود و شغل بار زدن و بار خالی کردن کامیون را در جای دیگری به دست آورده بود. در اینجا هم اسکنرها و معیارهای سنجش عملکرد وجود داشت، اما این ابزارها فقط برای این بود که پیگیری کنند آیا تیمش در طول روز او را همراهی می‌کنند یا نه و درک نقش‌ها و سرعت کارگران بر عهده خود آنها بود. او در مقایسه کارش با آمازون می‌گفت: «اینجا مثل بهشت است.»
