وقتی هوش مصنوعی به جای شما تصمیم میگیرد
نویسنده: Cornelia C. Walther مترجم: مریم مرادخانی
این روزها مدیران برای انجام طیف وسیعی از امور از هوش مصنوعی استفاده میکنند: از شناسایی الگوی عملکرد کارکنان گرفته تا آمادهسازی لیست کارکنان آماده ارتقا. همه اینها را به راحتی میتوان توجیه کرد. هوش مصنوعی، سریع، کاربردی و در ظاهر کمککننده است. اما از یک جایی به بعد، ابزاری که کارش را با اصلاح ادبیات یک تصمیم آغاز کرده بود، عملا به شریک تصمیمگیری تبدیل میشود. عادیسازی دقیقا به همین شکل عمل میکند.
تحولات بزرگ ابتدا به صورت مجموعهای از امور کوچک و روزمره ظاهر میشوند. وقتی تکنولوژی جدیدی میآید، ما ابتدا آن را تست میکنیم. سپس آن را در جریان کاری خود ادغام میکنیم (تنیدگی). از یک جایی به بعد اما، به آن وابسته و در نهایت معتاد میشویم. آنجاست که کار کردن بدون آن کندتر، ناقص یا به طرز عجیبی دشوار به نظر میرسد. هوش مصنوعی مولد به سرعت در حال نفوذ به امور دانشمحور است و اموری مثل نوشتن پیشنویس، خلاصهسازی، مقایسه و پیشبینی را انجام میدهد. این تکنولوژی در حال ورود به زندگی شخصی افراد نیز هست. مردم درباره شخصیترین مسائل خود از هوش مصنوعی مشورت میگیرند. هوش مصنوعی آنقدر در امور فکری و مشورتی ما حضور پررنگ دارد که دیگر از خود نمیپرسیم آیا اساسا باید باشد یا نه.
قضاوت به جای کمک
خطر اصلی آنجاست که هوش مصنوعی به مرور به جای کمک به شما، شروع کند به تصمیمگیری به جای شما. بین اینکه از هوش مصنوعی بخواهید به بیان بهتر دیدگاه شما کمک کند، یا اینکه از آن بپرسید چه دیدگاهی باید داشته باشید، تفاوت اساسی وجود دارد. اگر اجازه دهید گزینهها را تعیین کند، شروع میکند به جهتدهی به آن تصمیم. پاسخهای روان و مسلط، تشخیص این تغییر رویه را دشوار میسازند، چون شیوایی کلام شبیه به استدلال به نظر میرسد و لحن مطمئن، حس صلاحیت را القا میکند.
مطالعات روی کارکنان دانشمحور نشان داده که اعتماد زیاد به هوش مصنوعی، باعث کاهش تفکر انتقادی میشود. این کارکنان دست از فکر کردن نکشیدند، بلکه فعالیت ذهنی خود را معطوف به بررسی و مدیریت محتوای تولیدشده توسط هوش مصنوعی کردند. البته راستیآزمایی هم به تفکر نیاز دارد، اما وقتی راستیآزمایی میکنید، سوال محدودتری میپرسید: «آیا این حرف منطقی به نظر میرسد؟»، درحالیکه سوال عمیقتر، پیش از این مرحله است: «من به چه چیزی باور دارم و حاضرم مسوولیت چه چیزی را بپذیرم؟»
ورود به مسائل اخلاقی
ریسک ماجرا زمانی بالاتر میرود که پای هوش مصنوعی به تصمیمهای اخلاقی باز میشود. فرض کنید یک مدیر منابع انسانی در حال بررسی دهها پیشنهاد برای افزایش حقوقهاست. یکی از کارکنان پس از بازگشت از مرخصی والدین، افزایش حقوق کمتری دریافت کرده. قبلا چنین چیزی ممکن بود نگرانی ایجاد کند. اما حالا این مورد در لابهلای انبوهی از پیشنهادهای هوش مصنوعی، که هر کدام با یک استدلال منطقی همراه شدهاند، گم میشود.
طبق تحقیقاتی در سال ۲۰۲۵، وقتی افراد همزمان درگیر چندین تصمیم سازمانی هستند، پیشنهادهای هوش مصنوعی میتواند آگاهی اخلاقی را کاهش دهد و پذیرش پیشنهادهای غیراخلاقی را آسانتر کند.
این موضوع اهمیت زیادی دارد، چون تصمیمهای بحثانگیز، به ندرت با برچسب «مساله اخلاقی» روی میز قرار میگیرند. آنها در قالب انتخابهای استخدامی، ارزیابیهای بیمه، اهداف بهرهوری یا کاهش هزینهها ظاهر میشوند. یک پیشنهاد از سوی هوش مصنوعی میتواند از نظر تحلیلی کاملا منسجم و بینقص باشد، اما همزمان انصاف، کرامت یا فرصتهای افراد را نادیده بگیرد. در محیطهای کاری پرشتاب، تصمیمهای ناعادلانه، آگاهانه تایید نمیشوند، بلکه به مرور عادی میشوند و بیتوجه از کنارشان رد میشویم.
ورود به زندگی شخصی
این روزها ما درباره طیف گستردهای از مسائل شخصی از هوش مصنوعی کمک میگیریم، مثل نحوه برخورد با فرزند ناسازگار یا همسر فریبکار.
آزمایشی در سال ۲۰۲۶ نشان داد که توصیههای چتجیپیتی در یک دوراهی اخلاقی، بر قضاوت افراد تاثیر گذاشته؛ حتی زمانی که هیچ استدلال اخلاقی مستحکمی پشت آن توصیهها نبوده. به عبارت دیگر، حرفشنوی ما از هوش مصنوعی به این دلیل نیست که قانع شدهایم. گاهی یک پاسخ صرفا به این دلیل قدرت پیدا میکند که بار سنگین انتخاب کردن را از دوش ما برمیدارد. به هر حال، قضاوت انسانی، کُند و زمانبر است چون باید انگیزهها و ارزشهایمان را واکاوی و پیامدها را سبکسنگین کنیم.
بهعلاوه، تعامل مداوم با هوش مصنوعی، سوگیریهای ذهنی ما را تقویت کرده و به تدریج چارچوب فکریمان را تغییر میدهد. وقتی تکنولوژی مدام تعیین کند چه معیارهایی ملاک قرار گیرند، حتی اگر تصمیم نهایی را نگیرد، عملا مسیر تصمیمگیری ما را شکل داده است.
ریسک مدیریتی
سوال اینجاست که استفاده مکرر از هوش مصنوعی چه بلایی بر سر کیفیت قضاوت انسانی در سازمانها میآورد؟ یک فرد میتواند در تئوری، همچنان «در چرخه تصمیمگیری» باقی بماند، اما در عمل، به نیروی زیردست ماشین تبدیل شود. تحلیلگر همچنان گزارش میدهد، مدیر همچنان امضا میکند و مدیر ارشد همچنان پاسخگو است، اما چارچوببندی اولیه، فهرست گزینهها و اولین پیشنهاد، همگی ممکن است جای دیگری تولید شده باشند. مسوولیت انسانی سر جایش باقی میماند، اما نقش انسان به عنوان خالق اصلی تصمیم، کمرنگ میشود. بدین ترتیب، سازمانها همچنان مسوولیت تصمیمات را گردن میگیرند اما به مرور، قدرت تفکری که لازمه قبول مسوولیت است را به هوش مصنوعی واگذار میکنند.
چهار سوال پیش از تصمیمگیری
هوش مصنوعی مولد زمانی میتواند توانمندی انسان را بالا ببرد که تفکر، مقایسه و تخیل او را گسترش دهد. در لحظات سرنوشتساز، باید نقش خالقانه انسان را حفظ کنیم. پیش از هر استفاده مهم، این چهار سوال را از خود بپرسید. آنها اصطکاک ذهنی ایجاد میکنند تا این مرز دوباره برایتان نمایان شود:
۱. کدام بخش از قضاوتم را دارم واگذار میکنم؟
۲. پیش از آنکه هوش مصنوعی پاسخ دهد، نظر خودم چه بود؟
۳. این تصمیم روی چه کسی تاثیر خواهد گذاشت؟
۴. آیا میتوانم از انتخاب نهایی، با استدلال و مسوولیت خودم دفاع کنم؟
پاسخ به این سوالها کمتر از یک دقیقه زمان میبرد. هدف آنها این است که زنجیره پیشروی به سمت وابستگی را قطع کنند.
توانایی انتخاب، همیشه آنقدر در زندگی انسان بدیهی بوده که هرگز فکر نمیکردیم یک روز مجبور شویم از آن محافظت کنیم. هوش مصنوعی شرایط را تغییر داده و حالا بخشی از بار فکری و اخلاقی ما را به دوش میکشد. هوشیاری یعنی تشخیص مرز استقلال و وابستگی، تا زمانی که این مرز هنوز قابل تشخیص است.
منبع: Knowledge at Wharton


