وقتی الگوریتم ‌ها سرنوشت پول را تعیین می‌کنند

تصمیم‌‌هایی که سریع ‌تر از فهم ما اجرا می‌‌شوند

 ریسک الگوریتمی زمانی شکل می‌گیرد که یک سیستم هوشمند به دلیل خطای طراحی، داده‌های ناقص، سوگیری پنهان یا پیچیدگی بیش از حد، تصمیمی اشتباه بگیرد. تفاوت اصلی این خطا با خطای انسانی در مقیاس و سرعت آن است. الگوریتم‌ها در کسری از ثانیه و در ابعادی بسیار گسترده تصمیم می‌گیرند. بنابراین اگر در منطق یک مدل خطایی وجود داشته باشد، اثر آن به سرعت در کل شبکه مالی پخش می‌شود و می‌تواند به بحران تبدیل شود. در گذشته، خطای یک کارشناس محدود به چند پرونده بود؛ اما امروز یک الگوریتم می‌تواند همزمان درباره‌ میلیون‌ها تراکنش و حجم عظیمی از سرمایه تصمیم بگیرد. همین ویژگی، ریسک الگوریتمی را به یکی از مهم ترین نگرانی‌های اقتصاد مدرن تبدیل کرده است.

وقتی هوش مصنوعی در قلب نظام مالی نشسته است

امروز تقریبا هیچ بخش مهمی از نظام مالی از نفوذ هوش مصنوعی دور نمانده است. در بانک‌ها، الگوریتم‌ها برای اعتبارسنجی، تشخیص تقلب، تحلیل رفتار مشتری، تعیین نرخ تسهیلات و مدیریت ریسک به کار می‌روند. بانک‌ها دیگر فقط به درآمد یا وثیقه نگاه نمی‌کنند، بلکه الگوهای رفتاری، تراکنش‌ها و سبک زندگی مالی افراد را نیز تحلیل می‌کنند. در صنعت بیمه نیز همین تغییر دیده می‌شود. حق بیمه‌ها دیگر فقط بر اساس مشخصات سنتی محاسبه نمی‌شوند، بلکه رفتار افراد در دنیای واقعی—از نوع رانندگی گرفته تا زمان و الگوی تردد—در تصمیم‌گیری نقش دارد. بازار سرمایه اما پیشرفته‌ترین میدان این تحول است. بخش بزرگی از معاملات در بورس‌های بزرگ جهان دیگر توسط انسان انجام نمی‌شود. الگوریتم‌ها در لحظه بازار را تحلیل می‌کنند، اخبار را پردازش می‌کنند و در کسری از ثانیه تصمیم خرید یا فروش می‌گیرند. در چنین بازاری، سرعت انسان دیگر مزیت محسوب نمی‌شود، یک محدودیت است.

جعبه سیاه‌هایی که تصمیم می‌گیرند، اما توضیح نمی‌دهند

با وجود این پیشرفت، یک مساله بنیادین همچنان باقی است: شفاف نبودن تصمیم‌های الگوریتمی. بسیاری از مدل‌های هوش مصنوعی، به‌ویژه مدل‌های یادگیری ماشین، مانند یک «جعبه سیاه» عمل می‌کنند. آنها تصمیم می‌گیرند، اما توضیح نمی دهند چرا به آن نتیجه رسیده‌اند. در چنین شرایطی ممکن است فردی از دریافت وام محروم شود، بدون آنکه دلیل آن برای خودش، بانک یا حتی نهاد ناظر روشن باشد. یا حق بیمه او تغییر کند، بدون توضیح مشخص. این مساله تنها یک ایراد فنی نیست، بلکه مستقیما به اعتماد عمومی، عدالت مالی و شفافیت نظام اقتصادی مربوط می‌شود.

وقتی همه شبیه هم تصمیم می‌گیرند

یکی از خطرات کمتر دیده‌شده این تحول، همگرایی تصمیم‌های مالی است. وقتی بانک‌ها و موسسات مالی از داده‌ها و مدل‌های مشابه استفاده می‌کنند، به تدریج الگوهای تصمیم‌گیری آنها نیز شبیه هم می‌شود. این شباهت در ظاهر نشانه نظم و استانداردسازی است، اما در عمل می‌تواند خطرناک باشد. در دوران رونق، همه هم زمان ریسک می‌پذیرند و بازار را بیش از حد داغ می‌کنند. در دوران رکود نیز همه هم زمان سخت گیر می‌شوند و اعتبار را محدود می‌کنند. نتیجه این رفتار جمعی، تشدید نوسانات و افزایش ریسک سیستماتیک است. در واقع، این احتمال وجود دارد که بحران‌های آینده نه از دارایی‌های سمی یا کمبود نقدینگی، بلکه از الگوریتم‌هایی آغاز شوند که همگی به یک شکل فکر می‌کنند.

 تغییر عمیق در ماهیت مشاغل مالی

این تحول فقط ابزارها را تغییر نداده، بلکه ماهیت مشاغل مالی را نیز دگرگون کرده است. تحلیلگران مالی، کارشناسان اعتباری و متخصصان بیمه دیگر صرفا محاسبه‌گر نیستند، آنها باید داده را بفهمند، مدل را بشناسند و رفتار الگوریتم‌ها را تحلیل کنند. به همین دلیل، آینده نظام مالی ترکیبی از اقتصاد، علوم داده، مدیریت ریسک و هوش مصنوعی خواهد بود. در این آینده، دانش مالی به تنهایی کافی نخواهد بود.

وقتی هوش مصنوعی هم بیمه می‌شود

نکته جالب تر این است که هوش مصنوعی نیز به یک منبع جدید ریسک تبدیل شده است؛ ریسکی که حتی برای آن بیمه طراحی شده است. در سال‌های اخیر، در آمریکا و اروپا نوعی بیمه با عنوان «بیمه مسوولیت هوش مصنوعی» شکل گرفته است. این بیمه‌ها خسارت‌هایی را پوشش می‌دهند که از خطاهای الگوریتمی، تبعیض‌های هوشمند یا تصمیم‌های اشتباه سیستم‌ها به‌وجود می‌آید. برای مثال، اگر یک سیستم بانکی در اعتبارسنجی اشتباه کند یا یک سامانه هوشمند باعث خسارت مالی شود، این بیمه‌ها می‌توانند بخشی از زیان را جبران کنند. در بازارهایی مانند لویدز لندن نیز محصولات مشابهی برای پوشش این ریسک‌ها طراحی شده است؛ زیرا وابستگی نظام مالی به الگوریتم‌ها به حدی رسیده که یک خطای کوچک می‌تواند خسارت‌های عظیم ایجاد کند.

جابه‌جایی مرکز ثقل ریسک

در مجموع، مرکز ثقل ریسک در نظام مالی در حال تغییر است. اگر در گذشته نگرانی اصلی بر نقدینگی، دارایی‌های سمی و بحران‌های بانکی متمرکز بود، امروز داده‌ها، الگوریتم‌ها و زیرساخت‌های دیجیتال نقش تعیین‌کننده‌ای در ثبات یا بی‌ثباتی مالی پیدا کرده‌اند. در چنین شرایطی، کیفیت داده، شفافیت مدل‌ها و نحوه نظارت بر هوش مصنوعی، به اندازه سرمایه بانک‌ها اهمیت پیدا کرده است.

ریسک‌هایی که دیده نمی‌شوند، اما آینده را می‌سازند

شاید بحران‌های مالی آینده دیگر از درون ترازنامه بانک‌ها یا یا شرکت‌های بیمه آغاز نشوند. شاید از دل الگوریتم‌هایی شکل بگیرند که بی‌صدا تصمیم می‌گیرند، تحلیل می‌کنند و جریان پول را هدایت می‌کنند. این ریسک‌ها دیده نمی شوند، اما واقعی‌اند؛ خاموشند، اما اثرگذار و شاید مهم‌ترین ویژگی شان این باشد که آینده اقتصاد را نه با صدا، بلکه با «محاسبه» تغییر می‌دهند.

*  پژوهشگر حوزه بانکداری، بیمه و توسعه مالی