بانک های آمریکا به دردسر افتادند/ پای هوش مصنوعی در میان است
نهادهای ناظر بر نظام بانکی آمریکا نظارت خود بر نحوه بهکارگیری هوش مصنوعی در بانکها و موسسات مالی را افزایش دادهاند.
منابع آگاه اظهار کردند نهادهای ناظر، بانکها را درباره موضوعاتی همچون دسترسی به دادهها، سازوکارهای حاکمیتی و کنترلی گرفته تا خطرات ناشی از فروشندگان شخص ثالث تحت فشار قرار میدهند.
بانکها در سالهای اخیر به سرعت استفاده از هوش مصنوعی را گسترش دادند بهطوریکه این فناوری از دستیارهای مجازی فراتر رفته و اکنون در حوزههایی مانند نظارت بر رعایت مقررات، ارزیابی اعتباری مشتریان و اعطای وام نیز به کار گرفته میشود. همین روند، توجه نهادهای نظارتی را بیش از پیش به خود جلب کرده است.
با گسترش استفاده از هوش مصنوعی در خدمات مالی، نگرانیها درباره خطرات امنیت سایبری و کلاهبرداری نیز افزایش یافته است. در حال حاضر، رویکرد نهادهای نظارتی بیشتر بر رصد دقیق تحولات و افزایش درک از نحوه استفاده بانکها از این فناوری متمرکز است.
به گفته سه منبع آگاه، دفتر کنترلکننده ارز آمریکا (OCC) و فدرال رزرو در بازرسیهای معمول خود از بانکها، از آنها خواستند که مشخص کنند هوش مصنوعی را در چه بخشهای پرریسکی مانند اعطای وام، احراز هویت مشتریان و غربالگری تحریمها به کار میگیرند.
این منابع میگویند: بازرسان درباره نحوه همکاری بانکها با شرکتهای تامینکننده فناوری، شیوه حفاظت از دادههای مشتریان و وجود ابزارهایی مانند «کلید توقف اضطراری» برای خاموش کردن سامانههای هوش مصنوعی در مواقع ضروری سوال میکنند.
همچنین نهادهای نظارتی در حال بررسی چارچوبهای حاکمیتی بانکها از جمله سازوکارهای کنترلی، میزان نظارت انسانی بر تصمیمات هوش مصنوعی، مدیریت ریسکهای ناشی از طرفهای ثالث، نظارت بر پیمانکاران فرعی و برنامههای اضطراری در صورت بروز اختلال یا شکست سامانهها هستند.
یکی از منابع آگاه گفت: اکنون موضوع استفاده از هوش مصنوعی به بخشی ثابت از تمامی بازرسیهای بانکی تبدیل شده است. این گفتوگوها هم بهصورت کتبی و هم شفاهی انجام میشود.
منابع تاکید کردند که نهادهای نظارتی هنوز به دنبال اعمال دستورالعملهای سختگیرانه یا تجویز راهکارهای مشخص نیستند و بیشتر تلاش میکنند، تصویر دقیقتری از نحوه استفاده بانکها از این فناوری به دست آورند.
نهادهای نظارتی آمریکا پیشتر نیز از افزایش توجه خود به استفاده بانکها از هوش مصنوعی خبر داده بودند. سال گذشته دفتر پاسخگویی دولت آمریکا اعلام کرد که رگولاتورها در حال ارزیابی خطرات مرتبط با هوش مصنوعی در بخش خدمات مالی هستند.
دفتر کنترلکننده ارز آمریکا، فدرال رزرو و شرکت بیمه سپردههای فدرال (FDIC) در آوریل نیز اعلام کردند که قصد دارند درخواست رسمی اطلاعاتی درباره نحوه استفاده بانکها از هوش مصنوعی، از جمله سامانههای مولد و عاملمحور منتشر کنند. چنین اقدامی به معنای وضع مقررات جدید نیست، بلکه به نهادهای دولتی کمک میکند پیش از هرگونه تصمیمگیری، اطلاعات و دیدگاههای بیشتری جمعآوری کنند.
یکی از موضوعات مورد توجه نهادهای نظارتی، ارزیابی توان بانکها در مواجهه با سامانههای پیشرفته و بهسرعت در حال تحول هوش مصنوعی از جمله مدل پیشرفته «میتوس» (Mythos) شرکت آنتروپیک است. کارشناسان امنیت سایبری هشدار دادند که چنین مدلهایی میتوانند به دلیل توانایی بالقوه در شناسایی و بهرهبرداری از آسیبپذیریهای سایبری، چالشهای مهمی برای صنعت بانکداری و زیرساختهای قدیمی فناوری ایجاد کنند.
وزارت خزانهداری آمریکا و نهادهای نظارتی نیز در حال بررسی خطرات امنیتی ناشی از این نسل جدید از هوش مصنوعی و میزان آمادگی موسسات مالی برای مقابله با آن هستند.
نظارت بر سامانهها و تامینکنندگان فناوری
به گفته منابع آگاه، بازرسان در حال حاضر بیشتر بر جمعآوری اطلاعات و ارزیابی روشهای موجود در صنعت بانکی تمرکز دارند و هنوز قصد محدود کردن کاربردهای خاص هوش مصنوعی را ندارند.
به جای تدوین مقررات جدید ویژه هوش مصنوعی، نهادهای نظارتی فعلا از چارچوبهای موجود مانند مدیریت ریسک مدلها، نظارت بر ریسک طرفهای ثالث و قوانین حمایت از مصرفکنندگان برای ارزیابی نحوه مدیریت این فناوری توسط بانکها استفاده میکنند.
یکی از نگرانیهای اصلی رگولاتورها این است که سامانههای هوش مصنوعی فراتر از اختیارات تعریف شده خود عمل کرده یا به دادههایی دسترسی پیدا کنند که مجاز به استفاده از آنها نیستند. از آنجا که مدلهای هوش مصنوعی قادرند اطلاعات را از سامانههای مختلف استخراج و به یکدیگر متصل کنند، خطراتی در زمینه حریم خصوصی، محرمانگی دادهها و رعایت مقررات ایجاد میشود.
از بانکها خواسته شده است توضیح دهند چه سازوکارهای کنترلی برای محدود کردن رفتار مدلهای هوش مصنوعی و میزان دسترسی آنها به دادهها در اختیار دارند. همچنین بازرسان بر وجود نظارت انسانی، ابزارهای توقف اضطراری و مشخص بودن مسوولیت افراد در مواقع بحرانی تاکید دارند.
ریسکهای ناشی از تامینکنندگان فناوری نیز یکی دیگر از محورهای اصلی بررسیهاست. با افزایش وابستگی بانکها به شرکتهای خارجی برای تامین ابزارهای هوش مصنوعی، نهادهای نظارتی میخواهند بدانند بانکها چگونه اطمینان حاصل میکنند که این شرکتها و پیمانکاران فرعی آنها، همان استانداردهای امنیتی و حاکمیتی مورد انتظار بانکها را رعایت میکنند.
همچنین از بانکها پرسیده میشود که آیا در صورت وقوع رخنه امنیتی یا مشکل جدی در سامانههای تامینکنندگان، برنامه خروج و جایگزینی مشخصی دارند یا خیر؛ موضوعی که با نفوذ روزافزون هوش مصنوعی در زیرساختهای بانکی اهمیت بیشتری یافته است.
مقرراتی که شاید از فناوری عقب بمانند
با این حال، سرعت پیشرفت هوش مصنوعی خود به چالشی برای نهادهای نظارتی تبدیل شده است. منابع آگاه میگویند: این فناوری با سرعتی بسیار بیشتر از چرخه سنتی یادگیری، تدوین مقررات و قانونگذاری پیشرفت میکند و این نگرانی وجود دارد که هرگونه دستورالعمل رسمی در مدت کوتاهی قدیمی و ناکارآمد شود.
طبق گزارش رویترز، پیشبینی میشود مقامهای نظارتی فعلا به نظارت مبتنی بر اصول کلی و ارزیابی موردی و نه مقررات جزئی و سختگیرانه تکیه کنند، هرچند این رویکرد ممکن است در آینده تغییر کند.
میشل بومن، نایبرئیس فدرال رزرو در امور نظارت بانکی در ماه مه گفت: امروز بانکها برای استفاده از هوش مصنوعی به چارچوبهای موجود مدیریت ریسک تکیه میکنند. اگرچه این ابزارهای نظارتی برای کمک به بانکها در استقرار حاکمیت مناسب و مدیریت ریسک طراحی شدهاند، اما باید بررسی کنیم که آیا این دستورالعملها برای آینده نیز کارآمد خواهند بود یا خیر.
بخش سایتخوان، صرفا بازتابدهنده اخبار رسانههای رسمی کشور است.
