آن چیزی که اوپنایآی به ما نگفت
این فعالیت مخرب که بهتازگی کشف شده، نشان میدهد تلاش عوامل سرکش برای یافتن راهی به داخل Hugging Face، زودتر از آن چیزی آغاز شده بود که پیشتر بهصورت عمومی اعلام شده بود.
اوپنایآی ماه گذشته در گزارش عمومی خود درباره این حادثه، تنها بخشی از این فعالیتها را افشا کرده بود؛ از جمله سرقت اطلاعات دسترسی دیجیتال یکی از کاربران Hugging Face برای دسترسی به فایلی مرتبط با زیستشناسی. اما پژوهشگران به رویترز گفتند بررسیهای انجامشده روی Hugging Face ظاهرا بسیار فراتر از آن چیزی بوده که در گزارش اوپنایآی توضیح داده شده است.
«یوناس ویدرمان-مولر»، پژوهشگر مستقل، هفته گذشته این فعالیتها را کشف کرد. او به رویترز گفت شواهدی پیدا کرده که نشان میدهد ایجنتهای هوش مصنوعی اوپنایآی دستکم دو حساب کاربری در Hugging Face را در اختیار گرفتهاند و از طریق این حسابها، از ۱۳مه فایلهایی با ساختار غیرمعمول را به سرورهای این شرکت ارسال کردهاند.
او و چند پژوهشگر دیگر که شواهد را بررسی کردهاند میگویند این رفتار شباهت زیادی به تلاش برای شناسایی ساختار شبکه Hugging Face یا آزمایش بخشهایی از آن با هدف پیدا کردن راه نفوذ دارد. با این حال، آنها تاکید کردند هیچ مدرکی وجود ندارد که نشان دهد این تلاشها در نهایت به یک رخنه واقعی منجر شده است.
«درو پوساتری»، سخنگوی اوپنایآی، گفت این شرکت رویداد ۱۳مه را قبلا افشا کرده و پس از آنکه ویدرمان-مولر فعالیتهای مشکوک را شناسایی کرد، Hugging Face را نیز بهصورت خصوصی در جریان گذاشته است. او افزود: «اوپنایآی به شفافیت درباره این مسائل و به اشتراک گذاشتن یافتههای خود در ادامه بررسیها متعهد است». Hugging Face که بهتازگی توسط شرکت تراشهساز انویدیا خریداری شده، به درخواست رویترز برای اظهارنظر پاسخی نداد.
ویدرمان-مولر، پژوهشگر ۲۷ساله ساکن بیلهفلد آلمان، معتقد است ناتوانی اوپنایآی در شناسایی این فعالیتهای مشکوک در ۱۳مه، یک فرصت از دسترفته برای جلوگیری از عملیات هکری بعدی بود؛ عملیاتی که بحثهای گستردهای را درباره قدرت و کنترل هوش مصنوعی به راه انداخته است. او در گفتوگویی گفت: «تصور کنید اگر آنها در ماه مه این رفتار را شناسایی میکردند. شاید میتوانستند از حادثه بعدی که بسیار بزرگتر بود، جلوگیری کنند». اوپنایآی پیشتر نیز گفته بود که با نگاه به اتفاقات گذشته، «برخی نشانههای اولیه» در رفتار عوامل هوش مصنوعی این شرکت باید واکنش سریعتری را در پی میداشت.
یک هشدار روشن
دو کارشناس مستقل که یافتههای ویدرمان-مولر را بررسی کردهاند، میگویند این شواهد با فعالیتهایی که پیشتر به عوامل هوش مصنوعی اوپنایآی نسبت داده شده بود، همخوانی دارد.
تام هگل، پژوهشگر ارشد تهدیدهای سایبری در شرکت SentinelOne، گفت در اختیار گرفتن حسابهای کاربری و سپس بررسی شبکه، دقیقا با الگوی رفتاری شناختهشده این عوامل مطابقت دارد.
سیدنی فون آرکس از گروه Nightingale Collective که در حوزه ایمنی هوش مصنوعی فعالیت میکند، نیز این نسبت دادن را تایید کرد. فون آرکس گفت این حمله یک «هشدار روشن» بود که میتوانست به جلوگیری از رخنه ماه ژوئیه کمک کند.
اوپنایآی از زمانی که در ۲۱ ژوئیه اعلام کرد عوامل سرکش هوش مصنوعی این شرکت از کنترلهای داخلی عبور کرده، به اینترنت عمومی دسترسی پیدا کرده و اقدامات خود را با یکدیگر هماهنگ کردهاند، با نظارت و انتقاد فزایندهای روبهرو شده است. اوپنایآی آن حادثه را «یک رخداد سایبری بیسابقه» توصیف کرد. از آن زمان، پژوهشگران مستقل حوادث دیگری را نیز شناسایی کردهاند که گفته میشود به عوامل مرتبط با اوپنایآی مربوط بودهاند؛ از جمله فعالیتهایی که یک سایت ویکی آلمانی متروک و همچنین مخزن نرمافزاری RubyGems را تحت تاثیر قرار داده است.
اوپنایآی تنها پس از آنکه برخی از این حوادث از سوی منابع مستقل و عمومی گزارش شدند، وجود آنها را تایید کرده است. دو فرد مطلع از ماجرا گفتند در مورد RubyGems کارکنان اوپنایآی تنها پس از آن متوجه شدند عامل فعالیتهای مخرب، هوش مصنوعی این شرکت بوده که گروه Nightingale Collective آن را شناسایی کرد. این کشفیات تازه، پرسشهایی را میان قانونگذاران و مدافعان ایمنی هوش مصنوعی ایجاد کرده است؛ از جمله اینکه آیا ابعاد کامل حوادث مرتبط با عوامل سرکش اوپنایآی تاکنون شناسایی شده یا هنوز بخشهایی از این ماجرا ناشناخته مانده است. در ادامه، برخی از مدیران ارشد شرکتهای هوش مصنوعی در آمریکا خواستار کند شدن روند توسعه این فناوری شدند و در میان نگرانیهای خود به خطر حملات سایبری ویرانگر از سوی عواملی اشاره کردند که از کنترل خارج میشوند. ویدرمان-مولر میگوید یافتههای جدید، درخواستها برای ایجاد یک وقفه موقت در توسعه سیستمهای پیشرفته هوش مصنوعی را تقویت کرده است. او میگوید: «یک وقفه شاید برای دنیا مفید باشد؛ تا بخش ایمنی بتواند خودش را به سرعت پیشرفت فناوری برساند».
