دیپ‌سیک پشت‌سر اوپن‌ای‌آی

به گزارش وبگاه وایرد، مدل‌های هوش مصنوعی با وزن‌های باز، حالا به توانایی‌هایی نزدیک شده‌اند که تا همین اواخر در انحصار پیشرفته‌ترین مدل‌های اختصاصی بود. پژوهشی تازه نشان می‌دهد این مدل‌ها می‌توانند حملات پیچیده سایبری را با مهارتی نزدیک به ابزارهای پیشرفته و محدودشده شرکت‌های بزرگ هوش مصنوعی اجرا کنند؛ تحولی که می‌تواند معادلات امنیت سایبری را تغییر دهد.

شرکت والس (Vals) که توانایی‌های مدل‌های هوش مصنوعی را ارزیابی می‌کند، در آزمایشی عملکرد چند مدل را در نفوذ به شبکه‌های شبیه‌سازی‌شده سازمانی بررسی کرد. این آزمایش دو سناریو داشت: در سناریوی نخست، مدل‌ها باید به یک شبکه شرکتی از طریق وب‌سایتی عمومی نفوذ می‌کردند. در سناریوی دوم، آنها باید ابتدا یک شبکه را تسخیر می‌کردند تا بتوانند به شبکه دوم دسترسی پیدا کنند.

نتایج نشان داد مدل سایبری پیشرفته اوپن‌ای‌آی با نام «دی‌بریک» (Daybreak) که فقط در اختیار شرکای مورداعتماد این شرکت قرار دارد، بهترین عملکرد را داشته است. این مدل به‌طور میانگین توانست ۸۱درصد از اهداف تعیین‌شده را در دو آزمون تکمیل کند. اما دیپ‌سیک، مدل چینی با وزن‌های باز، چندان عقب نبود و به میانگین موفقیت ۷۳درصدی رسید. پژوهشگران والس می‌گویند این دو مدل در برخی وظایف عملکردی برابر داشتند.

نکته نگران‌کننده فقط توانایی این مدل‌ها نیست؛ هزینه استفاده از آنها نیز فاصله چشم‌گیری دارد. والس می‌گوید اجرای یک حمله با مدل GPT-۶-Sol بین ۱۷ تا ۴۶دلار هزینه توکنی دارد، درحالی‌که همین کار با دیپ‌سیک تنها ۲ تا ۳دلار هزینه خواهد داشت. مدل‌های باز معمولا ارزان‌ترند، زیرا کاربران می‌توانند آنها را روی سخت‌افزار خود اجرا کنند. رایان کریشنان، مدیرعامل والس، معتقد است همین مزیت اقتصادی، استفاده از مدل‌های باز را برای مدافعان شبکه نیز جذاب‌تر می‌کند. این یافته‌ها در شرایطی منتشر شده که شرکت‌های پیشرو هوش مصنوعی، به‌ویژه آنتروپیک، عرضه عمومی برخی مدل‌های قدرتمند خود را محدود کرده‌اند. استدلال آنها این بوده است که دسترسی کنترل‌شده می‌تواند برای آماده‌سازی مدافعان و شناسایی آسیب‌پذیری‌ها پیش از انتشار گسترده ابزارهای هک، زمان بخرد. آنتروپیک در قالب پروژه «گلس‌وینگ» (Glasswing) دسترسی محدود به قابلیت‌های کامل مدل‌های جدید را برای گروهی از کاربران مورداعتماد فراهم کرده بود تا ابزارهای پیشرفته در اختیار مدافعان امنیت سایبری قرار بگیرند.

لوگان گراهام، مدیر تیم قرمز آنتروپیک، پیش‌تر به وایرد گفته بود جهان باید برای شرایطی آماده شود که این قابلیت‌ها طی ۶، ۱۲ یا ۲۴ماه آینده به‌طور گسترده در دسترس باشند. حالا، هفت ماه بعد، به نظر می‌رسد این تحول زودتر از آنچه تصور می‌شد از راه رسیده است.

با این حال، پژوهشگران هشدار می‌دهند که نباید توانایی مدل‌ها را با رفتار واقعی هکرها یکسان دانست. بررسی فعالیت گروه‌های مجرم سایبری و مهاجمان وابسته به دولت‌ها در ماه‌های اخیر نشان می‌دهد بسیاری از آنها همچنان برای صرفه‌جویی در منابع، از مدل‌های قدیمی‌تر و کم‌توان‌تر استفاده می‌کنند. همچنین مهاجمان برخوردار از منابع مالی و انگیزه کافی احتمالا پیش از این نیز به برخی مدل‌های اختصاصی دسترسی داشته‌اند.

الکس زنلا، مدیر فناوری شرکت امنیت ابری ایدرا (Edera)، معتقد است مدل‌های دارای وزن باز همین امروز هم توانایی تولید حملات پیشرفته و شناسایی آسیب‌پذیری‌ها را دارند؛ به‌ویژه مدل‌هایی که با دستکاری وزن‌ها، آموزش‌های ایمنی آنها غیرفعال شده است. با این حال، او احتمال می‌دهد آزمایشگاه‌های بزرگ مدل‌های قدرتمندتری نیز در اختیار داشته باشند که هنوز منتشر نشده‌اند. به اعتقاد زنلا، رقابت میان آزمایشگاه‌های هوش مصنوعی و مدل‌های باز به بازی موش و گربه شباهت دارد؛ هر طرف می‌کوشد پیش از دیگری آسیب‌پذیری‌ها را شناسایی کند. او هشدار می‌دهد که این رقابت ممکن است آغاز دوره‌ای خطرناک برای امنیت سایبری باشد.