آمازون راهکاری متفاوت برای توسعه AI ارائه داد
هفت خوان هوش مصنوعی
در این میان اما یک غول فناوری دیگر راهکاری بینابین ارائه داده است. به نوشته مجله تکلایف، آمازون وارد بحث پیرامون سرعت پیشرفت هوش مصنوعی شده و خواستار انجام آزمایشهای دقیق و اعمال تدابیر حفاظتی قوی پیش از عرضه عمومی مدلها شده است؛ با این حال، موضع این شرکت تا حد حمایت از «کاهش سرعت هماهنگشده» - که مورد پشتیبانی چندین آزمایشگاه پیشرو هوش مصنوعی است - پیش نمیرود. به نوشته مجله تکلایف، اظهارات این شرکت، مبحثی را پیش میکشد که میتواند تا حدی از درگیریها بکاهد: «آمادگی برای عرضه» که در کانون استدلال آمازون برای توسعه هوش مصنوعی قرار دارد. سخنگوی شرکت به رویترز میگوید: «ما این موضوع را انتخابی میان پیشرفت و ایمنی نمیدانیم.» یعنی هیچ تناقضی بین «توسعه هوش مصنوعی» و «ایمنی آن» وجود ندارد. آمازون همچنین خواستار همکاری میان صنعت و دولت برای ایجاد تدابیر حفاظتی شده است. البته بیانیه این غول فناوری پرسش مهمی را بیپاسخ میگذارد: وقتی شرکتها بر سر آماده بودن یک مدل اختلافنظر دارند، چه پیش میآید؟ آزمونها میتوانند در اتخاذ این تصمیم راهگشا باشند، اما استانداردها، شواهد و مرجعیت حاکم بر آنهاست که تعیین میکند این تصمیم تا چه حد اطمینانبخش است.
اختلافات اساسی بر سر سرعت
راهکار فوری، پیشنهاد داریو آمودی، مدیر اجرایی آنتروپیک است که به تعدیل سرعت توسعه هوش مصنوعی پیشرفته رای داده است. رهبران اوپنایآی، گوگل دیپمایند، مایکروسافت و xAI از یک رویکرد سنجیدهتر حمایت کردند. آمازون اما اعلام نکرد که به آن اقدامات هماهنگشده خواهد پیوست. متا نیز در این میان موضع متفاوتی اتخاذ کرده است. مارک زاکربرگ استدلال کرد که آزمایشگاههای مستقل، خود مسوولیت و توانایی تنظیم برنامههای زمانی توسعهشان را دارند. او اظهار کرد که متا عرضه عامل هوش مصنوعی «میوز» (Muse) را برای چندین ماه به تعویق انداخته است تا به مسائل ایمنی و امنیتی بپردازد و این تاخیر را مشروط به اقدام مشابه از سوی رقبا نکرد.
اختلافنظر بر سر نحوه «خویشتنداری» در یک بازار رقابتی است. یک شرکت میتواند عرضه محصول خود را به تعویق بیندازد، درحالیکه یک رویکرد هماهنگشده میکوشد مانع از آن شود که فشار ناشی از عرضه محصول رقیب، آن تصمیم (کاهش سرعت توسعه) را تضعیف کند. هیچیک از این توافقات بهطور خودکار یک استاندارد ایمنی قابل اعتماد ایجاد نمیکنند. تصمیمات مستقل نیازمند کنترلهای داخلی معتبر هستند؛ تعهدات جمعی نیازمند شرایط روشن و راهی برای تعیین این هستند که آیا شرکتکنندگان از آنها پیروی میکنند یا خیر.
آمازون چندین نقش در این بحث دارد
آمازون مدلها را توسعه میدهد، خدمات مصرفی مانند «الکسا» را اداره میکند و زیرساختهای محاسباتی را از طریق آمازون وبسرویس تامین میکند. پلتفرم «بدراکِ» (Bedrock) آن همچنین به کسبوکارها امکان دسترسی به مدلهای ارائهدهندگان متعدد را میدهد. این ترکیب باعث میشود که بحث ایمنی در سطوح مختلفی حائز اهمیت باشد. توسعهدهنده مدل، سیستمِ زیربنایی را ارزیابی میکند؛ ارائهدهنده خدمات ابری، محیطِ اجرای آن را مدیریت میکند و کسبوکاری که آن را در یک برنامه کاربردی ادغام میکند، تعیین مینماید که این مدل به چه اطلاعات و عملکردهایی دسترسی داشته باشد.
آن مسوولیتها با یکدیگر تلاقی دارند، بیآنکه کاملا یکسان شوند. مدلی که به پرسشهایی درباره یک سند پاسخ میدهد، در مقایسه با عاملی که مجاز به تغییر فایلها یا آغاز تراکنشهاست، با مساله عملیاتی متفاوتی روبهروست. نتیجه عملی این است که مجوز ارائه یک مدل نمیتواند به تمام پرسشها درباره نحوه استفاده نهایی از آن پاسخ دهد؛ بلکه تصمیمگیری برای بهکارگیری آن، به عواملی همچون مجوزها، نرمافزارهای پیرامونی و پیامدهای ناشی از عملکرد نادرست نیز بستگی دارد.
بررسی چارچوب ارائهشده
«چارچوب ایمنی مدلهای پیشروی» (Frontier Model) آمازون، تعهدی را برای خودداری از بهکارگیری مدلهای پیشروی خود در صورت عبور از آستانههای خطرِ تعیینشده و فقدان تدابیر حفاظتی مناسب، مقرر میدارد. صفحه انتشار این چارچوب، حاکی از بهروزرسانی آن در تاریخ ۱۷ سپتامبر است. این رویکرد، استقرار را به قابلیتها و تدابیر حفاظتیِ ارزیابیشده پیوند میدهد. این کار در مقایسه با وعدهای کلی مبنی بر رفتار مسوولانه، به موضع شرکت اعتبار و عینیت بیشتری میبخشد؛ هرچند اثربخشی آن به نحوه تعریف و آزمودن آستانههای تعیینشده بستگی دارد.
ارزیابی منتشر شده آمازون از Nova Premier، دستهبندیهای مربوطه را نشان میدهد. این ارزیابی خطرات شیمیایی، بیولوژیک، رادیولوژیک و هستهای، قابلیتهای سایبری تهاجمی و تحقیقات خودکار هوش مصنوعی را بررسی کرده است. این ارزیابی، آزمایشهای خودکار، تلاشهای متخصصان برای افشای نقاط ضعف و مطالعاتی را که میزان کمکرسانی مدل را بررسی میکرد، ترکیب کرده است. این روشها به سوالات مختلفی پاسخ میدهند. یک معیار میتواند عملکرد را در یک کار تکرارپذیر اندازهگیری کند. یک ارزیابی رقابتی به دنبال شکستهایی است که استفاده عادی ممکن است آنها را آشکار نکند. مطالعات کمکی بررسی میکنند که آیا دسترسی به یک مدل، آنچه را که یک فرد میتواند انجام دهد، تغییر میدهد یا خیر. موفقیت در یک نوع ارزیابی، مسائل مربوط به سایر حوزهها را حلوفصل نمیکند. یک ارزیابی کارآمد باید میان شواهد گردآوریشده و آن توانایی یا رفتار خاصی که قرار است سنجیده شود، پیوند برقرار کند.
اقدامات ایمنی پیش از آزمایش نهایی آغاز میشود
آمازون فرآیند هوش مصنوعی مسوولانه خود را بهعنوان فرآیندی توصیف میکند که از طریق پیشآموزش، پسآموزش، ارزیابی و سنجش ریسکهای پیشرو به پیش میبرد. گزارش منتشرشده آن شامل بازخورد انسانی، مجموعه دادههای طراحیشده برای به چالش کشیدن مدلها و بررسی کارشناسان خارجی است. آن توالی، ایمنی را بخشی از فرآیند توسعه تلقی میکند. اگر در مراحل پیشین مشکلاتی ایجاد شده باشد که بازرسیِ نهایی برای شناسایی آنها طراحی نشده است، آن بازرسی ارزش چندانی نخواهد داشت. همچنین این موضوع یک مساله عملی برای تفسیر ادعاهای عمومی ایجاد میکند. تعداد آزمایشهای انجامشده بدون دانستن پوشش آنها، چیز زیادی نمیگوید. تکرار ارزیابیهای آشنا میتواند نتایج ثابتی به همراه داشته باشد، درحالیکه رفتارهای ناآشنا را ناشناخته باقی میگذارد. یک توضیح قویتر مشخص میکند که چه چیزی مورد بررسی قرار گرفته، خرابیها تحت چه شرایطی بروز کردهاند و پس از آن چه تغییراتی ایجاد شده است. بدین ترتیب، خوانندگان میتوانند شواهد بهبود را از صرف اطمینان کلی مبنی بر انجام آزمایش، تشخیص دهند.
سازوکارهای حفاظتی درون یک برنامه چه کاری انجام میدهند؟
کنترلهای موجود در «بدراک» نشان میدهند که چگونه برخی از محافظتها پس از در دسترس قرار گرفتن یک مدل عمل میکنند. این کنترلها شامل فیلترهایی برای اطلاعات حساس، محدودیتهایی در مورد موضوعات مشخص شده و بررسی مقایسه پاسخهای تولید شده با منابع ارائه شده است. بررسیهای استدلال خودکار رویکرد دیگری را اتخاذ میکنند و اظهارات را در برابر قوانین تعریفشده سیاست آزمایش میکنند. دامنه آنها توسط آن قوانین محدود میشود: «سازگاری با یک سیاست، دلیلی بر صحت هر ادعایی در یک پاسخ نیست.» پیادهسازی نیز مهم است. مستندات آمازون وبسرویس میگوید که استدلال خودکار، یافتههای برگشتی را بررسی میکند، نه اینکه بهطور خودکار محتوا را مسدود کند. برنامه باید تصمیم بگیرد که چگونه پاسخ دهد، چه با اصلاح پاسخ، چه با درخواست توضیح یا عدم ارائه آن. بنابراین، یک مشکل شناساییشده همچنان نیاز به یک تصمیم صریح در نرمافزاری دارد که نتیجه را ارائه میدهد.
