یکی از باسابقه‌ترین نیروهای اوپن‌ای‌آی استعفا داد؛
فراگیر شدن ترس از هوش مصنوعی
رابینسون در مقاله‌ای که در نشریه «آتلانتیک» منتشر کرده، گفته است که مسوولیت نگارش گزارش‌های ایمنی را بر عهده داشته؛ گزارش‌هایی که همزمان با عرضه محصولات مهم اوپن‌ای‌آی منتشر می‌شدند. او همچنین گفته که پس از سه سال و نیم فعالیت در اوپن‌ای‌آی، اکنون «یکی از باسابقه‌ترین کارکنان شرکت» محسوب می‌شود. اما حالا تصمیم گرفته این شرکت را ترک کند، چون به اعتقاد او «فرهنگ سازمانی آن از هم گسیخته است».
اظهارات رابینسون از برخی جهات یادآور سخنان جیکوب کاکسون است؛ پژوهشگری که پیش‌تر در اوپن‌ای‌آی و آنتروپیک کار کرده بود و پس از استعفا اعلام کرد این شرکت‌ها «با جان و زندگی ما قمار می‌کنند». اظهارات کاکسون بحث گسترده‌تری درباره ایمنی هوش مصنوعی به راه انداخت؛ بحثی که در پی آن، داریو آمودی، مدیرعامل آنتروپیک، از برنامه‌ای برای توسعه محتاطانه‌تر هوش مصنوعی پرده برداشت. همچنین مدیران شرکت‌های هوش مصنوعی این هفته با دونالد ترامپ، رئیس‌جمهوری آمریکا، دیدار کردند و تعهدنامه‌ای را امضا کردند که به نظر می‌رسید با عجله نوشته شده و الزام قانونی هم نداشت و در آن وعده داده بودند کنترل‌های ایمنی بیشتری اعمال کنند.
اما از نگاه رابینسون، این بحث نباید صرفا به «قوانین مشخص یا مقررات جدید» محدود شود، بلکه باید فرهنگ کلی حاکم بر این شرکت‌ها را نیز در بر بگیرد. درحالی‌که بخش قابل‌توجهی از گزارش‌ها درباره اوپن‌ای‌آی بر این موضوع متمرکز بوده که سم آلتمن، مدیرعامل شرکت، اعتماد برخی از همکاران سابق خود را از دست داده است، مقاله رابینسون نشان می‌دهد مشکلات فرهنگی اوپن‌ای‌آی در واقع بازتاب همان مشکلات گسترده‌تری است که در سراسر سیلیکون‌ولی دیده می‌شود.
رابینسون نوشته است: اوپن‌ای‌آی با آزمون‌وخطا پیشرفت کرده است؛ روشی که خود شرکت آن را «استقرار تکرارشونده» می‌نامد. در این روش، شرکت مشکلات را شناسایی می‌کند و سپس سازوکارهای حفاظتی خود را در واکنش به آنها بهبود می‌دهد. اما این رویکرد، ذاتا شکست‌های دوره‌ای را تضمین می‌کند؛ و هرچه سیستم‌ها توانمندتر می‌شوند، ابعاد این شکست‌ها نیز بزرگ‌تر خواهد شد.
او با اشاره به نفوذ اخیر عامل‌های هوش مصنوعی اوپن‌ای‌آی به سامانه‌های Hugging Face و همچنین افشاگری‌های پی‌درپی درباره کشف عامل‌های سرکش بیشتر در اوپن‌ای‌آی، هشدار داد: «محیطی که چنین اتفاقاتی در آن ممکن است رخ دهد، جای مناسبی برای پرورش ذهن‌های مصنوعی نیست؛ ذهن‌هایی که ممکن است از ما باهوش‌تر شوند و الزاما آن کاری را که ما می‌خواهیم انجام ندهند.»
رابینسون با توجه به افزایش این خطرها معتقد است شرکت‌هایی که روی پیشرفته‌ترین مدل‌های هوش مصنوعی کار می‌کنند، باید از این پس «مثل نیروگاه‌های هسته‌ای یا فرودگاه‌های شلوغ» فعالیت کنند؛ یعنی با لایه‌های متعدد پشتیبان و افزونگی و همچنین برنامه‌ریزی دقیق و زمان‌بر، به‌گونه‌ای که خطاهای انسانی ــ که گاه و به‌طور اجتناب‌ناپذیر رخ می‌دهند ــ نتوانند راه را برای یک فاجعه باز کنند.
با این حال، رابینسون می‌گوید در مدتی که در اوپن‌ای‌آی فعالیت کرده، «هرگز با همکاری مواجه نشد که تجربه به پرواز درآوردن ایمن هواپیماها، راه‌اندازی رآکتورهای هسته‌ای بدون ذوب شدن آنها یا کمک به رشد نظام مالی بدون فروپاشی آن را داشته باشد».
در واکنش به مقاله رابینسون، درو پوزاتری، سخنگوی اوپن‌ای‌آی، گفت این شرکت همچنان در حال تقویت اقدامات ایمنی خود است.
پوزاتری در بیانیه‌ای گفت: «ما اطمینان حاصل می‌کنیم که مدل‌هایمان از سطحی فراتر از توانایی ما برای مدیریت و ایمن‌سازی آنها توانمندتر نشوند و هر زمان که لازم باشد برای کاهش سرعت، آموزش مدل‌ها را متوقف یا عرضه آنها را به تعویق می‌اندازیم.»
او افزود: «ما در حال ایجاد تغییرات قابل‌توجهی برای تقویت امنیت در محیط‌های تحقیق و آزمایش خود هستیم، مدل‌ها را آموزش می‌دهیم که نه‌تنها وظایف را انجام دهند، بلکه این کار را به شکل مسوولانه انجام دهند، همکاری با ارزیابان شخص ثالث را گسترش می‌دهیم و نظارت لحظه‌ای را بهبود می‌بخشیم تا بتوانیم رفتارهای نگران‌کننده را در مراحل ابتدایی‌تر آموزش، زودتر شناسایی و به آنها واکنش نشان دهیم.»
رابینسون علاوه بر درخواست برای تغییر فرهنگ سازمانی اوپن‌ای‌آی، معتقد است زمان آن رسیده که پرسش‌های بزرگ‌تری درباره «هم‌راستایی» مطرح شود؛ موضوعی که خودش اعتراف می‌کند ممکن است کمی «احساساتی و غیرعلمی» به نظر برسد، اما از نظر او با توجه به اینکه معیارهای فعلی شرکت‌ها برای سنجش میزان «همخوانی» سیستم‌های هوش مصنوعی با ارزش‌های انسانی بسیار ابتدایی و کلی هستند، اهمیت حیاتی دارد.
او هشدار داد: «هرچه صنعت اجازه دهد مدل‌ها باهوش‌تر شوند، درحالی‌که این مشکلات همچنان حل‌نشده باقی مانده‌اند، وضعیت ما خطرناک‌تر خواهد شد.»
خبر استعفای رابینسون نخستین‌بار توسط بیزینس اینسایدر منتشر شد. او در مقاله خود همچنین اذعان کرده که یکی از ظاهرا رایج‌ترین مراحل در الگوی رفتاری افشاگران حوزه هوش مصنوعی را دنبال کرده است. با این حال تاکید کرده که «تصمیم برای صحبت کردن، کاملا تصمیم شخصی خودم بوده است.»
رابینسون گفت: «شاید باید می‌ماندم و برای ایجاد تغییرات اساسی در نیروی انسانی و فرهنگ سازمانی مبارزه می‌کردم، اما در عمل، من و همکارانم آن‌قدر مشغول دویدن و پیش‌رفتن با تمام سرعت بودیم که به‌ندرت فرصتی پیدا می‌کردیم درباره تغییرات بزرگ فکر کنیم، چه رسد به اینکه واقعا آنها را عملی کنیم.»
او در پایان گفت: «به همین دلیل به این نتیجه رسیدم که ایجاد مشوق‌های قوی‌تر برای ایمنی ــ مشوق‌هایی که از خارج از شرکت اعمال شوند ــ بخش مهمی از حل درست این مساله است.»
