رسوایی جدید از اوپنایآی؛
هوش مصنوعی یا هکر افسارگسیخته؟
به گزارش وبگاه وایرد، دولت استرالیا در حال بررسی این موضوع است که آیا باید پلیس فدرال را نیز وارد پرونده کند یا خیر. این بررسی پس از آن آغاز شد که مشخص شد عامل هوش مصنوعی در ماه ژوئن به فایلهای غیرعمومی متعلق به سازمان خدمات استرالیا (Services Australia)، نهاد مسوول ارائه خدمات اجتماعی و درمانی، دسترسی پیدا کرده است.استرالیا تنها زمانی از این حادثه مطلع شد که اوپنایآی در ۱۰ سپتامبر، یعنی تقریبا سه ماه پس از وقوع حمله، با ارسال ایمیلی به یک صندوق پستی عمومی، دولت را در جریان گذاشت.
گزارشها حاکی از آن است که سم آلتمن، مدیرعامل اوپنایآی، در دیداری که اوایل همان ماه با ریچارد مارلز، معاون نخستوزیر استرالیا، داشت، به این حادثه اشاره نکرده بود؛ با وجود اینکه شرکت از ماه اوت از ماجرا اطلاع داشت.
آنتونی آلبانیزی، نخستوزیر استرالیا، روز چهارشنبه در یک نشست خبری در نیویورک گفت که شرکت «بیش از حد طول داد» تا دولت را مطلع کند و اطلاعرسانی نباید صرفا از طریق یک صندوق پستی عمومی انجام میشد. همچنین قرار است بررسی شود که چرا سازمان خدمات استرالیا پس از دریافت ایمیل، پنج روز زمان صرف کرد تا موضوع را به مرکز امنیت سایبری این کشور ارجاع دهد.
عامل هوش مصنوعی اوپنایآی در چارچوب یک پروژه توسعهای متعلق به یکی از تیمهای تحقیقاتی داخلی این شرکت، در حال انجام پژوهشهای اینترنتی درباره آمار سلامت بود.
این عامل پس از آنکه نتوانست به برخی اطلاعات دسترسی پیدا کند، روشهای جایگزین را امتحان کرد تا سرانجام راهی برای دور زدن محدودیتها پیدا کرد و بهصورت غیرمجاز وارد سامانه شد.
این عامل همچنین فایلهایی را روی سرور داخلی نوشت. دولت استرالیا در انتظار دریافت اطلاعات فنی بیشتر از اوپنایآی درباره این اقدام است.
دولت همچنین در حال بررسی این موضوع است که آیا عامل هوش مصنوعی در جریان تعامل با سه وبسایت دولتی دیگر نیز بهصورت غیرمجاز به اطلاعات دسترسی پیدا کرده است یا خیر.
آلبانیزی هنگام افشای این حادثه که آن را «غیرقابلقبول» توصیف کرد، گفت: «بدیهی است که این موضوع پیامدهای قانونی خواهد داشت». او گفت همان روز، پیشتر در یک تماس تلفنی با آلتمن درباره «نگرانی شدید» خود از این حادثه و همچنین «ناامیدی» از نحوه اطلاعرسانی شرکت و مدتزمانی که برای آگاه کردن دولت صرف کرده بود، صحبت کرده است.
آلبانیزی در پاسخ به این پرسش که آیا آلتمن عذرخواهی کرده است یا خیر، توضیحی نداد؛ اما گفت آلتمن «بهوضوح پذیرفت که شرکت عملکرد مناسبی نداشته است». دولت استرالیا در حال حاضر معتقد است که اطلاعات شخصی هیچکس در این حمله در معرض دسترسی قرار نگرفته است، هرچند تحقیقات همچنان ادامه دارد. وبسایت موردنظر، یک درگاه عمومی برای انتشار آمار است که اطلاعات غیرحساس مربوط به سامانه درمانی مدیکر استرالیا را در بر میگیرد؛ اطلاعاتی درباره دادهها و آمارهایی مانند هزینههای درمانی.
به گفته مارلز در سیدنی، به همین دلیل این وبسایت در مقایسه با سامانههای حاوی اطلاعات شخصی، از سطح امنیتی بسیار پایینتری برخوردار بوده است. او هشدار داد: «تاثیر این حادثه در واقع نسبتا محدود است، اما بدیهی است که با یک حادثه جدی روبهرو هستیم؛ حادثهای که کاملا غیرقابلقبول است».
چندین حادثه در طول تابستان، از جمله هک پلتفرم Hugging Face توسط عاملهای هوش مصنوعی اوپنایآی، در نشست این هفته مجمع عمومی سازمان ملل متحد مطرح شد. این رویدادها بار دیگر خطر خروج عاملهای مبتنی بر مدلهای پیشرفته هوش مصنوعی از کنترل را برجسته کردهاند. آنتونیو گوترش، دبیرکل سازمان ملل متحد، در این نشست از درخواستها برای اعمال کنترل بر هوش مصنوعی استقبال کرد.
آلتمن نیز روز چهارشنبه، پیشتر در شورای امنیت سازمان ملل متحد، درباره نگرانی خود از احتمال از دست رفتن کنترل انسان بر این سامانهها هشدار داده بود. آلبانیزی درباره این حادثه گفت: «وقوع چنین اتفاقی شوکهکننده بود، چون واقعی و جدی بود. اما در عین حال، فکر میکنم این اتفاق چیزی بود که پیشبینی شده بود؛ از جمله از سوی خود شرکتهای هوش مصنوعی.» استرالیا در حال تشکیل یک کارگروه ویژه برای بررسی این حادثه و تهدیدهای نوظهور سایبری مرتبط با هوش مصنوعی است. این کارگروه راهکارهای احتمالی در حوزه اجرای قانون و اصلاح قوانین را بررسی خواهد کرد تا اطمینان حاصل شود که حوادثی از این دست دوباره رخ نمیدهند.
