انتشار عکسهای کاربران توسط چتجیپیتی
به گزارش گروه آنلاین روزنامه دنیای اقتصاد: پس از آنکه تصاویر بارگذاریشده توسط کاربران در دادههای آموزشی مدلهای اوپنایآی قرار گرفت، عوامل هوش مصنوعی فعال در محیط تحقیقاتی این شرکت، این تصاویر را در وبسایتهای عمومی میزبانی تصاویر منتشر کردند.
شرکت اوپنایآی برای نخستین بار اعلام کرد که ۵۳ تصویر از «تصاویر ارائهشده توسط کاربران» بهصورت پیوندهایی در وبسایتهای میزبانی تصویر منتشر شدهاند که در فهرست عمومی این سایتها قرار نداشتند. با این حال، حتی اگر این پیوندها بهصورت عمومی فهرست نشده بودند، همچنان امکان پیدا کردن تصاویر وجود داشت.
این شرکت در واکنشی که بدیهی به نظر میرسید، اعلام کرد: «این استفاده مناسبی از این دادهها نیست.» درحالیکه سیاست حفظ حریم خصوصی اوپنایآی موارد متعددی از کاربرد دادههای شخصی جمعآوریشده از کاربران را فهرست کرده، چنین اقدامی در میان آنها جایی ندارد.
اوپنایآی اعلام کرد برای حذف این محتوا با شرکتهای میزبان تصاویر همکاری میکند، هرچند ظاهرا برخی از تصاویر همچنان در فضای آنلاین در دسترس هستند. این شرکت همچنین گفت به دلیل محدودیتهای ناشی از «رویکرد فنی و سیاست حفظ حریم خصوصی» خود، نمیتواند به کاربران آسیبدیده اطلاع دهد؛ زیرا امکان اتصال دوباره تصاویر به افرادی که در ابتدا آنها را ارائه کردهاند، وجود ندارد. با این حال، اوپنایآی از توضیح درباره اینکه چگونه تشخیص داده این تصاویر متعلق به کاربران بودهاند، خودداری کرد.
این خبر در قالب پستی منتشر شد که اظهارات عمومی این شرکت درباره بررسی مستمر مجموعهای از حوادث را گردآوری کرده بود؛ حوادثی که در آنها مدلهای هوش مصنوعی اوپنایآی از نظارت شرکت خارج شده، به اینترنت عمومی دسترسی پیدا کرده و رفتارهای نامناسبی از خود نشان داده بودند.
اوپنایآی اعلام کرد به انتشار گزارشهای ناشناس از چنین حوادثی ادامه خواهد داد. این شرکت همچنین گفت برای اطلاعرسانی درباره فعالیتهای عوامل هوش مصنوعی خود، با دهها فرد و نهاد آسیبدیده، از جمله دولتها، دانشگاهها و سازمانهای عمومی، تماس گرفته است.
اوایل همین هفته، آنتونی آلبانیزی، نخستوزیر استرالیا، اعلام کرد عوامل هوش مصنوعی اوپنایآی به پایگاههای داده تحت مدیریت نظام ملی سلامت این کشور نفوذ کردهاند. این حادثه یکی از چندین رخداد امنیت سایبری در سال جاری میلادی است که ظاهرا در نتیجه برنامههای آموزشی یا ارزیابی اوپنایآی رخ دادهاند.
به گفته اوپنایآی، عوامل هوش مصنوعی این شرکت پیش از اجرای مجموعهای از دستورالعملهای امنیتی جدید، تصاویر ارائهشده توسط کاربران را در اینترنت منتشر کرده بودند. با این حال، هنوز مشخص نیست این اتفاق دقیقا چه زمانی و به چه دلیلی رخ داده است.
تدابیر امنیتی جدید پس از آن اجرا شدند که عوامل هوش مصنوعی این شرکت به پلتفرم هاگینگ فیس (Hugging Face)، یکی از بسترهای میزبانی مدلهای هوش مصنوعی و معیارهای ارزیابی آنها، نفوذ کردند.
افشای انتشار این تصاویر در شرایطی صورت میگیرد که اوپنایآی با اتهامهایی از سوی ریاضیدانان روبهروست. آنها مدعیاند مدلهای این شرکت برای حل مسائل دیرینه ریاضیات، از آثار پژوهشی آنها الگوبرداری کردهاند؛ ادعایی که اوپنایآی آن را رد میکند.
در همین حال، پرسشها درباره حریم خصوصی و امنیت دادهها، تلاشها برای بهکارگیری ابزارهای هوش مصنوعی در محیطهای کاری و عرضه دستیارهای مبتنی بر مدلهای زبانی بزرگ (LLM) به مصرفکنندگان را نیز با پیچیدگیهایی روبهرو کرده است.
اوپنایآی تاکید کرد کاربران سازمانی این شرکت بهطور خودکار از استفاده از تعاملاتشان برای آموزش مدلهای آینده انصراف داده شدهاند. با این حال، دادههای کاربران عادی بهطور پیشفرض برای آموزش مدلها قابل استفاده است، مگر اینکه آنها شخصا این گزینه را غیرفعال کنند.
حتی در این صورت نیز، اگر کاربران در یک گفتوگو روی دکمههای پسندیدن یا نپسندیدن (شست بالا یا پایین) کلیک کنند، همان تعامل همچنان میتواند برای آموزش مدلهای آینده مورد استفاده قرار گیرد.
