چرا پلتفرمها قاطعانه محتوای تولید شده توسط انسان از AI را تفکیک نمیکنند؟
تولیدات بیکیفیت مزارع هوش مصنوعی
به گزارش گروه آنلاین روزنامه دنیای اقتصاد-حسین موسوی: تقریباً غیرممکن است که از دیدن محتوای تولید شده توسط هوش مصنوعی در فضای آنلاین اجتناب کرد، اما لازم نیست همواره اینگونه باشد. یوتیوب، اینستاگرام، تیک تاک و موارد دیگر در طول سال گذشته تلاشهای خود را برای احراز هویت محتوا افزایش دادهاند، و بسیاری از آنها اکنون به¬طور خودکار برچسبهایی را برای تشخیص تصاویر، ویدیوها و موسیقی تولید شده توسط هوش مصنوعی قرار داده¬اند تا از آنهایی که توسط سازندگان واقعی و انسانی ساخته شدهاند، متمایز شوند. جس وتربد، در «The Verge» نوشت: اگر فقط به¬طور تصادفی به محتوای برچسبگذاری شده برخورد کنیم، همه اینها خیلی خوب و عالی است، اما میدانید چه چیزی بهتر خواهد بود؟ اینکه به ما اجازه دهیم محتوای بیارزش هوش مصنوعی را فیلتر کنیم.
تلاشهای فعلی برای برچسبگذاری، نحوه ارائهی محتوای آنلاین را به¬طور معناداری تغییر ندادهاند. ممکن است متوجه شوید که برخی از ویدیوهای تیکتاک یا یوتیوب در فیدهای شما اکنون در توضیحات خود، اطلاعات مربوط به هوش مصنوعی را افشا میکنند یا برچسبهای اطلاعاتی روی خود کلیپ قرار میگیرند. متا نیز با اعمال برچسبهای «اطلاعات هوش مصنوعی» به تصاویری در فیسبوک و اینستاگرام که حاوی اطلاعات شناسایی هوش مصنوعی یا اطلاعات داوطلبانه سازندگان هستند، رویکرد مشابهی را در پیش میگیرد. اما اگر واقعاً میخواهید از دیدن هر چیزی که با چنین لیبل¬هایی برچسبگذاری شده است، اجتناب کنید، کار بسیار دشواری دارید، مضاف بر اینکه تولیداتی از این دست هم مغز آسیب می¬رساند هم اینکه نگرانیهایی پیرامون ماسئل اخلاقی و زیستمحیطی پیرامون هوش مصنوعی مولد وجود دارد. برای همین یک فیلتر به راحتی این مشکل را حل میکند. تنها چیزی که نیاز داریم یک کادر انتخاب «هوش مصنوعی» برای تغییر وضعیت است.
وتربد در ادامه می¬نویسد: من با متا، گوگل، تیک¬تاک و اسپاتیفای تماس گرفتم تا بپرسم آیا برنامهای برای فیلتر کردن محتوای مختلفی که کاربران با سیستمهای برچسبگذاری هوش مصنوعی تأیید کردهاند، دارند یا خیر. تیک¬تاک و اسپاتیفای هرگز پاسخی ندادند و گوگل گفت که چیزی برای به اشتراک گذاشتن ندارد. متا هم نظر قابل استنادی ارائه نداد. اما به¬طور خلاصه، هیچ یک از این شرکتها «بله» نگفتند.
یکی از معدود پلتفرمهای آنلاینی که فیلتر محتوای هوش مصنوعی را دیدهام، DeviantArt است و پیادهسازی آن بسیار گویاست. اولاً، نمیتوانید از طریق فیدها یا صفحه فروشگاه DeviantArt به آن دسترسی داشته باشید، بنابراین تا حدودی پنهان به نظر میرسد. در عوض، باید یک حساب کاربری ایجاد کنید و سپس ماوس را روی نماد کاربری خود در بالا سمت راست صفحه نگه دارید تا منوی «تنظیمات محتوای هوش مصنوعی» را پیدا کنید. از آنجا، فقط دو گزینه دارید: تنظیم پیشفرض «نمایش هوش مصنوعی» یا گزینه «سرکوب هوش مصنوعی» که ادعا میکند «نمونههای کمتری» از تصاویر تولید شده یا دستکاری شده توسط هوش مصنوعی را خواهید دید. این نویسنده در ادامه تاکید می¬کند: متأسفانه، با امتحان کردن هر دو گزینه، تفاوت قابل توجهی نمیبینم. در حال حاضر، چشم تیزبینی برای تشخیص «تصاویر دیجیتالی» تولید شده توسط هوش مصنوعی دارم، اما مجبور نبودم فقط به حدس و گمانهایم تکیه کنم - تقریباً هر تصویر مشکوکی که انتخاب کردم، شامل افشای خالق در توضیحات بود که تأیید میکرد اثر توسط یک ربات ساخته شده است. DeviantArt در اعمال خودکار برچسبهای هوش مصنوعی به تصاویری با فرادادههایی که به وضوح منشأ هوش مصنوعی را نشان میدهند، عملکرد ضعیفی دارد.
پینترست سیستم مشابهی دارد. کاربرانی که وارد حساب پینترست خود میشوند میتوانند روی آیکون تنظیمات کلیک کنند، «توصیههای خود را اصلاح کنید» را انتخاب کنند و سپس روی برگه «محتوای هوش مصنوعی» ضربه بزنند تا دستهبندیهای خاصی از جمله هنر، زیبایی، مد و دکوراسیون منزل را تغییر دهند. طبق گفته پینترست، غیرفعال کردن هر یک از این گزینهها «محتوای کمتر اصلاحشده توسط هوش مصنوعی» را برای آن دسته خاص به شما نشان میدهد، اما طبق تجربه من، این گزینه به هیچ وجه بینقص نیست. پیدا کردن این تنظیمات نیز مسلماً دشوارتر از فیلتری است که در فیدهای پینترست تعبیه شده است. من هنوز تصاویر زیادی با نشانههای مشکوک هوش مصنوعی (از جمله مدلهای عکاسی فوقالعاده بینقص و خطاهای تصویرسازی غیرقابل توضیح) دیدم، با وجود اینکه فیلترهای هوش مصنوعی به حداکثر رسیده بودند.
تقریباً اگر پلتفرمهای دیگری مانند یوتیوب یا اینستاگرام فیلتر محتوای هوش مصنوعی را معرفی کنند، این اتفاق مشابه نیز برای آنها خواهد افتاد: خیلی خوب کار نخواهند کرد. اما اشکالی ندارد زیرا این کار «راهکارهای» ناکارآمدی را که امپراتورهای هوش مصنوعی ما به خود میگیرند، افشا میکند. آنها روی کاغذ وجود دارند تا ناظران و منتقدان را راضی کنند، اما برای حل مشکل واقعی تشخیص جعل هوش مصنوعی از عکاسی اصیل و آثار خلاقانه کار چندانی انجام نمیدهند. سیستمهای مبتنی بر «منشأ و سابقه محتوا»، مانند C۲PA و SynthID، با این روش کار میکنند که هنگام تولید محتوا، اطلاعاتی در قالب متادیتا یا واترمارکهای نامرئی داخل آن قرار میدهند. اما مدلهای هوش مصنوعی متنباز زیادی وجود دارند که چنین کاری انجام نمیدهند؛ بهخصوص مدلهایی که ممکن است با اهداف مخرب طراحی شده باشند. حتی در مدلهایی که از این روش استفاده میکنند نیز متادیتا را میتوان بهسادگی حذف کرد و به همین دلیل نمیتوان کاملا به این شیوه اعتماد کرد. روشهای دیگری هم وجود دارند که بهجای بررسی منشأ محتوا، آن را از نظر الگوهای موجود در محتوای دیجیتال تحلیل میکنند و سپس احتمال استفاده از هوش مصنوعی در تولید آن را تخمین میزنند. با این حال، این روشها هم ممکن است گاهی محتوای انسانی را به اشتباه تولیدشده توسط هوش مصنوعی تشخیص دهند. در حال حاضر، هیچیک از این روشها در مقیاس گسترده، عملکرد قابلاعتمادی ندارند. با این وجود، شرکتها، از جمله ارائهدهندگان هوش مصنوعی مانند اوپن¬ای¬آی، در حال حاضر از این راهحلهای برچسبگذاری هوش مصنوعی به عنوان چیزی که به جلوگیری از فریب خوردن مردم توسط دیپ¬فیک و سایر جعلهای گمراهکننده کمک میکند، خبر میدهند. اگر نهادهای نظارتی از ناکارآمدی آنها مطلع شوند، ممکن است پلتفرمهای آنلاین و ارائهدهندگان هوش مصنوعی واقعاً نیاز به یافتن راهحلی داشته باشند که واقعاً کار کند، نه چیزی که در حال حاضر مانند یک پوشش سطحی به نظر میرسد.
پلتفرمها استدلال خواهند کرد که اگر ابتکارات برچسبگذاری را بیش از حد سخت بگیرند، خطر علامتگذاری نادرست محتوای معتبر را به جان میخرند. هم متا و هم یوتیوب پس از اعمال برچسبهای هوش مصنوعی به تصاویر و ویدیوهایی که سازندگان گفتند بدون کمک چنین ابزارهایی تولید شدهاند، به سختی متوجه این موضوع شدند. اگر این موضوع برای سیستمهای برچسبگذاری فعلی تا این حد نگرانکننده است، پس راهحل بهتری پیدا کنید. مطمئناً بهبود تجربه کاربری برای میلیونها کاربر شما یک سرمایهگذاری ارزشمند برای دفع رقابت است؟
در حالی که من میپرسم، چرا نمیتوانم تمام ویدیوهای بیکیفیت هوش مصنوعی را که هر روز میبینم گزارش کنم؟ با توجه به مقیاس این مشکل - به عنوان مثال، مطالعهای توسط Kapwing در سال گذشته نشان داد که بیش از ۲۰ درصد از ویدیوهای یوتیوب که به کاربران جدید نشان داده میشود، ویدیوهای بیکیفیت تولید شده هستند - تصور میکنم تعداد زیادی ناظر انسانی برای بررسی مؤثر هر گزارش مورد نیاز باشد. شاید مشکل همین باشد. در زمانی که شرکتهای بزرگ فناوری در حال جایگزینی کارگران با هوش مصنوعی هستند که ظاهراً میتوانند از آنها بهتر عمل کنند، آیا میتوانند با استخدام مجدد آنها برای رفع مشکلات هوش مصنوعی، از روایت دقیق خود عقبنشینی کنند؟ انسانها در مقایسه با سیستمهای تعدیل خودکار که فاقد مهارتهای تحقیق دقیق هستند، معمولاً الزامات آزاردهندهای مانند حقوق و مزایا دارند.
یک جایگزین برای برچسبگذاری محتوای تولید شده توسط هوش مصنوعی، شروع به برچسبگذاری سازندگان انسانی تأیید شده است. این کار لزوماً محتوای مصنوعی ارسال شده توسط آن سازندگان را شناسایی نمیکند، اما میتواند به ما کمک کند تا کمتر شاهد مزارع محتوای تأیید نشدهای باشیم که محتوای بیکیفیت تولید میکنند. این آیندهای است که موسری از اینستاگرام برای پلتفرم اشتراکگذاری تصویر متا ترسیم کرده است و کاری است که اسپاتیفای در حال حاضر با هنرمندان تأیید شده انجام میدهد.
البته، متا، اسپاتیفای و گوگل فقط میزبان تصاویر، تبلیغات و موسیقی تولید شده توسط هوش مصنوعی نیستند؛ آنها همچنین مسئول ساخت ابزارهایی هستند که آن را ایجاد میکنند. به همین دلیل است که آنها اصرار دارند که همه محتوای هوش مصنوعی بیکیفیت نیست و این بیشتر به سلیقه مربوط میشود و در واقع اگر به اندازه کافی قانعکننده باشد، آنها امیدوارند که شما متوجه نشوید و با خوشحالی از آن لذت ببرید. اجازه دادن به کاربران برای فیلتر کردن آن در هر صورت، برخلاف تمام تلاشهایی است که این پلتفرمها برای سودآوری از هوش مصنوعی انجام دادهاند: آنها میخواهند شما کارخانه بیکیفیت را بپذیرید.
وتربد سر آخر می¬نویسد: خوشحال می¬شوم که اشتباهم ثابت شود. در واقع، من کاملاً از پلتفرمهای آنلاین التماس میکنم که ثابت کنند تلاشهایشان برای برچسبگذاری هوش مصنوعی اتلاف وقت نبوده است. اما در حال حاضر، آنها همه چیز را در دست دارند و ما فقط باید امیدوار باشیم که تلاشهایشان برای تعدیل هوش مصنوعی بینقص باشد. بنابراین یک فیلتر ساده «بدون هوش مصنوعی» یا «خالق انسانی تأیید شده» به ما بدهید و ما قضاوت خواهیم کرد که این روند چقدر خوب پیش میرود.
