چرا تماشاگر از دیپ‌فیک به‌رغم ساختگی بودنش استقبال می‌کند؟
آشفته‌بازار ویدئوهای جعلی
حامد اناری: یک چهره شناخته‌شده را می‌توان در چند ثانیه وارد صحنه‌ای کرد که هرگز در آن حضور نداشته است. از نقی معمولی گرفته تا جومونگ. از زمین فوتبال و قاب یک فیلم قدیمی تا موقعیتی کاملا نامتعارف. تا همین چند سال پیش، ساخت چنین تصویری به مهارت فنی، نرم‌افزار و زمان نیاز داشت و خیلی از اوقات به‌صرفه نبود. اما ابزارهای مولد هوش مصنوعی بخشی از این هزینه را از میان برداشته‌اند و ساخت تصویر و ویدئو بیش از آنکه فعالیتی تخصصی باشد، به یکی از قابلیت‌های در دسترس کاربران عادی تبدیل شده است. شاید مهم‌تر از همه، سرعت آن است. شبکه‌های اجتماعی نیز توزیع این تصاویر و ویدئوها را با هزینه‌ای نزدیک به صفر ممکن کرده‌اند. حاصل، بازاری است که در آن تولید محتوا ارزان‌تر شده، اما «توجه» همچنان کالایی کمیاب باقی مانده است. در چنین بازاری، رقابت اصلی از مرحله تولید به مرحله دیده‌شدن منتقل می‌شود و محتوایی که عجیب‌تر، اغراق‌آمیزتر یا قابل بازتولیدتر باشد، شانس بیشتری دارد.
پیش‌تر «دنیای اقتصاد» در گزارشی با عنوان «افول اقتصاد فالوورها» تحول بنیادین هوش مصنوعی در اقتصاد دیجیتال را که به بازتعریف «ارزش» انجامیده است، مورد بررسی قرار داد. نمونه مطالعاتی گزارش Hootsuite نشان می‌دهد یک ساختار رسانه‌ای تنها با ۱۵هزار دلار هزینه و تبدیل یک محتوای بلند به ۲۵۰۰ کلیپ کوتاه، بیش از ۴۰میلیون بازدید در تیک‌تاک، ریلز و شورتس یوتیوب (Shorts) خلق کرده است. همین تغییر، جایگاه میم‌ها را هم تغییر داده است. یک تصویر چندثانیه‌ای ممکن است در ظاهر تنها یک شوخی باشد، اما هم‌زمان درباره یک ورزشکار، بازیگر یا سیاستمدار روایت بسازد، احساسی مشخص را به مخاطب منتقل کند و وارد چرخه بازنشر شود. در نمونه‌های ایرانی نیز چهره‌های ورزشی و سینمایی وارد موقعیت‌هایی می‌شوند که در دنیای واقعی اتفاق نیفتاده‌اند. مخاطب ممکن است از همان ابتدا بداند تصویر جعلی است، اما این آگاهی قطعا مانع تماشا و بازنشر آن نمی‌شود. به بیان دیگر، جعلی بودن نقطه پایان محتوا نیست. می‌تواند بخشی از جذابیت آن باشد.
این پدیده به ایران محدود نیست. در آمریکا، میم‌های هوش مصنوعی درباره دونالد ترامپ به ابزاری برای بازنمایی قدرت و هویت سیاسی تبدیل شده‌اند و در اروپا، ویدئوهایی تجمع‌های سیاسی‌ای را بازسازی کرده‌اند که در واقعیت رخ نداده‌اند. نمونه‌های دیپ‌فیک هم نشان داده‌اند این فناوری می‌تواند از قلمرو طنز و سرگرمی عبور کند و به اعتبار افراد و برندها آسیب بزند. بنابراین، موضوع فقط ظهور یک ابزار تازه برای ساخت میم نیست. کاهش هزینه تولید در کنار سازوکار توزیع شبکه‌های اجتماعی، رابطه میان تولیدکننده، مخاطب و پلتفرم را تغییر می‌دهد و محدودیت اصلی حالا می‌تواند جای دیگری باشد: توانایی جلب توجه و تبدیل آن به بازدید، بازنشر و روایت. حالا باید پرسید وقتی ساختن یک واقعیت تصویری ارزان شده است، ارزش اصلی در تولید محتوا خلق می‌شود یا در توجهی که محتوا می‌تواند به دست بیاورد؟
بازار مکاره صُوَر
بررسی ابزارهای مولد ویدئو در سپتامبر ۲۰۲۶ نشان می‌دهد که آستانه ورود به عرصه تولید تصویری، به حداقل تاریخی خود رسیده است. امروزه سرویس‌های مولد ویدئویی و سینمایی نظیر Pika و Kling AI با پلن‌های پایه از ۸ تا ۱۰ دلار در ماه در دسترس قرار دارند و پیشرفته‌ترین ابزارهای ساخت ویدئوهای سینمایی مانند Runway یا بستر‌های تولید آواتارهای چندزبانه چون HeyGen و Synthesia، هزینه‌ای ماهانه بین ۱۵ تا ۳۰دلار را به کاربر معمولی یا رسانه‌های کوچک تحمیل می‌کنند.
حتی پرداختی پیشنهادهای پیشرفته‌تر سازمانی که امکانی بی‌سابقه برای بازتولید انبوه محتوا، کلون‌‌سازی صدا و دوبله هم‌زمان به ده‌ها زبان زنده دنیا فراهم می‌سازند، بیشترشان از سقف ۱۰۰ تا ۱۵۰دلار فراتر نمی‌رود. این یعنی ساخت یک واقعیت تصویری که زمانی نیازمند استودیوهای عریض‌و طویل، تجهیزات گران‌قیمت و نیروی انسانی متخصص بود، اکنون به بهای یک اشتراک ماهانه ساده تنزل یافته است. اما در این ساختار نوظهور، کاهش بی‌سابقه هزینه‌های تولید، با هزینه توزیع نزدیک به صفر در شبکه‌های اجتماعی پیوند خورده است. برآمد این دو زنجیره، ریزش ارزش اثربخشی ابزار و جهش ارزش کالایی به نام توجه مخاطب است. در بازاری که تصویر با نازل‌ترین قیمت تکثیر می‌شود، اهرم خلق ثروت و اثرگذاری سیاسی یا اجتماعی، از آن کسانی است که روایت‌های اغراق‌آمیزتر، جنجالی‌تر و بازتولیدپذیرتری را در نبرد بر سر جلب توجه کمیاب به جریان می‌اندازند.
مطالعات نشان می‌دهد تا مه ۲۰۲۵، محتوای تولیدشده با هوش مصنوعی از نظر کمی از محتوای انسانی پیشی گرفته و به ۵۲درصد از کل محتوای اینترنت رسیده است و همین‌طور پیش‌بینی می‌شود این سهم تا ۲۰۲۶ به حدود ۹۰درصد برسد. به بیان دیگر، در هر صد صفحه یا پستی که امروز می‌بینیم، دست‌کم نیمی از آنها ردپای هوش مصنوعی دارد. در حوزه دیپ‌فیک، رشد حتی تندتر است. تعداد ویدئو و صوت دیپ‌فیک در شبکه‌های اجتماعی از حدود ۵۰۰هزار مورد در ۲۰۲۳به نزدیک ۸میلیون مورد در ۲۰۲۵ رسیده است. رشدی معادل ۱۵۰۰درصد در دو سال. در ۲۰۲۴، تقریبا نیمی از شرکت‌های جهانی گزارش داده‌اند که با کلاهبرداری صوتی یا تصویری مبتنی بر دیپ‌فیک مواجه شده‌اند و میانگین زیان هر سازمان درگیر حدود ۴۵۰هزار دلار برآورد شده است.
جامعه هزینه نهایی صفر
اما ارزان‌شدن تولید یک سوی این تغییر است. سوی دیگر، دشوارتر شدن تشخیص و اعتبارسنجی محتوایی است که با چنین سرعتی تولید و توزیع می‌شود. وقتی ساختن یک تصویر قانع‌کننده دیگر مزیت بزرگی محسوب نمی‌شود، این پرسش اهمیت بیشتری پیدا می‌کند که کدام روایت می‌تواند در میان انبوه تصاویر ساخته‌شده دیده، باور و بازنشر شود و چه کسی هزینه خطای آن را می‌پردازد. علی شاکر، پژوهشگر بینارشته‌ای علوم ارتباطات و هوش مصنوعی، در گفت‌وگو با «دنیای اقتصاد» با اشاره به همین تغییر، میان دیده‌شدن و تثبیت‌شدن یک روایت تمایز می‌گذارد و معتقد است در این بازار، جذابیت تصویر به‌تنهایی برای ساخت اعتماد کافی نیست.
او در رابطه با همین مساله ارزان شدن ابزار تولید محتوا گفت: «در این بازار، دو دارایی اهمیت ویژه پیدا می‌کنند؛ یکی داده و دیگری اعتبار. آنکه داده دارد می‌تواند الگوها و ترجیحات را تحلیل کند؛ فرد معتبر هم می‌تواند توجه را به اعتماد تبدیل کند.» او همچنین افزود: «البته داده بدون اعتبار بی‌معنا نیست؛ برای تبلیغات و پیش‌بینی رفتار ارزش اقتصادی دارد. مساله این است که حجم داده، به‌تنهایی، حقانیت یک روایت را تضمین نمی‌کند. چون یادمان باشد امروز خیلی راحت می‌توانیم هزاران هزار از انواع محتوا را در زمانی کوتاه تولید کنیم و ذهن مخاطب را مستمر در معرض آن قرار دهیم.» شاکر با اشاره به تعبیر جرمی ریفکین با عنوان «جامعه هزینه نهایی صفر» توضیح داد: «اینکه هزینه تولید یک واحد اضافی دارد به صفر میل می‌کند ولی حواس‌مان باشد که منظور تمام هزینه‌ها نیست. تولید به کمک این ابزارهای هوشمند و مولد همچنان به برق، زیرساخت، نیروی کار و بررسی مدام نیاز دارد؛ رسیدن به مخاطب هم الزاما رایگان نیست. آنچه ارزان‌تر شده، ساختن صورتِ قانع‌کننده پیام است؛ اعتبارِ آن باید جداگانه ساخته شود.»
او در ادامه گفت: «باید میان دیده‌شدن و تثبیت‌شدن فرق گذاشت. روایت‌های کوتاه، هیجان‌برانگیز و سازگار با باورهای پیشین می‌توانند سریع گردش کنند، حتی اگر بی‌پشتوانه باشند. اما تبدیل‌شدن به مرجع تصمیم، به سابقه منبع، شواهد قابل‌بررسی و امکان اصلاح وابسته است. البته یک روایت نادرست نیز ممکن است در جمعی هم‌نظر جا بیفتد؛ ماندگاری، معیار صحت نیست.» شاکر در جمع‌بندی این بخش تاکید کرد: «فرصت اصلی برای روایتی است که علاوه بر جذابیت، مسیر بررسی داشته باشد. زیبایی تصویر، هزینه جلب توجه را کاهش می‌دهد؛ اعتماد از سابقه درست‌گویی، شفافیت و پاسخ‌گویی به دست می‌آید.»
پیامی که همه می‌دانند جعلی است
شاکر درباره میم‌هایی که مخاطب از ساختگی‌بودن آنها آگاه است اما همچنان آنها را تماشا و بازنشر می‌کند، گفت: «در بسیاری از میم‌ها، ساختگی‌بودن بخشی از قرارداد ارتباطی است. مخاطب نمی‌پرسد واقعا این صحنه اتفاق افتاده؟، بلکه می‌پرسد این تصویر درباره وضعیت ما چه می‌گوید؟ همان‌طور که کاریکاتور برای بیان نقد، تناسب چهره‌ها را تغییر می‌دهد، ویدئوی مولد هم می‌تواند موقعیتی ناممکن بسازد تا تناقضی واقعی را نشان دهد.» او افزود: «بازنشر، در اینجا لزوما تصدیقِ یک خبر نیست؛ می‌تواند اعلام همدلی، اعتراض یا عضویت در یک جمع باشد.» شاکر همچنین تاکید کرد: «دانستنِ ساختگی‌بودن یک تصویر نیز اثر عاطفی آن را خود به خود خنثی نمی‌کند.»
با این حال، او میان سرگرمی و ادعاهایی که می‌توانند بر تصمیم‌های واقعی اثر بگذارند مرز می‌گذارد: «خندیدن به تصویری ناممکن از یک سیاستمدار، با بازنشر ویدئوی ساختگیِ شکستن سد یا هشدار زلزله یکی نیست. در دومی، پیام ممکن است به جابه‌جایی مردم، ازدحام یا تصمیم خطرناک بینجامد؛ اینجا صحت باید بر جذابیت مقدم شود.» او مشکل دیگر را جداشدن تصویر از زمینه می‌داند و می‌گوید: «محتوایی که در صفحه طنز آشکارا ساختگی است، ممکن است در یک کانال تلگرامی بدون توضیح، به‌صورت خبر دست به دست شود. پس، مشخص‌کردن ماهیت ساختگی باید تا حد امکان در خود اثر باقی بماند.»
اعتبار نقد در اقتصاد توجه
شاکر درباره هم‌زمانی کارکرد انتقادی و اقتصادی این محتواها گفت: «این دو کارکرد می‌توانند هم‌زمان وجود داشته باشند. یک ویدئوی ساخته شده با هوش مصنوعی ممکن است نقدی واقعی را بیان کند و هم‌زمان برای پلتفرم، بازدید و داده رفتاری بسازد. دیده شدن در اقتصاد توجه، نقد را بی‌اعتبار نمی‌کند؛ پرسش این است که آیا اثر مساله‌ای را روشن می‌کند یا فقط ذهن مخاطب را برای هیجان بعدی آماده می‌سازد.» او با اشاره به تعبیر «پوست در بازی» نسیم طالب افزود: «باید به این پرسش پاسخ دهیم که چه کسی از انتشار سود می‌برد و چه کسی پیامدش را تحمل می‌کند؟ اگر سازنده بازدیدش بالا رود و درآمد پیدا کند ولی هزینه اتهام نادرست را فردِ تصویرشده، خانواده او یا یک کسب‌وکار بپردازند، رابطه نامتوازنی شکل گرفته است. هوش مصنوعی این فاصله را می‌تواند بزرگ‌تر کند؛ چون ساختن صحنه سریع است، اما پاسخ‌دادن و ترمیم اعتبار زمان می‌برد.»
شاکر البته تاکید کرد که پاسخ‌گویی به معنای الزام منتقد به افشای هویت نیست: «در موقعیتی که نقد هزینه دارد، ناشناس ماندن می‌تواند موجه باشد. معیار، میزان خطرکردنِ منتقد نیست؛ دقت در انتساب، روشن‌بودن مرز طنز و خبر و آمادگی برای اصلاح است.» او افزود: «مسوولیت ارتباطی فقط بر عهده سازنده نیست؛ صفحه بازنشرکننده و سکو یا پلتفرمی که محتوا را تقویت می‌کند نیز در گردش و پیامد آن نقش دارند.» وی درباره مرز نقد و تخریب نیز چنین گفت: «مرز نقد و تخریب را فقط با تندیِ لحن نمی‌توان سنجید. نقد تند هم ممکن است مستند و ضروری باشد. مشکل اینجاست که رفتار و تصمیم قابل بررسی جای خود را به اتهام بی‌پشتوانه، تحقیر جنسیتی، تعرض به زندگی خصوصی یا بسیج مخاطب برای آزار بدهد.» به گفته او، نقد مسوولانه، امکان پاسخ و بررسی را بیشتر می‌کند؛ «تخریب، شخص را هدف می‌گیرد و هزینه را به دوش او می‌اندازد.»
خسارت سنگین تصاویر ارزان
شاکر در بخش پایانی گفت‌وگو، اثر دیپ‌فیک را فراتر از آسیب مستقیم به فرد یا نهادی دانست که تصویرش جعل شده است: «جعل‌عمیق فقط به آن که تصویرش جعل شده آسیب نمی‌زند، بلکه می‌تواند اعتماد به تصاویر واقعی را هم دشوارتر کند.» او تاکید کرد: «پس مساله فقط ارزان‌شدن جعل نیست؛ بررسی واقعیت هم دشوارتر می‌شود. سازنده ممکن است با هزینه‌ای اندک تصویر بسازد، اما هزینه پاسخ‌دادن و ترمیم اعتبار بر دوش دیگری بیفتد.»
او برای کاهش این خطر گفت: «برای کاهش خطر، نباید فقط به ظاهر تصویر یا نتیجه یک نرم‌افزار تشخیص اعتماد کرد. باید فایل اصلی، نخستین منتشرکننده و شواهد مستقل را بررسی کنیم. حتی ثبت سابقه ساخت و ویرایش فایل، به‌تنهایی صحت ادعای مطرح‌شده را ثابت نمی‌کند.» شاکر در پایان به ارزش اعتبار حرفه‌ای اشاره کرد: «خبرنگار باتجربه می‌تواند از هوش مصنوعی برای مرتب‌کردن اسناد و یافتن پرسش‌ها کمک بگیرد، سپس ادعاها را با سند و تماس با منابع بررسی کند. مزیت او فقط پیشینه و شهرت نیست؛ توان تشخیص خطا و پاسخ‌گویی در برابر انتشار است. اگر خروجی ماشین را بی‌بررسی تایید کند، همان اعتبار نیز آسیب می‌بیند.»
