اوپن ‌ای‌آی می‌تواند مقالات تقلبی را ردیابی کند

مهر: اوپن ای‌آی ابزاری برای واترمارک‌دار کردن مقالاتی که توسط چت جی‌پی‌تی نوشته شده‌اند در اختیار دارد، اما به دلیل ریسک‌هایی از عرضه آن خودداری کرده است. به گزارش انگجت، پس از انتشار گزارشی در نشریه وال‌استریت ژورنال مبنی برآنکه اوپن ای‌آی ابزاری در اختیار دارد که می‌تواند مقالات نوشته شده با چت جی‌پی‌تی را با دقت بالا تشخیص دهد، این شرکت اطلاعاتی درباره تحقیقاتش درباره واترمارک‌دار کردن متن‌هایش را همراه دلیل آنکه چرا این روش ردیابی را به اشتراک نگذاشته است، اعلام کرد. طبق این گزارش، با وجود آنکه ابزار مذکور آماده عرضه است، اما بحث و گمانه‌زنی‌ها درباره ارائه شدن یا نشدن آن مانع اصلی در اشتراک‌گذاری آن بوده است. اوپن ای‌آی در یک به‌روزرسانی در ماه مه ‌در پستی وبلاگی نوشته است: «تیم‌های ما یک روش واترمارک‌دار کردن متن را توسعه داده‌اند که مشغول بررسی آن هستیم و همزمان روی گزینه‌های جایگزین تحقیق می‌کنیم.»

به گفته این شرکت، واترمارک‌دار کردن متن یکی از راه‌حل‌های متعدد از جمله متا داده و ابزارهای دسته‌بندی است که به عنوان بخشی از تحقیقات گسترده در زمینه منشأ متن مورد بررسی قرار گرفت. اوپن ای‌آی مدعی است این ابزار در برخی شرایط بسیار دقیق است، اما هنگامی که با برخی از انواع دستکاری در متن مانند استفاده از سیستم‌های ترجمه، تغییر جمله‌بندی با یک مدل هوش مصنوعی مولد دیگر یا درخواست از هوش مصنوعی برای قراردادن کاراکتری خاص بین لغات و سپس حذف کردن آن، روبه‌رو می‌شود، عملکرد خوبی ندارد. در بخشی از بیانیه آمده است: «مثلا ممکن است این ابزار استفاده از هوش مصنوعی به عنوان یک ابزار مفید برای نوشتن مقالات برای افراد غیرانگلیسی زبان را با مشکل روبه‌رو کند.» شرکت توسعه‌دهنده چت جی‌پی‌تی در همین پست وبلاگی روی این ریسک‌ها تمرکز و همچنین اعلام کرده که عرضه ابزارهای احراز هویت برای محتوای صوتی بصری را در اولویت قرار داده است.