نفوذ چت جی‏‏‌پی‏‏‌تی به دنیای پژوهش

جوهان بولن/ پرفسور انفورماتیک Nature از زمانی که اواخر سال گذشته روبات‌چتی به نام چت جی‌‌‌پی‌‌‌تی منتشر شد، آشکار شد که این نوع فناوری هوش مصنوعی پیامدهای زیادی برای روش کار محققان خواهد داشت. چت جی‌‌‌پی‌‌‌تی نوعی مدل زبان وسیع (LLM) و سیستم یادگیری ماشینی است که به‌‌‌طور مستقل از داده‌‌‌ها یاد می‌گیرد و می‌‌‌تواند پس از آموزش روی مجموعه داده‌‌‌ای عظیم از متن، نوشته پیچیده و به‌ظاهر هوشمندانه تولید کند. این جدیدترین مدل از یک‌سری از این مدل‌‌‌هاست که توسط OpenAI، شرکت هوش مصنوعی در سان‌فرانسیسکو، کالیفرنیا و سایر شرکت‌ها منتشر شده است.

چت جی‌‌‌پی‌‌‌تی هیجان و جنجال به پا کرده است؛ زیرا یکی از اولین مدل‌‌‌هایی است که به‌‌‌طور قانع‌کننده‌ای می‌‌‌تواند  با کاربران خود در مورد طیف گسترده‌‌‌ای از موضوعات به زبان انگلیسی و سایر زبان‌‌‌ها  گفت‌وگو کند. این برنامه رایگان است، استفاده از آن آسان است و همچنان به یادگیری خود ادامه می‌دهد. این فناوری پیامدهای گسترده‌‌‌ای برای علم و جامعه دارد. محققان و دیگران قبلا از جی‌‌‌پی‌‌‌تی و دیگر مدل‌‌‌های زبانی بزرگ برای نوشتن مقالات و گفت‌وگوها، خلاصه‌کردن ادبیات، پیش‌‌‌نویس و بهبود مقالات و همچنین شناسایی شکاف‌‌‌های تحقیقاتی و نوشتن کدهای رایانه‌‌‌ای، از جمله تحلیل‌‌‌های آماری، استفاده کرده‌‌‌اند. به‌زودی این فناوری تا حدی تکامل خواهد یافت که می‌‌‌تواند آزمایش‌‌‌ها را طراحی کند، دست‌‌‌نوشته‌‌‌ها را بنویسد و تکمیل کند، بررسی‌‌‌های همتا انجام دهد و مانند یک سردبیر در پذیرش یا رد یک متن عمل کند.

هوش مصنوعی محاوره‌‌‌ای احتمالا شیوه‌‌‌های پژوهشی و انتشار را متحول و فرصت‌‌‌ها و نگرانی‌هایی ایجاد می‌کند. ممکن است روند نوآوری را تسریع بخشد، زمان انتشار را کوتاه کند و با کمک به مردم برای نوشتن روان، علم را عادلانه‌‌‌تر کند و تنوع دیدگاه‌‌‌های علمی را افزایش دهد. با این حال، می‌تواند کیفیت و شفافیت تحقیق را نیز کاهش داده و استقلال ما را به‌عنوان محقق انسانی تغییر دهد. چت جی‌‌‌پی‌‌‌تی و سایر مدل‌‌‌های زبان وسیع متنی قانع‌کننده‌اند، اما اغلب اشتباه می‌کنند، بنابراین استفاده از آنها می‌‌‌تواند حقایق علمی را تحریف و اطلاعات نادرست را منتشر کند. فکر می‌‌‌کنیم که استفاده از این فناوری اجتناب‌ناپذیر است، بنابراین ممنوعیت آن کارساز نخواهد بود. ضروری است که جامعه پژوهشی در مورد پیامدهای این فناوری مخرب بالقوه وارد بحث شود. در اینجا، چند موضوع کلیدی را بیان و پیشنهاد می‌‌‌کنیم که از کجا شروع کنیم.

وتوی حق انسانی را حفظ کنید

سال‌هاست که مدل‌‌‌های زبان وسیع متنی در حال توسعه هستند، اما افزایش مداوم کیفیت و اندازه مجموعه داده‌‌‌ها و روش‌های پیچیده برای کالیبره کردن این مدل‌‌‌ها با بازخورد انسان، آنها را بسیار قدرتمندتر از قبل کرده است. مدل‌‌‌های زبان وسیع متنی سبب پیدایش نسل جدیدی از موتورهای جست‌وجو خواهند شد که قادر به ارائه پاسخ‌‌‌های دقیق و آموزنده به سوالات پیچیده کاربران هستند. اما استفاده از هوش مصنوعی تعاملی برای تحقیقات تخصصی احتمالا با نادرستی، سوگیری و سرقت ادبی همراه شود. ما به چت جی‌‌‌پی‌‌‌تی یک‌سری سوالات و تکالیف ارائه کردیم که نیاز به درک عمیقی از ادبیات داشت و متوجه شدیم که بیشتر متن نادرست و گمراه‌کننده است. به‌عنوان مثال، وقتی پرسیدیم «چند بیمار مبتلا به افسردگی پس از درمان، بیماری‌شان عود می‌کند؟»، متنی بسیار کلی ایجاد کرد که استدلال می‌‌‌کرد اثرات درمان معمولا طولانی‌‌‌مدت است. با این حال، مطالعات متعدد با کیفیت بالا نشان می‌دهد که اثرات درمان کاهش می‌‌‌یابد و خطر عود در سال اول پس از اتمام درمان از ۲۹درصد تا ۵۱درصد متغیر است. تکرار همان پرسش پاسخ دقیق‌‌‌تر و با جزئیات بیشتری ایجاد کرد.

توسعه قوانین مسوولیت‌‌‌پذیرانه

در حال حاضر برای تشخیص یک‌متن تولیدشده توسط ماشین‌‌‌ از متن نوشته‌شده به‌دست انسان‌‌‌ ابزارهایی در دسترس هستند. چنین ابزارهایی می‌‌‌توانند برای تشخیص مدل‌‌‌های زبان وسیع متنی مفید باشند، اما این روش‌های تشخیص احتمالا با فناوری‌‌‌های هوش مصنوعی تکامل‌‌‌یافته و درخواست‌‌‌های هوشمندانه‌‌‌تر به‌زودی دور زده می‌شوند. به جای شرکت در یک مسابقه تسلیحاتی بیهوده بین روبات‌چت‌‌‌‌‌های هوش مصنوعی، فکر می‌کنیم که جامعه پژوهشی و ناشران باید نحوه استفاده از مدل‌‌‌های زبان وسیع متنی را با صداقت و شفافیت بیشتر پیش ببرند.

سرمایه‌گذاری روی مدل زبان وسیع متنی

در حال حاضر، تقریبا تمام فناوری‌‌‌های پیشرفته هوش مصنوعی محاوره‌‌‌ای، محصولات انحصاری تعداد کمی از شرکت‌های بزرگ فناوری هستند که منابع توسعه هوش مصنوعی را در اختیار دارند. OpenAI عمدتا توسط مایکروسافت تامین بودجه می‌شود و سایر شرکت‌های بزرگ فناوری در حال رقابت برای تولید و انتشار ابزارهای مشابه هستند. با توجه به انحصارات مزبور برای تولید موتور جست‌وجو، پردازش کلمه و دسترسی به اطلاعات چند شرکت فناوری، این امر نگرانی‌های اخلاقی قابل‌توجهی ایجاد می‌کند.

مزایای هوش مصنوعی را بپذیرید

با افزایش حجم کار و رقابت در دانشگاه، فشار برای استفاده از هوش مصنوعی محاوره‌‌‌ای نیز افزایش می‌‌‌یابد. رو‌‌‌بات‌چت‌‌‌ها فرصت‌‌‌هایی برای تکمیل سریع وظایف فراهم می‌کنند، از دانشجویان دکترا که در تلاش برای نهایی کردن پایان‌‌‌نامه خود هستند تا محققانی که برای پیشنهاد کمک مالی خود به بررسی سریع ادبیات نیاز دارند یا داورانی که تحت فشار زمان برای ارائه تحلیل خود هستند. اگر روبات‌چت‌‌‌های هوش مصنوعی بتوانند به این وظایف کمک کنند، نتایج می‌‌‌تواند سریع‌‌‌تر منتشر شود و دانشگاهیان می‌توانند روی طرح‌‌‌های آزمایشی جدید تمرکز کنند. این امر می‌‌‌تواند به‌طور قابل‌توجهی نوآوری را تسریع کند و به‌‌‌طور بالقوه سبب پیشرفت در بسیاری از رشته‌‌‌ها شود.