سایت arXiv اعلام کرده است؛ پژوهشگرانی که مقالاتی با اشتباهاتی آشکاراً تولیدشده توسط هوش مصنوعی (AI) منتشر کنند، به مدت یک سال ممنوعیت و محدودیتهای دیگری خواهند داشت.
به گزارش سیناپرس، این اقدام پاسخی است به افزایش حجم مقالات تولیدشده توسط هوش مصنوعی که مجلات علمی و سایتهایی مانند arXiv، که به عنوان پلتفرمهای غیررسمی برای انتشار پژوهش قبل از داوری همتا فعالیت میکنند، با آن مواجه هستند.
با این حال، همه با واکنش arXiv موافق نیستند و برخی معتقدند که راهحل برای این موج پژوهشهای بیکیفیت ناشی از هوش مصنوعی ممکن است استفاده بیشتر از خود هوش مصنوعی باشد.
رشد نوشتار تحت کمک رباتها
متن تولیدشده توسط هوش مصنوعی در همه جا رو به افزایش است. مطالعهای که هفته گذشته منتشر شد، نشان میدهد: نیمی از مقالات جدیدی که به صورت آنلاین منتشر میشوند، اکنون عمدتاً توسط هوش مصنوعی تولید شدهاند و علم نیز از این روند مستثنی نیست.
ماه گذشته، مجله Organization Science مطالعهای منتشر کرد که نشان میدهد؛ ظهور هوش مصنوعی از زمان عرضه ChatGPT در سال ۲۰۲۲، چگونه بر تعداد مقالات ارسالی و روند داوری همتا تأثیر گذاشته است.
نویسندگان این مطالعه، افزایش چشمگیر در تعداد مقالات و کاهش کیفیت آنها را گزارش کرده و نتیجه میگیرند که وضعیت کنونی ابزارهای هوش مصنوعی، همراه با انگیزههای موجود در سیستم «منتشر کن یا از بین برو»، به نظر میرسد سیستم را به سمت تعادل کمیت بیشتر به جای کیفیت بهتر سوق میدهد.
یکی از مشکلات رایج در نوشتار پژوهشی تولیدشده توسط AI، ارجاعات خیالی یا ساختگی است: ارجاع به پژوهشهای دیگر که وجود ندارند.
ساز و کار سنتی برای جلوگیری از انتشار کارهای کمکیفیت، داوری همتا است: متخصص دیگری در همان حوزه مقاله را میخواند و به دقت کار پشت آن را بررسی میکند قبل از اینکه امکان انتشار پیدا کند.
اما سیستم داوری همتا پیش از ظهور AI نیز با مشکلاتی مواجه بود. پژوهشگران تحت فشار، اغلب زمان یا انگیزه کافی برای انجام کار رایگان داوری همتا ندارند.
در arXiv، که پیشچاپها (مقالاتی که معمولاً داوری همتا نشدهاند) را منتشر میکند، حتی این امکان نیز وجود ندارد. سال گذشته، با افزایش شدید ارسال مقالات تولیدشده توسط AI، این سایت پذیرش برخی انواع مقالات را متوقف کرد.مطالعهای که در ژانویه منتشر شد (که خود یک پیشچاپ بود) برآورد کرد که حدود یک هشتم مقالات در علوم زیستپزشکی اکنون شامل متن تولیدشده توسط AI هستند.
اکثر پژوهشگران بر این باورند که متن تولیدشده توسط AI به خودی خود مشکل نیست؛ مشکل، کاهش کیفیت کاری است که AI تولید آن را آسان میکند.
آیا مجازات با جرم متناسب است؟
اعلامیه arXiv علیه استفاده از هوش مصنوعی نیست، بلکه بیان میکند:اگر در یک مقاله شواهد غیرقابل انکاری وجود داشته باشد که نویسندگان نتایج تولید شده توسط مدل زبان بزرگ (LLM) را بررسی نکردهاند، این بدان معناست که نمیتوان به هیچیک از محتوای مقاله اعتماد کرد.
اما مجازات یک سال ممنوعیت برای همه نویسندگان مقاله ممکن است با شیوههای فعلی پژوهش همخوان نباشد. در گذشته، پژوهشها اغلب توسط افراد تنها یا گروههای دو یا سه نفره انجام میشد. در این شرایط، منطقی است که انتظار داشته باشیم هر نویسنده مسئولیت کل مقاله را بر عهده گیرد.
اما پژوهش اکنون بیش از همیشه همکاریمحور است
بسیاری از مقالات چهار یا پنج نویسنده دارند و در مواردی حتی صدها دانشمند در یک پروژه همکاری میکنند، هر کدام روی تخصص خود کار میکنند و به همکاران خود اعتماد دارند.در وضعیتی که یکی از نویسندگان دهها یا صدها نفر، یک ارجاع خیالی AI را در بخش خود اضافه کند، ممنوع کردن همه نویسندگان شدید به نظر میرسد.
همچنین، مجازات مشابهی برای انتشار دیگر محتوای مشکلدار وجود ندارد؛ هیچ ممنوعیتی برای انتشار نظریههای حاشیهای یا بیاعتبار یا استفاده از شواهد ضعیف و استدلالهای نادرست وجود ندارد.
آیا AI میتواند به مقابله با محتواهای بیکیفیت کمک کند؟
ظهور هوش مصنوعی مشکلاتی برای ناشران و تضمین کیفیت ایجاد میکند. ایده اعمال برخی مجازاتها برای استفاده بیملاحظه از AI، مانند ارجاعات خیالی، ایده خوبی است.
اما انتخاب خاص arXiv شدید به نظر میرسد. اگر هدف بهبود داوری همتا و تضمین کیفیت است، سیستمهای هوش مصنوعی خود میتوانند نقش مهمی داشته باشند.سیستمهای مدرن AI قادرند فهرست ارجاعات را بررسی کنند و مطمئن شوند که همه آنها مقالات واقعی موجود در اینترنت هستند. ارجاعات مشکوک میتوانند توسط انسان دوباره بررسی شوند.
هوش مصنوعی حتی میتواند برای انجام بررسیهای سریع و ابتدایی، مانند بررسی تحلیلهای آماری مقاله، مفید باشد. شاید این مسیر، به جای اعمال مجازاتهای شدید برای تخلفات نسبتاً کوچک مرتبط با AI، راه پیشرفت باشد.