گسترش هوش مصنوعی، تشخیص اصالت محتوا را به چالش کشید

گسترش سریع هوش مصنوعی مولد، مدارس، دانشگاه‌ها، ناشران و پلتفرم‌های دیجیتال را با چالش تازه‌ای درباره تشخیص اصالت محتوا مواجه کرده است؛ به‌گونه‌ای که ابزارهای شناسایی متن تولیدشده توسط هوش مصنوعی به تدریج در کنار سامانه‌های مقابله با سرقت ادبی و احراز هویت، به بخشی از فرایند بررسی محتوا تبدیل شده‌اند.

به گزارش سیناپرس به نقل از TechBullion، افزایش استفاده از مدل‌های مولد باعث شده سازمان‌ها تنها به این پرسش اکتفا نکنند که آیا یک متن توسط ماشین تولید شده است یا خیر، بلکه بخواهند مشخص کنند یک اثر کاملاً تولیدشده، با کمک هوش مصنوعی تهیه‌شده یا حاصل کار مستقل انسان است.

در حوزه آموزش، این مسئله اهمیت بیشتری پیدا کرده است. سامانه‌های سنتی مقابله با سرقت ادبی عمدتاً بر مقایسه متن با منابع موجود تمرکز دارند، اما یک مدل هوش مصنوعی می‌تواند متنی جدید تولید کند که مشابه آن پیش‌تر در اینترنت منتشر نشده باشد. در چنین شرایطی، ابزارهای تشخیص هوش مصنوعی تلاش می‌کنند با بررسی الگوهای زبانی و آماری، احتمال تولید ماشینی متن را ارزیابی کنند.

با این حال، استفاده از این ابزارها با محدودیت‌هایی همراه است. بر اساس این گزارش، نتیجه یک سامانه تشخیص هوش مصنوعی نباید به‌عنوان حکم قطعی درباره نویسنده متن در نظر گرفته شود، زیرا این فناوری ماهیتی احتمالی دارد و امکان خطای تشخیص وجود دارد. از همین رو، پیشنهاد می‌شود نتیجه ابزار به عنوان نشانه‌ای برای بررسی بیشتر مورد استفاده قرار گیرد، نه مدرکی قطعی برای متهم کردن فرد به تخلف.

ناشران و پلتفرم‌های انتشار محتوا نیز با چالش مشابهی روبه‌رو هستند. افزایش حجم محتوای تولیدشده توسط هوش مصنوعی می‌تواند روند بررسی مطالب ارسالی را دشوارتر کند و در صورت انتشار محتوای بی‌کیفیت یا تولیدشده بدون شفاف‌سازی، بر اعتماد مخاطبان تأثیر بگذارد.

در محیط‌های سازمانی و صنایع تحت نظارت نیز موضوع اصالت محتوا اهمیت پیدا کرده است. گزارش‌ها، یادداشت‌های تحلیلی و اسناد حرفه‌ای ممکن است با کمک مدل‌های هوش مصنوعی تهیه شوند و در صورت وجود خطا، مسئولیت نهایی همچنان متوجه سازمان یا فرد ارائه‌دهنده محتوا باشد. به همین دلیل، ثبت فرایند بررسی و نگهداری سوابق می‌تواند بخشی از سازوکار نظارت بر استفاده از هوش مصنوعی باشد.

در این میان، کارشناسان توصیه می‌کنند سازمان‌ها هنگام انتخاب ابزارهای تشخیص، تنها به ادعاهای مربوط به میزان دقت توجه نکنند و قابلیت‌هایی مانند نمایش بخش‌های مشکوک متن، ثبت سوابق بررسی، پشتیبانی از زبان‌های مختلف و امکان اتصال به سامانه‌های موجود مقابله با سرقت ادبی را نیز در نظر بگیرند.

از سوی دیگر، همزمان با پیشرفت ابزارهای تشخیص، مدل‌های هوش مصنوعی نیز در حال تغییر هستند و توسعه‌دهندگان آنها تلاش می‌کنند خروجی‌هایی طبیعی‌تر و کمتر قابل تشخیص تولید کنند. همین مسئله باعث می‌شود هیچ سامانه‌ای نتواند به‌تنهایی تضمین‌کننده تشخیص قطعی محتوای تولیدشده توسط هوش مصنوعی باشد.

بر این اساس، مسیر پیش‌رو بیشتر به سمت ترکیب ابزارهای خودکار، سیاست‌های شفاف و نظارت انسانی حرکت می‌کند؛ رویکردی که می‌تواند به مدارس، ناشران و پلتفرم‌های دیجیتال کمک کند ضمن استفاده از ظرفیت‌های هوش مصنوعی، اعتبار و اصالت محتوای خود را نیز حفظ کنند.

مترجم:ندا جوادهراتی