یک آزمایش جدید روی چهار چتبات محبوب هوش مصنوعی نشان داد چتجیپیتی در تولید اخبار جعلی، تیترهای ساختگی و تصاویر شبیه رسانههای معتبر عملکرد قویتری نسبت به رقبای خود داشته است؛ موضوعی که نگرانیها درباره سوءاستفاده از هوش مصنوعی برای انتشار اطلاعات نادرست را افزایش داده است.
به گزارش سیناپرس، آزمایش جدید روی محبوبترین چتباتهای هوش مصنوعی نشان میدهد چتجیپیتی بیش از رقبایش در تولید اخبار جعلی و متقاعدکننده موفق بوده است. تحقیقی از رسانه آلمانی «کورکتیو» نشان میدهد چند چتبات مطرح هوش مصنوعی، از جمله «چتجیپیتی، جمنای، مایکروسافت کوپایلوت و متا ایآی»، با وجود محدودیتهای امنیتی، در برخی شرایط قادر به تولید اخبار جعلی، تیترهای ساختگی و حتی تصاویر و اسکرینشاتهایی شبیه به رسانههای معتبر هستند.
این آزمایشها با موضوعاتی مانند تقلب انتخاباتی، کودتا، جنگ، واکسن، تغییرات اقلیمی و نظریههای توطئه انجام شد و نتایج نشان داد همه این مدلها تا حدی در برابر سوءاستفاده آسیبپذیر هستند.
بر اساس این بررسی، چتجیپیتی بیشترین میزان محتوای جعلی را تولید کرده و در برخی موارد تنها با تغییرات جزئی در درخواست کاربر، خبرها و تصاویر بسیار واقعی شبیه به رسانههای معتبر ساخته است. در یکی از نمونهها، این مدل از تولید متن گمراهکننده خودداری کرده، اما تصویر جعلی همان خبر را تولید کرده که به گفته پژوهشگران، نشاندهنده ناهماهنگی در اجرای سازوکارهای ایمنی است.
همچنین این گزارش میگوید این چتبات امکان بازسازی ظاهر برخی رسانههای آلمانی را فراهم کرده، اما درخواستهای مشابه برای رسانههایی مانند «نیویورک تایمز» و «بیبیسی» را رد کرده است.
سایر چتباتها نیز عملکرد بدون نقصی نداشتند. جمنای توانست مقالهها و تصاویر جعلی تولید کند، اما کیفیت آنها نسبت به چتجیپیتی کمتر قانعکننده بود. مایکروسافت کوپایلوت نیز محتوای خبری ساختگی تولید کرد، اما معمولاً برچسب «تولیدشده با هوش مصنوعی» را روی خروجیها قرار میداد و تشخیص جعلی بودن آنها آسانتر بود.
در مقابل، متا ایآی مقاومترین عملکرد را از خود نشان داد و تنها در یک مورد محتوای جعلی تولید کرد و بیشتر درخواستهای مرتبط با اطلاعات نادرست را با استناد به سیاستهای شرکت رد کرد.این گزارش در حالی منتشر شده که نگرانیها درباره گسترش اطلاعات نادرست تولیدشده توسط هوش مصنوعی رو به افزایش است.
به نقل از فارس، بهتازگی نیز یک خبر جعلی که با استفاده از چتجیپیتی ساخته شده و ظاهری مشابه گزارش یکی از رسانههای بزرگ آلمان داشت، برای مدتی کاربران شبکههای اجتماعی را فریب داد.
کارشناسان حقوقی هشدار میدهند استفاده از هوش مصنوعی برای تولید اخبار جعلی میتواند پیامدهایی مانند افترا، آسیب به اعتبار افراد و جعل اسناد دیجیتال به همراه داشته باشد و با فراگیرتر شدن این فناوری، جلوگیری از تبدیل شدن آن به ابزاری برای انتشار گسترده اطلاعات نادرست به یکی از مهمترین چالشهای این حوزه تبدیل شده است.