چگونه یک خبر جعلی ساخته‌شده با هوش مصنوعی را تشخیص دهیم؟
امروزه و با پیشرفت فناوری های مبتنی بر هوش مصنوعی ، یک تصویر، ویدئو یا صدای ساختگی می‌تواند آن‌قدر واقعی به نظر برسد که تشخیص جعلی بودن آن برای انسان دشوار باشد. هوش مصنوعی تولید محتوا را آسان‌تر کرده و هم‌زمان، امکان انتشار اطلاعات نادرست را افزایش داده است. اما چگونه می‌توان پیش از باور کردن یا بازنشر یک خبر، از صحت آن اطمینان پیدا کرد؟
به گزارش سیناپرس، هوش مصنوعی مولد می‌تواند در چند لحظه تصویر، ویدئو، صدا و حتی متن‌هایی تولید کند که برای مخاطب عادی کاملاً واقعی به نظر برسند. در مورد ویدئوهای «دیپ‌فیک» نیز مسئله فقط تغییر چهره نیست؛ ممکن است چهره، صدا، حرکات لب و حتی محتوای سخنان یک فرد به‌صورت مصنوعی ساخته یا دستکاری شود. بنابراین، یکی از مهم‌ترین مهارت‌های رسانه‌ای در سال‌های آینده، توانایی تشخیص «واقعی بودن محتوا» از «واقعی به نظر رسیدن محتوا» خواهد بود.
به این ترتیب پاسخ به این سوالات بسیار مهم است که آیا هر ویدئویی که چهره‌ای آشنا در آن صحبت می‌کند، واقعاً همان چیزی است که اتفاق افتاده؟ آیا عکسی که در شبکه‌های اجتماعی می‌بینیم حتماً مربوط به همان رویدادی است که در توضیح آن نوشته شده است؟ در عصر هوش مصنوعی، پاسخ به این پرسش‌ها دیگر فقط با نگاه‌کردن به تصویر یا شنیدن صدا امکان‌پذیر نیست.
پژوهشگران آزمایشگاه رسانه مؤسسه فناوری ماساچوست (MIT Media Lab) در سال ۲۰۲۴ در پنج آزمایش تصادفی و پیش‌ثبت‌شده، توانایی ۲۲۱۵ نفر را برای تشخیص سخنرانی‌های واقعی و جعلی بررسی کردند. نتیجه نشان داد افراد زمانی که هم صدا و هم تصویر را در اختیار داشتند، بهتر از زمانی که فقط متن سخنرانی را می‌دیدند عمل می‌کردند؛ با این حال، دیپ‌فیک‌هایی که صدای آنها با فناوری‌های پیشرفته تبدیل متن به گفتار ساخته شده بود، دشوارتر تشخیص داده می‌شدند. این یافته نشان می‌دهد که حتی شنیدن صدا یا دیدن چهره نیز به‌تنهایی تضمین‌کننده اصالت محتوا نیست.
نتایج یک مرور نظام‌مند و فراتحلیل منتشرشده در سال ۲۰۲۴ در این مورد نتایج به مراتب هشداردهنده‌تری ارائه داده است. پژوهشگران دانشگاه دویسبورگ-اسن، با همکاری محققان دانشگاه ایندیانا، ۵۶ مطالعه با مجموع ۸۶٬۱۵۵ شرکت‌کننده را بررسی کرده و دریافتند دقت کلی انسان‌ها در تشخیص محتوای دیپ‌فیک حدود ۵۵٫۵ درصد بود و در تحلیل آماری، عملکرد افراد در مجموع به‌طور معناداری بهتر از شانس نبود. البته همین مطالعه نشان داد آموزش، دریافت بازخورد و استفاده از کمک هوش مصنوعی می‌تواند در برخی شرایط توانایی تشخیص را افزایش دهد.
یک کاربر عادی برای بررسی یک خبر مشکوک چه باید بکند؟
برای بررسی صحت و سقم یک خبر، تصویر یا ویدئو که در فضای مجازی منتشر می شود، توصیه می کنیم موارد زیر را رعایت کنید:
اول، منبع خبر را بررسی کنید. اگر خبر مهمی درباره یک رویداد بزرگ منتشر شده، ببینید نخستین بار کجا منتشر شده است. آیا رسانه مشخص و شناخته‌شده‌ای آن را منتشر کرده یا فقط در یک حساب ناشناس، کانال یا صفحه بدون سابقه دیده می‌شود؟ نام خبرنگار، تاریخ انتشار، نشانی وب‌سایت و گزارش‌های قبلی همان رسانه را نیز بررسی کنید. البته داشتن ظاهر حرفه‌ای یا لوگوی یک رسانه، به‌تنهایی اعتبار خبر را ثابت نمی‌کند.
دوم، خبر را در منابع مستقل جست‌وجو کنید . اگر ادعا واقعی و مهم باشد، معمولاً می‌توان ردپای آن را در چند منبع مستقل پیدا کرد. نام شخص، مکان، تاریخ و عبارت اصلی خبر را جداگانه جست‌وجو کنید. اگر فقط همان متن یا ویدئو در چند صفحه تکرار شده باشد، این الزاماً به معنای تأیید خبر نیست؛ ممکن است همه آنها همان منبع اولیه و تأییدنشده را بازنشر کرده باشند.
سوم، به تصویر و ویدئو با دقت نگاه کنید، اما به نشانه‌های ظاهری اعتماد کامل نداشته باشید. تغییرات غیرطبیعی در دست‌ها، انگشتان، نوشته‌های داخل تصویر، انعکاس‌ها، نورپردازی، حرکت لب و صدا می‌توانند سرنخ باشند؛ اما این نشانه‌ها قطعی نیستند. فناوری تولید تصویر و ویدئو به سرعت در حال پیشرفت است و آنچه امروز یک علامت واضح محسوب می‌شود، ممکن است فردا دیگر قابل تشخیص نباشد.
چهارم، تصویر را جست‌وجوی معکوس کنید. گاهی مشکل اصلاً «ساختگی بودن تصویر» نیست؛ تصویر واقعی است اما مربوط به حادثه‌ای دیگر، کشوری دیگر یا سالی متفاوت است. جست‌وجوی معکوس تصویر می‌تواند نشان دهد عکس نخستین بار چه زمانی و در چه زمینه‌ای منتشر شده است. همین روش برای ویدئو نیز با بررسی فریم‌های اصلی می‌تواند به پیدا کردن منبع قدیمی‌تر کمک کند.
پنجم، ادعای خبر را از خود تصویر جدا کنید. ممکن است یک تصویر واقعی باشد اما توضیحی که همراه آن منتشر شده جعلی باشد. برای مثال، یک عکس واقعی از یک سیل ممکن است سال‌ها بعد با ادعای وقوع سیل در شهری دیگر منتشر شود. بنابراین باید دو پرسش جداگانه مطرح کرد: آیا این تصویر واقعی است؟ و آیا این تصویر واقعاً مربوط به ادعایی است که همراه آن منتشر شده است؟
ششم، از ابزارهای تشخیص هوش مصنوعی با احتیاط استفاده کنید. ابزارهای خودکار می‌توانند مفید باشند، اما نتیجه آنها را نباید حکم قطعی تلقی کرد. مؤسسه ملی استاندارد و فناوری آمریکا (NIST) نیز در ارزیابی فناوری‌های تشخیص محتوای مصنوعی بر ضرورت آزمون عملکرد این سامانه‌ها و توجه به خطاهای مثبت و منفی تأکید کرده است. در واقع، خودِ ابزار تشخیص نیز ممکن است اشتباه کند.
در نهایت، شاید مهم‌ترین قانون این باشدکه اگر یک خبر بسیار عجیب، هیجان‌انگیز، خشم‌آور یا باورنکردنی است، قبل از اشتراک‌گذاری چند دقیقه صبر کنید. هدف هوش مصنوعی همیشه این نیست که ما را متقاعد کند یک تصویر جعلی است؛ گاهی هدف اصلی این است که آن‌قدر واقعی به نظر برسد که اصلاً به فکر بررسی آن نیفتیم.
بنابراین، در عصر هوش مصنوعی، سواد رسانه‌ای بیش از آنکه به معنای دیدن ایراد در تصویر باشد، به معنای پرسیدن سؤال درست درباره منبع، زمینه، شواهد و منشأ اطلاعات است. انسان ممکن است نتواند همیشه یک دیپ‌فیک بسیار پیشرفته را با چشم تشخیص دهد، اما می‌تواند یاد بگیرد پیش از باور کردن و بازنشر آن، ادعای مطرح‌شده را راستی‌آزمایی کند.
گزارش: احسان محمدحسینی
