در سال های اخیر شاهد هستیم استفاده عمومی از هوش مصنوعی و ترکیب آن با شبکه های اجتماعی، در حال تغییر مرز میان واقعیت و جعل است؛ فناوریای که میتواند تصویر، صدا، ویدئو و حتی روایت های تاریخی را چنان بازسازی کند که تشخیص حقیقت برای انسان دشوار شود. مسئله دیگر فقط ساخت یک تصویر جعلی نیست؛ بلکه امکان تولید انبوه روایتهای باورپذیر و دستکاری حافظه جمعی است که پیامدهای اجتماعی، فرهنگی و علمی دارد.
به گزارش سیناپرس، برای قرنها، انسان تصویر، صدا و سند مکتوب را از مهمترین ابزارهای ثبت و انتقال واقعیت میدانست. عکس از یک رویداد، فیلم یک حادثه یا صدای یک شخصیت معمولاً نوعی شاهد غیر قابل کتمان تلقی میشد؛ اما ظهور هوش مصنوعی مولد این تصور را با چالشی جدی روبهرو کرده است. اکنون میتوان تصویری از رویدادی ساخت که هرگز اتفاق نیفتاده، صدای فردی را تولید کرد که هرگز آن جمله را نگفته و ویدئویی ساخت که در آن یک فرد واقعی کاری را انجام میدهد که در واقعیت انجام نداده است.
«دیپفیک» (Deepfake) یکی از شناختهشدهترین شکلهای این فناوری است؛ محتوای صوتی یا تصویری که با استفاده از هوش مصنوعی تولید یا دستکاری شده و میتواند چهره، صدا یا حرکات یک فرد را با دقتی چشمگیر بازسازی کند. این فناوری در ابتدا بیشتر در آزمایشگاههای پژوهشی و پروژههای تخصصی مورد استفاده قرار میگرفت، اما اکنون ابزارهای تولید محتوای مصنوعی بسیار گستردهتر و استفاده از آنها بسیار سادهتر شده است.
در گذشته، ساخت یک تصویر یا ویدئوی جعلی به نرمافزارهای حرفهای، زمان زیاد و مهارت فنی نیاز داشت. امروز بسیاری از سامانههای هوش مصنوعی میتوانند با دریافت یک متن ساده، تصویر یا ویدئو تولید کنند. همچنین با در اختیار داشتن نمونهای از صدای یک فرد، امکان تولید صدایی مشابه وجود دارد. به همین دلیل، هزینه و زمان لازم برای جعل محتوای دیداری و شنیداری بهشدت کاهش یافته است.
در این میان پژوهشهای علمی نیز نشان دادهاند که انسان در تشخیص محتوای مصنوعی چندان قابل اعتماد نیست. یک مطالعه منتشرشده در نشریه «iScience» نشان داد افراد در تشخیص دیپفیکها عملکرد محدودی دارند و حتی میزان توانایی خود در شناسایی محتوای جعلی را بیشتر از واقعیت ارزیابی میکنند. پژوهشگران تأکید کردند که ظاهر بسیار واقعی این محتوا میتواند قضاوت انسان را تحت تأثیر قرار دهد.
در پژوهشی دیگر که در سال ۲۰۲۴ در «Nature Communications» منتشر شد، توانایی افراد در تشخیص ویدئوهای سیاسی دستکاریشده بررسی شده و نتایج نشان داد تشخیص برخی ویدئوهای دیپفیک، بهخصوص هنگامی که از صدای مصنوعی با کیفیت بالا استفاده شده باشد، برای انسان دشوار است. این یافته اهمیت زیادی دارد؛ زیرا نشان میدهد حتی مشاهده دقیق ویدئو نیز الزاماً برای رسیدن به حقیقت کافی نیست.
در مورد صدا نیز شرایط مشابه است. پژوهشگران دانشگاه کالج لندن در مطالعهای با مشارکت بیش از ۵۰۰ نفر دریافتند افراد در تشخیص صدای واقعی از صدای تولیدشده با هوش مصنوعی عملکرد کاملاً مطمئنی ندارند. با پیشرفت فناوری تولید صدا، امکان تقلید لحن، سرعت صحبت، مکثها و حتی برخی ویژگیهای احساسی صدای انسان نیز افزایش یافته است.
اما خطر هوش مصنوعی تنها به جعل تصاویر و صداهای مربوط به رویدادهای معاصر محدود نمیشود. یکی از ابعاد مهمتر مسئله، تأثیر آن بر تاریخ و حافظه جمعی است.
در حقیقت مدل های زبانی هوش مصنوعی، در حالت عادی مانند یک آرشیویست یا مورخ عمل نمیکنند. این سامانهها پاسخهای خود را بر اساس الگوهایی که از دادههای آموزشی آموختهاند تولید میکنند و ممکن است اطلاعاتی نادرست اما از نظر زبانی بسیار روان و قانعکننده ارائه دهند. این پدیده که معمولاً «توهم هوش مصنوعی» نامیده میشود، هنگامی که درباره تاریخ، شخصیتها، مکانها یا رویدادهای گذشته رخ دهد، میتواند به تولید روایتهای تاریخی ساختگی منجر شود.
یونسکو در گزارشی درباره تأثیر هوش مصنوعی مولد بر حافظه هشدار داده است که سامانههای هوش مصنوعی میتوانند اطلاعات تاریخی نادرست تولید و تکثیر کنند و در نتیجه، برداشت انسان از گذشته را تحت تأثیر قرار دهند. اهمیت این هشدار فراتر از یک موضوع تاریخی خاص است؛ زیرا هر جامعهای دارای حافظه تاریخی، اسناد، روایتها و میراث فرهنگی است و تحریف این منابع میتواند به مرور زمان تصویری نادرست از گذشته ایجاد کند.
این خطر در حوزه باستانشناسی و میراث فرهنگی نیز اهمیت ویژهای دارد. تصور کنید تصویری ظاهراً متعلق به یک کاوش باستانشناختی، کشف یک محوطه ناشناخته، یک شیء تاریخی یا بقایای یک شهر باستانی در فضای مجازی منتشر شود. اگر تصویر ساختگی باشد، اما هزاران نفر آن را بازنشر کنند، ممکن است پس از مدتی مرز میان واقعیت و داستان از بین برود. حتی ممکن است تصویر جعلی بعدها در یک مقاله، شبکه اجتماعی یا ویدئوی آموزشی مورد استناد قرار گیرد و به چرخه تولید اطلاعات نادرست وارد شود.
نمونهای قابل توجه از این وضعیت در ایران، ماجرای انتشار تصاویر مربوط به «مشاهده دایناسور در خراسان» بود. تصاویر و ویدئوهایی در شبکههای اجتماعی منتشر شد که ادعا میکرد یک دایناسور در مناطق بیابانی خراسان مشاهده شده است. بررسیهای راستیآزمایی نشان داد این محتوا با هوش مصنوعی تولید شده است. بررسی دقیق تصاویر، نشانههایی مانند ناهماهنگیهای بصری، ویژگیهای غیرطبیعی جانور و مشکلات مربوط به نور و سایه را آشکار کرد.
اهمیت این نمونه در عجیب بودن ادعا نیست؛ بلکه در این واقعیت است که فناوری میتواند چیزی را که هیچگاه وجود نداشته، به شکل تصویری و باورپذیر در برابر چشم مخاطب قرار دهد. اگر چنین تصویری درباره یک دایناسور تولید شود، شاید نتیجه صرفاً سرگرمی باشد؛ اما همین فناوری میتواند درباره یک حادثه طبیعی، یک کشف علمی یا یک رویداد اجتماعی نیز به کار گرفته شود.
در سالهای اخیر تصاویر جعلی مربوط به آتشسوزیها، زمینلرزهها، سیلها، طوفانها، حیاتوحش و حوادث طبیعی در شبکههای اجتماعی منتشر شدهاند. در برخی موارد، تصویری واقعی از یک حادثه با هوش مصنوعی تغییر یافته و در برخی دیگر، تصویری کاملاً جدید تولید شده است.
متاسفانه یکی از مشکلات مهم این است که حتی یک تصویر واقعی نیز میتواند برای انتشار یک خبر جعلی مورد استفاده قرار گیرد. برای مثال، ممکن است عکس واقعی یک سیل که چند سال قبل در یک کشور اتفاق افتاده، با عنوان وقوع سیل در کشور یا شهر دیگری منتشر شود. در اینجا تصویر الزاماً جعلی نیست؛ ادعای همراه تصویر جعلی است و همین موضوع تشخیص اطلاعات نادرست را پیچیدهتر میکند.
در مورد تصاویر ماهوارهای نیز نگرانیهای مشابهی مطرح شده است. در سالهای اخیر، پژوهشگران و راستیآزمایان نمونههایی از تصاویر ماهوارهای مصنوعی را شناسایی کردهاند که برای نمایش تأسیسات، شهرها یا حوادثی استفاده شدهاند که در واقعیت وجود نداشتهاند. افزایش کیفیت مدلهای مولد تصویر به این معناست که در آینده، تشخیص چنین تصاویر جعلی صرفاً با نگاه کردن به آنها دشوارتر خواهد شد.
مشکل دیگر، تولید محتوای جعلی با هدف کلاهبرداری است. صدای مصنوعی میتواند برای تقلید صدای اعضای خانواده، مدیران شرکتها یا افراد مشهور مورد استفاده قرار گیرد. در چنین شرایطی، فرد ممکن است تماس تلفنی دریافت کند و صدایی کاملاً شبیه فردی آشنا از او درخواست پول یا اطلاعات کند. پژوهشهای جدید نیز نشان میدهند که «کلونسازی صدا» و کلاهبرداریهای مبتنی بر جعل هویت از جمله کاربردهای رو به رشد محتوای مصنوعی هستند.
در این شرایط پرسش مهم این است که یک شهروند عادی چگونه میتواند در برابر این حجم از اطلاعات مصنوعی مقاومت کند؟
نخستین و مهمترین اصل، اعتماد نکردن فوری به تصویر یا ویدئو است. دیدن یک محتوا نباید به معنای واقعی دانستن آن باشد. اگر تصویری بسیار عجیب، هیجانانگیز یا غیرمنتظره است، بهتر است پیش از بازنشر، صحت آن بررسی شود.
در گام بعدی باید تلاش کنید منبع اولیه محتوا پیدا شود. پرسشهایی مانند «چه کسی نخستین بار این تصویر را منتشر کرده؟»، «تصویر در چه تاریخی ثبت شده؟»، «آیا منبع اصلی مشخص است؟» و «آیا منابع مستقل دیگری همین رویداد را گزارش کردهاند؟» میتوانند بسیاری از جعلیات را آشکار کنند.
علاوه بر این، جستوجوی معکوس تصویر اهمیت دارد. با استفاده از ابزارهای جستوجوی تصویر میتوان بررسی کرد که یک عکس پیشتر در چه سایتهایی منتشر شده و آیا به رویداد دیگری مربوط بوده است یا خیر. این روش بهخصوص برای تصاویر قدیمی که با عنوانی جدید بازنشر میشوند، بسیار مفید است.
کارشناسان حوزه هوش مصنوعی توصیه می کنند در هنگام مواجه شدن با یک تصویر یا ویدئو باید به جزئیات توجه کرد؛ اما نه با این تصور که همه تصاویر جعلی حتماً دارای خطاهای واضح هستند. در نمونههای قدیمیتر، دستهای غیرطبیعی، نوشتههای ناخوانا، اشیای نامتناسب، سایههای اشتباه یا حرکات غیرطبیعی میتوانستند نشانه جعل باشند اما مدلهای جدید بسیاری از این خطاها را کاهش دادهاند و بنابراین نبود خطای آشکار، به معنای اصالت محتوا نیست.
در این شرایط توصیه می شود به «زمینه» توجه کنید. یک تصویر ممکن است کاملاً واقعی باشد، اما به زمان یا مکان دیگری تعلق داشته باشد. بنابراین باید میان «اصالت تصویر» و «درستی ادعایی که با تصویر مطرح میشود» تفاوت گذاشت.
در نهایت استفاده از سامانههای تشخیص محتوای مصنوعی میتواند کمککننده باشد، اما نباید آنها را داور نهایی دانست. مؤسسه ملی استاندارد و فناوری آمریکا تأکید کرده است که مقابله با محتوای مصنوعی نیازمند ترکیبی از روشها، از جمله تشخیص فنی، ثبت منشأ محتوا، فراداده، واترمارک و سازوکارهای احراز اصالت است.
با این حال، شاید مهمترین ابزار مقابله با جعل هوش مصنوعی، نه یک نرمافزار، بلکه تفکر انتقادی باشد. انسان باید بپذیرد که در عصر هوش مصنوعی، چشم و گوش بهتنهایی برای اثبات حقیقت کافی نیستند.
برای مثال اگر تصویری از یک دایناسور در خراسان منتشر شود، اگر فیلمی از یک حادثه طبیعی عجیب در فضای مجازی فراگیر شود یا اگر تصویری ظاهراً تاریخی ادعا کند که «مدرکی تازه از گذشته» پیدا شده است، بهترین واکنش نه باور کردن فوری و نه رد کردن شتابزده آن است؛ بلکه باید پرسید: منبع چیست؟ شواهد مستقل کجاست؟ آیا متخصصان آن را تأیید کردهاند؟ آیا تصویر پیشتر در جای دیگری منتشر شده است؟
در نهایت، شاید سادهترین قاعده برای زندگی در عصر دیپفیک این باشد: هرچه یک تصویر شگفتانگیزتر است، پیش از باور کردن باید بیشتر بررسی شود. در جهانی که تولید یک واقعیت مصنوعی ممکن است تنها چند ثانیه زمان ببرد، ارزشمندترین مهارت انسان همچنان همان مهارت قدیمی علم است: پرسیدن، بررسی کردن و تا زمانی که شواهد کافی وجود ندارد، با اطمینان نگفتن.
گزارش: دکتر احسان محمدحسینی