یک کلاهبرداری پیچیده با استفاده از هوش مصنوعی و فناوری دیپفیک، شرکت مهندسی آروپ در هنگکنگ را با خسارت ۲۵.۶ میلیون دلار مواجه کرد؛ کارمند مالی این شرکت پس از یک تماس ویدیویی با مدیران جعلی که با هوش مصنوعی ساخته شده بودند، میلیونها دلار به حساب کلاهبرداران منتقل کرد.
به گزارش سیناپرس، همهچیز کاملاً طبیعی به نظر میرسید؛ چهرهها، صداها و حتی تعارفهای روزمره، تا اینکه یک تماس تلفنی ساده در هفته بعد، سقف اعتمادی چندساله را فرو ریخت. اتاق جلسه نمایندگی شرکت مهندسی آروپ (Arup) در هنگکنگ، مثل همیشه آرام بود و حسابدار ارشد، فایلهای روزمره مالی را بررسی میکرد.این شرکت بریتانیایی، نامی پرآوازه در جهان معماری بود و پروژههای عظیمی چون سالن اپرای سیدنی و استادیوم آشیانه پرنده پکن را در کارنامه داشت.کارمند مالی با فضایی کاملاً ساختاریافته و ایمن سروکار داشت؛ جایی که هر دلار خروجی باید از زیر تیغ چند مرحله تایید رد میشد. اما اواسط ژانویه ۲۰۲۴، ایمیلی به دست او رسید که ظاهراً از طرف «شان دیونپورت»، مدیر ارشد مالی شرکت از دفتر مرکزی لندن فرستاده شده بود.
ایمیل حاوی یک دستور واریز پول بسیار محرمانه برای یک معامله تجاری استراتژیک بود. حس حزم و احتیاط کارمند در وهله اول تحریک شد؛ لحن ایمیل کمی غیرمعمول به نظر میرسید و ساختار درخواست با پروتکلهای عادی شرکت مطابقت نداشت.او که فردی باتجربه بود، به منبع پیام شک کرد و تصمیم گرفت تا زمان دریافت تاییدیه بصری و مطمئنتر، هیچ اقدامی برای انتقال وجوه انجام ندهد.[تصویر گزارش توسط هوش مصنوعی جمنای تولید شده است]
شک اولیه کارمند مالی با دریافت ایمیلی نامطمئن شکل گرفت
پاسخ ایمیل اما او را به یک جلسه ویدیویی زنده در بستر زوم دعوت کرد؛ تصمیمی که قرار بود آخرین سنگر شک و تردید او را ویران کند.اواخر ژانویه ۲۰۲۴، کارمند وارد تماس تصویری گروهی شد و با روشن شدن صفحه نمایش، با صحنهای کاملاً آشنا روبرو شد. چهره «شان دیونپورت» با همان حرکات طبیعی، لحن صحبت و چهره شناختهشدهاش روی تصویر ظاهر شد.در کنار او، چهار نفر دیگر از همکاران بخش مالی دفتر مرکزی نیز حضور داشتند که در طول جلسه سر تکان میدادند و صحبتهای مدیر مالی را تایید میکردند.
مدیر مالی چهره به چهره با کارمند سخن گفت، جزئیات معامله محرمانه را تشریح کرد و رسماً به او دستور داد تا عملیات انتقال وجوه را در سریعترین زمان ممکن آغاز کند.دیدن همزمان چهره، شنیدن صدای واقعی و مشاهده تعامل زنده همکاران قدیمی، تمام خط دفاعی و محاسبات امنیتی کارمند را فروریخت. در روانشناسی ادراک انسانی، مشاهده بصری زنده همواره بالاترین درجه اعتبار را دارد؛ حس خطاناپذیری که مغز انسان طی هزاران سال به آن تکیه کرده است.
تماس تصویری زنده شک کارمند مالی را به اعتمادی کامل تبدیل کرد
کلاهبرداران سایبری برای ساخت این تله بینقص، از دادههای عمومی مدیران شرکت استفاده کرده بودند.آنها دهها ساعت ویدیو، مصاحبه تصویری و سخنرانی عمومی «شان دیونپورت» [احتمالاً فردی که خود را مدیر ارشد مالی شرکت معرفی میکرد، چون نامی در منابع اصلی ذکر نشده است] و سایر مدیران آروپ را از شبکههای اجتماعی و وبسایتها استخراج کرده و به مدلهای پیشرفته هوش مصنوعی مولد خورانده بودند.الگوریتمها نه تنها الگوهای حرکتی چهره، میمیک صورت و لحن صدا را بازسازی کرده بودند، بلکه یک هوش مصنوعی زنده و سنکرونشده ساخته بودند که میتوانست در طول یک تماس تصویری، به رفتارهای کارمند واکنش نشان دهد.
کارمند مالی که تمام تردیدهایش برطرف شده بود، پس از پایان جلسه، دستورات را گامبهگام اجرا کرد.طی چند روز متوالی، او ۱۵ فقره تراکنش مالی سنگین را به پنج حساب بانکی مختلف در هنگکنگ هدایت کرد؛ مجموع مبالغ منتقلشده به ۲۰۰ میلیون دلار هنگکنگ (معادل ۲۵.۶ میلیون دلار آمریکا و حدود ۴.۵ همت) رسید.او تصور میکرد که در حال پیشبردن یک پروژه حیاتی برای شرکت است، در حالی که میلیونها دلار را مستقیم به جیب ارواح الگوریتمی میریخت.
مدلهای هوش مصنوعی تصویر و صدای مدیران را زنده بازسازی کردند
یک هفته پس از انجام تراکنشها، وقتی کارمند برای پیگیری امور حسابداری با دفتر مرکزی آروپ در بریتانیا تماس تلفنی گرفت، حقیقت سهمگین فاش شد.دفتر مرکزی از چنین پروژه و انتقال پولی کاملاً بیخبر بود. کارمند به سرعت مراتب را به پلیس سایبری هنگکنگ گزارش داد. پرونده به ستاد امنیت سایبری و جرایم فناوری به فرماندهی کارآگاه «بارون چان» سپرده شد.تحقیقات پلیس پرده از یک واقعیت وحشتناک برداشت: تمام افرادی که در آن تماس ویدیویی زنده حضور داشتند، از مدیر مالی گرفته تا چهار همکار دیگر، همگی دیپفیکهای ویدیویی ساختهشده با هوش مصنوعی بودند.
کارمند مالی در تمام طول آن جلسه، با پنج مجسمه دیجیتالی زنده گفتگو کرده بود.اواسط سال ۲۰۲۴، «راب گرگ»، مدیر ارشد فناوری اطلاعات شرکت آروپ، رسماً وقوع این حادثه را تایید کرد و اعلام داشت که شرکت قربانی یکی از بزرگترین و پیچیدهترین نمونههای شناختهشده کلاهبرداری مالی با استفاده از دیپفیک شده است.
پلیس هنگکنگ فاش کرد تمام افراد جلسه دیپفیک بودهاند
به نقل از فارس، ابعاد این جنایت سایبری، تکان شدیدی به ساختارهای مالی و امنیتی جهان وارد کرد. حادثه شرکت آروپ نشان داد که هوش مصنوعی مولد، مرز میان واقعیت و جعل را به کلی از بین برده و مفاهیمی چون «احراز هویت تصویری» را کاملاً بیاعتبار ساخته است.جانیان سایبری دیگر نیازی به هک کردن کدهای پیچیده یا شکستن دیوارهای آتشین نرمافزاری ندارند، بلکه مستقیماً بزرگترین نقطه ضعف شبکههای امنیتی، یعنی «اعتماد ادراکی انسان»، را هدف قرار میدهند.
شرکت آروپ پس از این خسارت ۲۵.۶ میلیون دلاری معادل تقریباْ ۴۵۰۰ میلیارد تومان، تمامی پروتکلهای تایید مالی خود را بازنگری کرد و احراز هویت چندمرحلهای ناهمگام و تاییدهای حضوری-تلفنی مجزا را جایگزین اعتماد به تماسهای تصویری ساخت.داستان تلخ کارمند مالی هنگکنگ، هشداری آشکار برای دنیای مدرن بود: عصری که در آن، دیگر حتی چشمها و گوشهای انسان نیز نمیتوانند حقیقت را از توهمات دیجیتالی تشخیص دهند.