این روزها هوش مصنوعی در همه زمینهها کاربرد داشته و متاسفانه این کاربری تنها در مسیر مثبت نبوده و از این دانش برای انجام اقدامات تبهکارانه از جمله هک کردن، استفاده می شود. امروزه و به لطف هوش مصنوعی سرقت هویت افراد، فلج کردن سیستمهای بانکی و بهداشتی، یا اخاذی از دادههای شرکتها هرگز به این آسانی نبوده است. در این شرایط اگر مدافعان امنیت سایبری آماده نباشند، مهاجمان سایبری از هوش مصنوعی برای ایجاد آشوب استفاده خواهند کرد.
به گزارش سیناپرس، اتحادیه چندملیتی «پنج چشم» (Five Eyes) در ۲۲ ژوئن هشدار داد: زمانبندی تهدید ناشی از هوش مصنوعی در بازه زمانی طولانی مانند سالها نیست، بلکه خیلی سریع بوده و می تواند طی چند ماه اجرایی شود. فناوری هوش مصنوعی موانع را برای مجرمان سایبری کاهش داده و سرعت و پیچیدگی حملات را افزایش میدهد. گروه اطلاعاتی پنج چشم، اتحادی محرمانه از دوران جنگ جهانی دوم است که استرالیا، کانادا، نیوزیلند، بریتانیا و ایالات متحده به واسطه آن آن برای جمعآوری اطلاعات و پاسخ به تهدیدهای امنیتی همکاری میکنند.
بر اساس بررسی های کارشناسی مشخص شد دو مدل جدید، «میتوس ۵» (Mythos 5) شرکت آنتروپیک (Anthropic) و «جیپیتی-۵.۵» (GPT-5.5) شرکت اوپنایآی (OpenAI)، هر کدام توانایی برنامهریزی مستقل و اجرای کامل تصاحب یک شبکه شرکتی شبیهسازیشده را نشان دادهاند.
مایکل الکساندر ریگلر (Michael Alexander Riegler)، متخصص امنیت هوش مصنوعی در آزمایشگاه تحقیقاتی سیمولا (Simula Research Laboratory) در اسلو، نروژ، میگوید این توانایی یعنی یک هکر تنها میتواند کاری را انجام دهد که قبلاً نیازمند تیم بزرگی بود. این مدلها همچنین میتوانند حفرههای امنیتی در سیستمهای عامل، مرورگرها و نرمافزارهای دیگر را در سطح کارشناسی پیدا و بهرهبرداری کنند و مدافعان را در موقعیت دشواری برای رفع آسیبپذیریها قرار دهند.
هشدار اتحادیه پنج چشم بلافاصله پس از آن صادر شد که دولت ایالات متحده شرکت آنتروپیک را از دادن دسترسی به «میتوس ۵» و مدل جدید دیگر به نام «فیبل ۵» (Fable 5) به اتباع خارجی منع کرد.
دلیل این تصمیم نیز نگرانیهای امنیت ملی بود و بنا شد «میتوس ۵» تنها برای مدافعان سایبری در دسترس قرار گیرد تا کارشناسان مورد تائید سازمان امنیت سایبری ایالات متحده آسیبپذیریها را شناسایی و رفع کنند، پیش از آنکه به دست افراد سودجو بیفتد. البته نهایتا نسخهای از همان مدل با حفاظتهای اضافی برای جلوگیری از سوءاستفاده در جرایم سایبری، تنها چند روز برای عموم مردم در دسترس قرار گرفت.
حال این پرسش به طور جدی مطرح می شود که آیا ملات سایبری مبتنی بر هوش مصنوعی واقعاً تهدیدی قریبالوقوع هستند یا بیشتر هیاهوی بازاریابی شرکتهاست؟
ریگلر، متخصص هوش مصنوعی و امنیت سایبری در این رابطه می گوید: در ماههای اخیر درباره میتوس و خطرناک بودن آن زیاد شنیدیم. من موافقم که هوش مصنوعی ریسکهای امنیتی زیادی دارد. با افزایش قابلیت این مدلها، زمان از کشف یک مشکل تا بهرهبرداری از آن بسیار کوتاه میشود، زیرا میتوان کل فرآیند را خودکار کرد. اما این موضوع کاملاً جدید نیست… نه فقط مدلهای جدید، بلکه مدلهای موجود نیز تهدید امنیتی هستند. اگر بدانید چگونه از آنها استفاده کنید، میتوانید کارهای بسیار بدی انجام دهید.
منطقی است اگر تصور کنید. ابزارهایی مانند «کلود کد» (Claude Code) کدنویسی را بسیار کارآمدتر میکنند. شما میتوانید فرآیند های طولانی قدیمی را خودکار کنید و صدها عامل هوش مصنوعی را همزمان برای کاوش حفرههای امنیتی به کار بگیرید. قبلاً برای جرایم سایبری سازمانیافته باید دویست تا سیصد هکر استخدام میکردید. حالا شاید فقط کافی باشد ۳۰۰ جیپییو (تراشههای کامپیوتری تخصصی برای اجرای هوش مصنوعی) بخرید و کارهای مشابه انجام دهید.
وی در ادامه افزود: هوش مصنوعی ریسک بزرگی برای امنیت است… اما ریسک امنیتی فقط مربوط به خود مدل نیست. به همه موارد مرتبط با مدل هم مربوط میشود: چه ابزارهایی در اختیار آن قرار میدهید، آیا به اینترنت دسترسی دارد، آیا میتواند کد خودش را آزمایش کند. بنابراین کل سیستم بسیار مهم است.
در آزمایشهای ما (با ترکیب مدلهای کوچک هوش مصنوعی و ابزارهای مختلف)، سیستمی ساختیم که مثلاً میتوانست وبسایت شما را هک کرده، حفرههای امنیتی آن را پیدا کند، شبکه شما را هدف قرار داده یا حتی هوش مصنوعی دیگری را تحت کنترل گرفته و آن را وادار به انجام کارهای مورد نظر خود کند.
در پاسخ به این سوال که آیا دسترسی مدافعان امنیت سایبری به همین ابزارها، جنبه مثبتی دارد یا خیر، باید توجه داشت که این موضوع بسیار مهم است که چه کسی اول حفره امنیتی موجود در سیستم را پیدا کرده و ابتدا آن را مسدود کرده یا مورد سواستفاده قرار دهد.
در این شرایط کارشناسان می گویند افراد عادی برای حفاظت از خود در برابر حملات پیچیده مبتنی بر هوش مصنوعی باید بیشتر مراقب استفاده از رمزهای عبور متفاوت برای خدمات مختلف بوده و نرمافزارها را همیشه بهروز نگه داشته و توصیه می شود حتما از سیستم از احراز هویت دو مرحلهای استفاده کنید.
ترجمه: فاطمه کردی