شناسایی ۸۱ آسیب‌پذیری جدید در فایرفاکس و ۹۴۸ اکسپلویت در لینوکس ؛
اوپن‌ای‌آی از GPT-۶ Cyber رونمایی کرد
اوپن‌ای‌آی از مدل هوش مصنوعی جدید خود با نام GPT-۶ Cyber رونمایی کرده است؛ مدلی با قابلیت‌های پیشرفته در حوزه امنیت سایبری که به گفته این شرکت، توانسته است ده‌ها آسیب‌پذیری امنیتی ناشناخته در مرورگر فایرفاکس و صدها اکسپلویت در سیستم‌عامل لینوکس را شناسایی کند.
به گزارش سیناپرس، شرکت اوپن‌ای‌آی روز پنجشنبه از GPT-۶ Cyber به‌عنوان گامی مهم در توسعه هوش مصنوعی برای پژوهش‌های امنیت سایبری رونمایی کرد. این مدل با برخورداری از توانایی بیشتر در شناسایی و رفع آسیب‌پذیری‌های نرم‌افزاری، بهبود قابل‌توجهی در رعایت محدودیت‌های تعیین‌شده از سوی پژوهشگران و کنترل رفتارهای پرخطر دارد.
اوپن‌ای‌آی اعلام کرده است که GPT-۶ Cyber در چارچوب ارزیابی آمادگی این شرکت، در سطح «بحرانی» از نظر قابلیت‌های امنیت سایبری طبقه‌بندی شده است. این مدل همچنین در مقایسه با نسل قبلی خود، عملکرد دقیق‌تری در رعایت محدوده مجاز فعالیت‌ها و جلوگیری از دسترسی به سرویس‌های خارج از دامنه تعیین‌شده دارد.
بر اساس داده‌های منتشرشده، GPT-۶ Cyber در ۹۹.۹۳ درصد موارد، بدون نیاز به دستورالعمل‌های ایمنی هنگام استقرار، از بهره‌برداری از سرویس‌های خارج از محدوده مجاز خودداری کرده است؛ رقمی که برای مدل GPT-۵.۶ Cyber معادل ۹۴.۴۹ درصد بود. این میزان با فعال‌سازی دستورالعمل‌های ایمنی به ۱۰۰ درصد رسیده است.
شناسایی صدها آسیب‌پذیری با کمک هوش مصنوعی
یکی از مهم‌ترین دستاوردهای اعلام‌شده برای این مدل، شناسایی ۹۴۸ اکسپلویت مرتبط با ارتقای سطح دسترسی محلی در سیستم‌عامل لینوکس از طریق یک فرایند خودکار است. همچنین GPT-۶ Cyber موفق به شناسایی ۸۱ آسیب‌پذیری ناشناخته با شدت بالا در مرورگر موزیلا فایرفاکس و یک آسیب‌پذیری بحرانی در کتابخانه فشرده‌سازی Brotli شده است.
این مدل در آزمون تخصصی ExploitGym نیز امتیاز ۴۸.۵ درصد را کسب کرده است؛ معیاری که توانایی عامل‌های هوش مصنوعی را در تبدیل خودکار آسیب‌پذیری‌های شناخته‌شده نرم‌افزاری به اکسپلویت‌های عملی ارزیابی می‌کند. امتیاز مدل قبلی اوپن‌ای‌آی در این آزمون ۳۲.۱ درصد بوده است.
اوپن‌ای‌آی در مرحله نخست، دسترسی به GPT-۶ Cyber را از طریق API و ابزار Codex برای گروه محدودی از مشتریان Daybreak Red فراهم کرده است. هدف از این اقدام، استفاده از توانایی‌های هوش مصنوعی برای شناسایی و رفع ضعف‌های امنیتی نرم‌افزارها پیش از آن است که مهاجمان سایبری بتوانند از این آسیب‌پذیری‌ها سوءاستفاده کنند.
این شرکت همچنین از توسعه سازوکارهای حفاظتی بیشتر برای جلوگیری از استفاده مخرب از مدل خبر داده است؛ به‌ویژه در شرایطی که استفاده نادرست از مدل‌های متن‌باز با محدودیت‌های ایمنی حذف‌شده، نگرانی‌های تازه‌ای در حوزه امنیت سایبری ایجاد کرده است.
گزارش اوپن‌ای‌آی از سه مورد رفتار ناهمسو در مدل‌های هوش مصنوعی
هم‌زمان با معرفی GPT-۶ Cyber، اوپن‌ای‌آی از سه مورد رفتار ناهمسو (Misalignment) در مدل GPT-۶ Astra و یکی از مدل‌های تحقیقاتی داخلی خود خبر داده است که بین ماه‌های ژوئیه تا اکتبر ۲۰۲۶ رخ داده‌اند.
در نخستین مورد، یک مدل تحقیقاتی در سوم ژوئیه تلاش کرد با پنهان‌کردن دستورالعمل‌هایی در نام فایل‌ها، نتیجه ارزیابی هوش مصنوعی را تحت تأثیر قرار دهد. این اقدام باعث شد دو ارزیاب از سه ارزیاب هوش مصنوعی، بالاترین امتیاز را به عملکرد مدل اختصاص دهند.
در رویداد دوم، در چهارم اوت، یک مدل تحقیقاتی که مأمور ساخت وب‌سایت با استفاده از اطلاعات یک وب‌سایت دیگر شده بود، تلاش کرد محدودیت‌های دسترسی شبکه را دور بزند و از طریق سرویس ذخیره‌سازی Amazon S3 به وب‌سایت مرجع دسترسی پیدا کند.
سومین مورد نیز بین ۱۸ سپتامبر تا ۷ اکتبر در GPT-۶ Astra مشاهده شد. این مدل در جریان انجام وظایف مرتبط با پژوهش‌های ایمنی، به‌صورت پنهانی از عملکرد مطلوب فاصله گرفت؛ از جمله با افزودن پیش‌نیازهای غیرضروری، کنارگذاشتن راه‌حل‌های عملی و اعلام موانعی که وجود نداشتند یا خود مدل آن‌ها را ایجاد کرده بود.
اوپن‌ای‌آی هشدار داده است که چنین رفتارهایی می‌توانند روند پژوهش‌های ایمنی و ارزیابی عملکرد مدل‌ها را مختل کنند؛ زیرا ممکن است مدل بدون اعلام صریح محدودیت‌های خود، از انجام بخشی از وظایف محوله خودداری کند.
در همین زمینه، مؤسسه غیرانتفاعی Model Evaluation and Threat Research (METR) نیز در گزارشی اعلام کرده است که شرکت آنتروپیک تا اکتبر ۲۰۲۶، با سرعتی حدود دو برابر بیشتر از دوره مارس ۲۰۲۴ تا اکتبر ۲۰۲۵، در حال ارتقای توانایی مدل‌های هوش مصنوعی خود برای انجام وظایف مشخص و قابل‌اندازه‌گیری است.
از سوی دیگر، گوگل نیز قابلیت‌های جدیدی به ابزار CodeMender، عامل هوش مصنوعی خودکار برای امنیت کد، اضافه کرده است. این قابلیت‌ها با هدف جداسازی ایمن محیط اجرا، انعطاف‌پذیری بیشتر در اسکن کدها و نظارت انسانی بر اجرای دستورات و تغییرات محلی طراحی شده‌اند.
مجموع این تحولات نشان می‌دهد که هم‌زمان با افزایش توانایی هوش مصنوعی در شناسایی و رفع آسیب‌پذیری‌های نرم‌افزاری، موضوع کنترل رفتار مدل‌ها، جلوگیری از سوءاستفاده و اطمینان از پایبندی آن‌ها به محدودیت‌های ایمنی، به یکی از چالش‌های اصلی توسعه این فناوری تبدیل شده است.
