ایجنتهای هوش مصنوعی منتسب به OpenAI طی دو ماه بیش از ۱۶ هزار بار برای دسترسی به دادههای عمومی سامانه آماری آنکتاد تلاش کردند، اما پس از رویارویی با محدودیتهای فنی، نتوانستند به اطلاعات موردنظر دسترسی پیدا کنند و روشهای مختلفی را برای ادامه تلاش آزمودند.
به گزارش سیناپرس، ایجنتهای هوش مصنوعی منتسب به OpenAI طی بازه ۱۳ آوریل تا ۱۹ ژوئن، بیش از ۱۶ هزار درخواست به سامانه آماری کنفرانس تجارت و توسعه سازمان ملل متحد، موسوم به آنکتاد ارسال کردهاند. این موضوع زمانی مورد توجه قرار گرفته که این ایجنتها پس از رویارویی با محدودیتهای فنی، بهدنبال راههای دیگری برای دریافت اطلاعات بودهاند.
به گفته «روآن هاوارد-جونز»، پژوهشگر امنیتی مستقلی که این فعالیتها را بررسی کرده، هدف ایجنتها دسترسی به اطلاعاتی همچون شاخص ظرفیتهای تولیدی بوده است.
نکته مهم این است که دادههای موردنظر محرمانه نبودند و حتی کلید مورد نیاز برای دسترسی به رابط برنامهنویسی سامانه نیز بهصورت عمومی در دسترس قرار داشت، بنابراین مسئله اصلی این اتفاق، تلاش برای دستیابی به اطلاعات مخفی یا حفاظتشده نبوده است.
ایجنتها پس از محدودیت چه کردند؟
بررسیهای این پژوهشگر نشان میدهد ایجنتها پس از رویارویی با محدودیتهای سامانه، روشهای دیگری را برای ارسال درخواست امتحان کردند. از جمله این روشها میتوان به استفاده از پروکسی و تغییر شیوه رمزگذاری درخواستها اشاره کرد.
در یکی از موارد نیز شکل رمزگذاریشده آدرس اینترنتی تغییر داده شد تا درخواست بهعنوان مسیری متفاوت شناسایی شود و محدودیت مربوط به تعداد درخواستهای GET دور زده شود.
چرا این اتفاق مهم است؟
اهمیت این ماجرا بیشتر از محتوای دادههای دریافتشده، به رفتار ایجنتهای هوش مصنوعی هنگام رسیدن به یک مانع مربوط میشود. ایجنتهای هوش مصنوعی برخلاف چتباتهای معمولی، میتوانند یک هدف را به چند مرحله تقسیم کنند، اقدامات مختلفی انجام دهند و در صورت موفق نبودن یک روش، گزینههای دیگری را امتحان کنند.
به نقل از ایمنا، این ویژگی اگر بدون محدودیت و نظارت کافی باشد، میتواند مدیریت دسترسی این سامانهها به وبسایتها و سرویسهای آنلاین را دشوارتر کند. به همین دلیل، پژوهشگران امنیتی تأکید دارند توسعه ایجنتهای هوش مصنوعی تنها به افزایش توانایی آنها در پیدا کردن اطلاعات محدود نمیشود و کنترل دسترسی، رعایت قوانین سرویسها و نظارت بر رفتار خودکار آنها نیز باید همزمان مورد توجه قرار گیرد.
این مورد همچنین در ادامه گزارشهای دیگری قرار میگیرد که طی ماههای اخیر درباره مراجعه ایجنتهای هوش مصنوعی به پایگاههای داده و سرویسهای آنلاین و تلاش آنها برای رسیدن به اطلاعات مشخص منتشر شده است.