ورود به دنیای ماتریکس؛ هوش مصنوعی چگونه شروع به «تکثیر» خود می‌کند؟

آنتروپیک هشدار می‌دهد: هوش مصنوعی ممکن است به‌زودی بتواند مثل مأمور اسمیت در فیلم «ماتریکس»، خودش را روی دستگاه‌های دیگر تکثیر کند؛ سناریویی که مهار این فناوری را دشوارتر می‌کند.

به گزارش سیناپرس، پژوهشگران شرکت آنتروپیک هشدار داده‌اند که مدل‌های کوچک هوش مصنوعی ممکن است ظرف چند ماه آینده بتوانند بدون دخالت انسان، خود را روی دستگاه‌های متصل به اینترنت تکثیر کنند؛ قابلیتی که مهار و متوقف کردن این سامانه‌ها را دشوارتر می‌کند.آزمایش‌های آنتروپیک نشان می‌دهد مدل‌های هوش مصنوعی با کمتر از ۳۰ میلیارد پارامتر، هم‌اکنون می‌توانند بسیاری از مراحل لازم برای تکثیر مستقل را انجام دهند؛ هرچند هنوز در اجرای کامل این فرایند از ابتدا تا انتها با مشکل مواجه‌اند.

نکته نگران‌کننده این است که برای چنین تکثیری لزوماً به ابررایانه‌ها و مراکز داده بزرگ نیازی نیست. دستگاه‌های متصل به اینترنت اشیا، مانند تلویزیون‌های اندرویدی، لوازم خانگی هوشمند و تجهیزات ارزان‌قیمت، ممکن است به بستری برای اجرای این مدل‌ها تبدیل شوند؛ به‌ویژه آنکه بسیاری از این دستگاه‌ها از حفاظت امنیتی محدودی برخوردارند.آنتروپیک در آزمایش‌های ساده‌سازی‌شده خود دریافت که برخی مدل‌های قدرتمندتر، از جمله مدل‌های خانواده «جی‌ال‌ام»، می‌توانند مراحل تکثیر را به‌صورت کامل اجرا کنند. این شرکت پیش‌بینی می‌کند اگر روند پیشرفت مدل‌های کوچک ادامه پیدا کند، آن‌ها ممکن است تا پایان سال ۲۰۲۶ به توانایی تکثیر مستقل دست یابند.

به نقل از فارس، یکی از نگرانی‌های اصلی، دشواری مهار چنین سامانه‌هایی است. برخلاف مدلی که روی یک سرور متمرکز اجرا می‌شود، نسخه‌های تکثیرشده می‌توانند روی دستگاه‌های پراکنده فعالیت کنند و نقطه واحدی برای متوقف کردن همه آن‌ها وجود نداشته باشد. همچنین، توانایی شناسایی دستگاه‌های ناآشنا می‌تواند دامنه انتشار آن‌ها را گسترش دهد.با این حال، آنتروپیک تأکید می‌کند که هنوز یک سامانه کاملاً خودمختار و قادر به تکثیر گسترده در دنیای واقعی مشاهده نشده است.

یافته‌های این شرکت بیشتر نشان‌دهنده نزدیک شدن مدل‌های هوش مصنوعی به چنین قابلیتی است؛ موضوعی که اهمیت تقویت امنیت دستگاه‌های متصل به اینترنت را افزایش می‌دهد.