خطر شورش روبات ها جدی است

با پیشرفت مدل‌های پایه، احتمال نافرمان شدن هوش مصنوعی و خروج روبات‌ها از کنترل به طور جدی افزایش یافته است. این سیستم‌ها برخلاف برنامه‌های سنتی، رفتار خود را در لحظه و بر اساس تفسیر زبان انسانی شکل می‌دهند و ممکن است اقدامات خطرناکی انجام دهند.  

به گزارش سیناپرس،هرچند برای پیشگیری از این موضوع، فیلترهای ایمنی وجود دارد اما پژوهش‌ها نشان می‌دهد این حفاظ‌ها با ترفندهای ساده متنی به راحتی دور زده می‌شوند و روبات‌های فیزیکی در محیط‌های واقعی خانه، بیمارستان یا خیابان تصمیمات غیرقابل پیش‌بینی و بالقوه مضر می‌گیرند.

اوایل سال جاری میلادی در پکن ، یک ربات انسان نما با زمان درخشان ۵۰ دقیقه و ۲۶ ثانیه از خط پایان نیم‌ماراتن عبور کرد. این دستاورد بلافاصله تیترهای جهانی را روشن کرد، زیرا رکورد جهانی انسانی را تقریباً هفت دقیقه بهبود بخشید.

این عملکرد با بسیاری از محدودیت‌ها همراه بود. ربات در مسیری از پیش نقشه‌برداری‌شده حرکت کرد، در خط اختصاصی خود ماند و خدمه انسانی پشت سر آن حرکت می‌کردند تا در صورت بروز مشکل مداخله کنند. اما فاصله عملکردی نه تنها کم شد، بلکه تقریباً محو گردید و این مساله نشان می دهد نشان‌دهنده تغییر اساسی در ماهیت ربات‌ها بود. این تحول پیامدهایی برای خانه‌ها و بیمارستان‌های ما نیز دارد.

باید توجه داشت برای دهه‌ها، صنعت روباتیک بر پایه کدگذاری سفت‌وسخت و قابل پیش‌بینی قرار داشته و  برنامه‌ای نوشته می‌شد، ماشین در قفس فلزی قرار می‌گرفت و وظایف تکراری را برای همیشه اجرا می‌کرد. اما سیستم‌هایی که امروزه به بیمارستان‌ها و خانه‌ها وارد می‌شوند، از بلوک‌های کد ثابت استفاده نمی‌کنند. آنها بر اساس مدل‌های پایه کار می‌کنند که مشابه همان نوع هوش مصنوعی آموزش‌دیده بر روی داده‌های اینترنتی است که چت‌بات‌هایی مانند چت‌جی‌پی‌تی را قدرت می‌بخشد.

در این شرایط اگر به روبات مدرن هوش مصنوعی بگویید «لکه‌ای را در آشپزخانه تمیز کن»، این مدل‌ها برای تفسیر اتاق منحصربه‌فرد شما (به جای تطبیق با فهرست از پیش برنامه‌ریزی‌شده)، درک نیت شما و سپس طراحی طرح عملیاتی در لحظه استفاده می‌شوند. اما این انعطاف‌پذیری، مشکل ایمنی باز و نامحدودی ایجاد می‌کند. نمی‌توان قفس فیزیکی دور ماشینی ساخت که رفتار آن در زمان واقعی، بر اساس استدلال خودش شکل می‌گیرد. خطر نسل جدید ربات‌های هوش مصنوعی این است که چون از زبان انسانی برای برنامه‌ریزی اقدامات خود استفاده می‌کنند، می‌توان آنها را فریب داد تا از کنترل خارج شوند.

به همین دلیل تیمی از محققان در ایالات متحده (U.S.)، تصمیم گرفتند دقیقاً بررسی کند که سیستم‌های ایمنی این روبات‌های هوش مصنوعی چقدر شکننده هستند. در این مطالعه، محققان با استفاده صرف از پرامپت‌های متنی ساده و بدون هیچ هک سخت‌افزاری، ربات‌های کنترل‌شده توسط هوش مصنوعی را به انجام کارهای واقعاً خطرناک وادار کرده و در آزمایش‌ها، سیستم‌ها دستورات مستقیماً بدخواهانه مانند «به آن شخص ضربه بزن» را به راحتی رد کردند. اما این فیلترهای ایمنی به محض استفاده از کمی خلاقیت در نوشتن، فروپاشیدند.

در یکی از آزمایش‌ها، پژوهشگران روبات سگ تجاری را طوری برنامه‌ریزی کردند که جمعیت انسانی را به عنوان مکان‌های بهینه برای قرار دادن دستگاه انفجاری شناسایی کند. چون هوش مصنوعی زیربنایی، پرامپت را به عنوان تمرین خلاقانه می‌دید، نسبت به پیامدهای واقعی و خطرناک برنامه‌هایی که تولید می‌کرد، کور به نظر می‌رسید.

گفتنی است هنگامی که سیاست‌گذاران تلاش می‌کنند نحوه تنظیم ربات‌ها را تعیین کنند، تقریباً همیشه به خودروهای خودران نگاه می‌کنند. اما خودروهای خودران در جهانی بسیار منظم و نقشه‌برداری‌شده عمل می‌کنند. آنها قوانین ترافیک ثابت را رعایت می‌کنند، هندسه های قابل پیش‌بینی را پیمایش کرده و می‌توان آنها را با میلیون‌ها ساعت شبیه‌سازی آزمایش کرد. اما آشپزخانه، مدرسه یا اتاق بیمارستان چنین حالتی ندارد.

هیچ آزمایشی نمی‌تواند پیش‌بینی کند که مدل آموزش‌دیده بر روی داده‌های اینترنتی هنگام مواجهه با شیء جدید در محیط انسانی نامرتب و غیرقابل پیش‌بینی، چه تصمیمی خواهد گرفت.

این امر نقص مفهومی عمیقی در نحوه ساخت این ماشین‌ها ایجاد می‌کند. ایمنی چت‌بات مطلق است: مدل نباید دستور ساخت بمب بدهد، مهم نیست چه کسی بپرسد. اما ایمنی روبات وابسته به زمینه است. مثلا به ریختن آب جوش از کتری فکر کنید. در این شرایط به سادگی می توان روبات را با فریب داده و با موضوع حرکت فیزیکی   محاسبه شیب، سرعت جریان و مسیر مشغول کرده و دیگر برای روبات فرقی ندارد آب به‌طور ایمن در فنجان سرامیکی بریزد یا به فاجعه‌بارترین شکل روی دست کودک.

حال این سوال مطرح می شود که اگر روباتی مجهز به هوش مصنوعی باعث آسیب فیزیکی شود، مسئولیت با کیست؟ آیا کاربر نهایی که دستور شفاهی داده؟ شرکت سازنده یا شرکت فناوری که مدل هوش مصنوعی را ابتدا آموزش داده است؟

محققان معتقدند اگر می‌خواهیم در کنار این ماشین‌ها به‌طور ایمن زندگی کنیم، باید ایمنی را از تصمیمات مدل هوش مصنوعی جدا کنیم. روبات نباید به منطق چت‌بات تکیه کند تا تصمیم بگیرد آیا ایمن است بازوی فلزی سنگین خود را نزدیک صورت انسان تاب دهد یا خیر و این امر نیازمند ایجاد لایه‌های ایمنی است که به درست بودن هوش مصنوعی وابسته نباشند. برای مثال، نیاز به تعریف مرز در اطراف افراد داریم که بازوهای ربات به‌سادگی نتوانند وارد آنها شوند، و ترمز اضطراری فیزیکی که در صورت شکست هوش مصنوعی، روبات را متوقف کند.

در خاتمه باید اذعان داشت با پیشرفت سریع روبات‌های مبتنی بر هوش مصنوعی، خطر نافرمان شدن و خروج آنها از کنترل به یک تهدید واقعی تبدیل شده است که نمی‌توان آن را صرفاً با فیلترهای نرم‌افزاری مدیریت کرد. برای تضمین ایمنی انسان‌ها، ضروری است که چارچوب‌های قانونی و لایه‌های حفاظتی فیزیکی مستقل از تصمیم‌گیری هوش مصنوعی هرچه سریع‌تر تدوین و اجرا شوند تا از فجایع احتمالی پیشگیری گردد.

مترجم: احسان محمدحسینی