در چین غول‌های فناوری علی بابا و تنسنت (Tencent)، میلیون‌ها دوربین مجهز به فناوری تشخیص چهره را برای جمع‌آوری مداوم اطلاعات مربوط به شهروندان را نصب کرده‌اند. در میانمار نیز پست‌های فیسبوک، مشکلات زیادی برای مسلمانان روهینگیا ایجاد کرده است.
سازمان ملل متحد با مجموعه گسترده‌ای از چالش‌های مرتبط با فناوری‌های مبتنی بر هوش مصنوعی مواجه است که در ادامه برخی از این چالش‌ها را بررسی می‌کنیم.
هوش مصنوعی و تضعیف حقیقت
هوش مصنوعی به طور ذاتی یک فناوری دوگانه است که پیامدهای قدرتمندی (مثبت و منفی) در پی دارد. به عنوان مثال، برنامه هوش مصنوعی Deepfake می‌تواند صداها، تصاویر و ویدئوها را دستکاری کرده و باعث ایجاد هویت‌های جعلی شود. الگوریتم‌های عمیق یادگیری می‌توانند با دقت زیاد لب‌خوانی و حالت‌های چهره را شبیه‌سازی کنند.
تضعیف حقیقت، گسترش اخبار جعلی، از بین رفتن حس اعتماد میان شهروندان و دولت، می‌تواند پیامدهای بلندمدتی بر نقش سازمان ملل در برقراری صلح و امنیت جهانی داشته باشد.
هوش مصنوعی و نظارت دقیق
هوش مصنوعی (AI) با طیفی از فناوری‌ها از جمله فناوری زیستی در ارتباط است که پیامدهای قابل توجهی برای امنیت جهانی دارد. سیستم‌های هوش مصنوعی برای پیش‌بینی جنبه‌های مختلف زندگی روزمره از جمله الگوهای ترافیک، بازارهای مالی، داده‌های رفتار مصرف‌کننده، اطلاعات بهداشتی آموزش دیده‌اند.
فناوری‌های هوش مصنوعی به طور فزاینده‌ای قادر به کنترل داده‌های رفتاری و بیولوژیکی در شیوه‌هایی نوآورانه هستند که پیامدهای مختلفی برای انسان دارد. به عنوان مثال، عروسک هوشمند کایلا (My Friend Cayla) اطلاعات صوتی و مکالمه کودک با عروسک را ضبط و از طریق اینترنت ارسال می‌کند. این مسأله منجر به شکایت کمیسیون تجارت فدرال آمریکا و ممنوع شدن فروش این عروسک در آلمان شد.
توانایی هوش مصنوعی برای نفوذ و کنترل بالقوه رفتار انسان، پیامدهای مستقیمی بر فعالیت‌های سازمان ملل در حوزه تأمین امنیت جهانی دارد.
میدان نبرد هوش مصنوعی
توانایی فناوری‌های هوش مصنوعی برای تأثیرگذاری بر جمعیت‌های بزرگ، نقش مهمی در نبردهای آینده ایفا می‌کنند. ملت‌های قدرتمند و پلت‌فرم‌های فناوری بزرگ، نیروی محرکی برای برتری اقتصادی، پزشکی و امنیتی در جهان محسوب می شوند.
شکل‌های مختلف استعمار سایبری (cyber-colonization) به طور فزاینده‌ای درحال افزایش است و می‌تواند برای کنترل سایر کشورها، جمعیت‌ها و اکوسیستم‌ها مورد استفاده قرار بگیرد.
به سمت مدیریت جهانی هوش مصنوعی
سازمان ملل چندین دهه قبل از ظهور فناوری‌های هوش مصنوعی شکل گرفته است و از لحاظ سیاسی، قانونی و اخلاقی، جوامع برای استقرار هوش مصنوعی آماده نیستند.
اما برخی راه‌های نوآورانه وجود دارند که به سازمان ملل کمک می‌کند تا نوعی شبکه‌های شفاف و مشارکتی برای جبران حس کمبود اعتماد (میان شهروندان و دولت‌ها) ایجاد کند. نبود این شبکه شفاف و مشارکتی می‌تواند ثبات جهانی را تضعیف کند.
مترجم: معصومه سوهانی
منبع: weforum
No tags for this post.