نماد سایت خبرگزاری سیناپرس

لایه‌برداری از هوش مصنوعی خلاق در ایران

بهاره صفاری

Human and technology concept. Human resources. Communication network.

آرزو سازگار: جایگاه هوش مصنوعی مولد در ایران چگونه است و فعالان این عرصه نوظهور با چه دست‌اندازهایی مواجه هستند؟ یکی از سرمایه‌های کلیدی برای تقویت زیرساختهای فناورانه و دانشی پایدار، آموزش، حمایت و نگهداشت نیروهای متخصص هوش مصنوعی است. آیا با موانع موجود، امکان حفظ نیروی انسانی متخصص و شرکت‌های دانش‌بنیان فراهم است؟

به گزارش خبرگزاری سینا، همزمان با افتتاح سازمان ملی هوش مصنوعی در ایران، مرکز پژوهش‌های مجلس در یک تحقیق به نسبت جامع به ارزیابی چالش‌های هوش مصنوعی مولد و الزامات توسعه و پیاده‌سازی آن پرداخته و می‌نویسد: این کسب‌وکارها با افزایش آمادگی سازمانی پذیرش هوش مصنوعی ازجمله آموزش و مهارت‌افزایی، هدایت نیروی کار به سمت مشاغل جدید حاصل از هوش مصنوعی به جای تعدیل و راهکارهای نوآورانه کاهش هزینه‌ها می‌توانند مقاومت در برابر پذیرش فناوری را کاهش دهند.

هوش مصنوعی مولد چیست؟

بازوی تحقیقاتی مجلس می‌گوید: هوش مصنوعی مولد نوعی فناوری هوش مصنوعی است که می‌تواند انواع مختلفی از محتوا ازجمله متن، تصویر، صدا و داده‌های مصنوعی تولید کند و هیاهوی اخیر در مورد هوش مصنوعی مولد به‌دلیل سادگی رابط‌های کاربری جدید برای ایجاد متن، گرافیک و ویدئوهای با کیفیت بالا در عرض چند ثانیه و همچنین توانایی خلق محتواهایی است که پیش از این وجود نداشته‌اند و درواقع هوش مصنوعی مولد مبدع و مبتکر آن است. اما با وجود این پیشرفت‌ها و فراگیری استفاده از کاربردهای هوش مصنوعی مولد، واکنش‌های قابل‌توجهی نیز علیه آن وجود داشته است. زیرا علاوه‌بر دغدغه کشورها نسبت به عقب نماندن در توسعه این فناوری، نگرانی‌های جدی نیز در مورد به‌کارگیری و بهره‌مندی از آن در حال پر رنگ شدن است که ازجمله آنها می‌توان به صحت، دقت، امنیت اطلاعات و ملاحظات اخلاقی اشاره کرد.

مقاومت در برای هوش مصنوعی خلاق

واقعیت این است که هوش مصنوعی به ذات خود برخی را نگران‌کرده اما هوش مصنوعی مولد یا خلاق این نگرانی را افزایش داده چرا که ویژگی ایجاد و خلق محتوای جدید بدون دخالت و کنترل انسان و ارائه تصمیمات جدید و پاسخ‌هایی که ممکن است به‌راحتی قابل ارزیابی و صحت سنجی نباشند، به کاربران و در نتیجه تأثیرگذاری بالای این فناوری بر قدرت تفکر، انتخاب، تصمیم‌گیری و عملکردهای انسانی که به‌واسطه توانایی‌های هوش مصنوعی مولد ایجاد شده و به‌شدت رو به گسترش است، سطح نگرانی‌ها را افزایش داده است.

تا جایی که این ابعاد گسترده، پیچیده و جدید از منظر فنی، اقتصادی، اجتماعی و حتی سیاسی‌، سیاست‌گذاران را به‌سمت تنظیم چارچوب‌ها و اصولی که به‌طورکلی براساس سطح مخاطره انواع هوش مصنوعی منجر به توسعه هدفمند و پایدار فناوری‌های این حوزه شود، سوق داده است.

 چالش‌های هوش مصنوعی مولد در ایران

نخستین چالش پیش روی هوش مصنوعی مولد یا خلاق به زیرساخت‌های فنی و پردازش داده‌ها برمی‌گیرد چرا که استفاده از این پدیده نوظهور عصر چهارم انقلاب ارتباطی و فناوری اطلاعات، بستگی به دسترسی به داده زیاد، با کیفیت و متنوع دارد و با چالش‌هایی مانند پرهزینه بودن، زمان‌بر و دشوار بودن، کمیاب یا حساس بودن، در چارچوب قوانین مالکیت یا حریم خصوصی بودن مواجه می شود. از منظر کیفیت و کمیت داده هم فعالان این عرصه با دردسر دسترسی به منابع داده قابل‌اعتماد و معتبر، پیاده‌سازی تکنیک‌های پاک‌سازی و تقویت داده‌ها، ایجاد استانداردهای اخلاقی و قانونی برای حفاظت از داده‌ها) روبرو هستند و تأمین امنیت و حفاظت از داده‌های داخلی به‌کمک توسعه الگوها و کدها هم با چالش‌هایی مانند لزوم پایه‌گذاری یک مدل زبانی بزرگ بر روی مجموعه‌ای از حقایق خارجی و قابل‌تأیید، حفظ حریم خصوصی، امنیت و انطباق داده‌ها و رعایت قوانین و مقررات حفاظت از داده‌ها مواجه خواهد شد. افزون بر اینکه دست‌اندازهایی چون امکان بهینه کردن مقیاس‌پذیری و کارایی و توسعه معیارهایی برای دریافت بازخورد کاربر نسبت به خروجی‌ها، کاهش سوگیری داده‌های آموزشی و قابلیت توضیح و اعتماد نظیر شفافیت و پاسخ‌گو کردن مدل، توسعه روش‌های اجتناب از سوگیری، اصلاح و خودکنترلی مدل، تأمین زیرساخت‌های سخت‌افزاری و نرم‌افزاری محاسباتی و تأمین انرژی مورد نیاز برای محاسبات و چالش رد پای کربن را نمی‌توان نادیده گرفت.

AI speaks letters, text-to-speech or TTS, text-to-voice, speech synthesis applications, generative Artificial Intelligence, and futuristic technology in language and communication.

دست‌اندازهای پیاده‌سازی هوش مصنوعی خلاق

مرکز پژوهش‌های مجلس یادآوری می‌کند که استفاده و پیاده سازی فناوری‌های هوش مصنوعی مولد در کسب و کارها هم با چالش‌های جدی مواجه خواهد بود از جمله پیچیدگی فنی راه‌اندازی و استفاده (با چالش‌هایی مانند عدم ظرفیت تجهیزاتی سازمان‌ها برای راه‌اندازی این مدل‌های بزرگ، گران بودن منابع محاسباتی و پردازشی، عدم تمایل کسب‌وکار به راه‌اندازی و استفاده دائم)، مقاومت سیستم‌های قدیمی در برابر فناوری‌های جدید (با چالش‌هایی مانند ابهام، تضاد یا تعارض سازمان نسبت به نحوه مدیریت و کارکرد سیستم‌های فعلی و وظیفه‌های رایج خود در مقابل روش نوین‌، مقاومت بدنه برای پذیرش، افزایش هزینه سازمان به‌دلیل لزوم آموزش نیروها در به‌کارگیری این فناوری و نیز هدایت بخشی از نیروها جهت راه‌اندازی مرکزی برای اجرا، هماهنگی و نظارت) و ابهام در مدل‌های اقتصادی و امکان ایجاد بدهی فنی (با چالش‌هایی مانند توجیه سرمایه‌گذاری در انواع مدل‌های هوش مصنوعی و کاهش هزینه‌ها در بخش‌های دیگر که جبران‌کننده هزینه‌کرد در این زمینه باشد).

افزون بر اینها تغییر شکل بخشی از نیروی کار کسب‌وکارها  یعنی نگرانی‌های مربوط به از دست دادن شغل و لزوم ایجاد مشاغل جدید متناسب برای همان افراد در شرکت یا سازمان را نباید دستکم گرفت علاوه بر اینکه برخی گرفتار توهم هوش مصنوعی هستند و به بهانه امکان افشای اطلاعات و اسرار درون‌سازمانی، ارائه اطلاعات نادرست به هوش مصنوعی و همچنین راه‌حل‌ها یا مشاوره‌های نادرست هوش مصنوعی مولد را پررنگ می‌کنند. به این فهرست بلند موانع بر سر راه هوش مصنوعی مولد باید به نگرانی شرکت‌ها از عواقب حقوقی سوگیری الگوریتمی هوش مصنوعی مولد یعنی رعایت حقوق مالکیت فکری، احتمال دسترسی و افشا کردن اطلاعات خصوصی یا محرمانه یا حساس و همچنین ارائه تصمیمات نادرست دارای بار حقوقی هم توجه کرد.

چرا که نحوه مدیریت کارکنان و جلوگیری از سوء‌استفاده آنها به ویژه در حوزه‌های حساس آموزش و پژوهش هم می‌تواند چالش برانگیز باشد و حتی  عواقب حقوقی یا اخلاقی ناشی از خودکارسازی تأییدیه‌ها یا بررسی‌های قانونی توسط سامانه هوشمند به‌جای انسان ممکن است اخلاقیات، انطباق، استقلال و یا سایر برنامه‌ها را تحت‌تأثیر قرار دهد.

مخاطرات هوش مصنوعی خلاق

بازوی تحقیقاتی مجلس همچنین فهرستی از مخاطرات دقت و صحت  در ارتباط با هوش مصنوعی مولد را یادآوری می‌کند و نسبت به احتمال گمراه شدن کاربران به‌علت عدم تشخیص صحت و حقیقی بودن اطلاعات و منبع آن، عدم تعمیم پاسخ‌ها با توجه به ویژگی و عدم امکان تأیید اطلاعات، عدم شناخت محدودیت‌های هوش مصنوعی و بیش‌برآورد توانایی‌های آن هستند می‌دهد. افزون بر اینکه مخاطرات سوگیری اجتماعی نظیر رویکردهای جنسیتی، نژادپرستانه یا تبعیض‌های مرتبط با ناتوانی و معلولیت در جوامع آنلاین، نمایندگی یک تفکر یا گروه‌های خاص، واقعیت‌سازی، تقویت سوگیری‌های موجود هم را باید جدی گرفت.

این گزارش می‌افزاید: خطر جدی دیگر، نقض حریم خصوصی داده‌ها و مخاطرات امنیتی  است چرا که نشت داده‌های حساس، سوء‌استفاده از داده‌های شخصی و اجتماعی، دسترسی به داده‌ها و حقوق آن در مسیر به کارگیری هوش مصنوعی مولد امکان پذیر است. علاوه بر اینکه، مخاطرات مالکیت فکری،  سرقت ادبی، تقلب علمی و تشخیص آن ، مخاطرات اخلاقی از طریق گسترش جعل عمیق و حملات سایبری، دست‌کاری افکار عمومی و ایجاد آزار یا بدنامی، ادعاهای حقوقی تقلبی مانند درخواست بیمه خسارت، کلاهبرداری، فیشینگ و هک سیستم‌ها، فرسایش خلاقیت انسان، احتمال افزایش بیکاری، نگرانی‌های زیست‌محیطی هم جدی است.

راه استفاده امن از هوش مصنوعی خلاق

مرکز پژوهش‌های مجلس برای فایق آمدن بر چالش‌های راهکارهای قانونگذاری، نظارتی و سیاستی را در دو لایه زیرساختی و فنی و تنظیم‌گری پیشنهاد داده است و می‌گوید:  لایه فنی تدوین چارچوب‌ها و استانداردهای لازم به‌نحوی‌که چالش‌های مرتبط با کیفیت داده، نتایج سوگیرانه و شفافیت و پاسخ‌گویی مدل‌ها را مرتفع کند. به این ترتیب حمایت از توسعه نوآوری و فناوری و توسعه تکنیک‌های فنی که منجر به کاهش مخاطرات می‌شوند را باید به کار بست؛ ازجمله استفاده از داده‌های مصنوعی، تکنیک‌های کاهش سوگیری با توسعه الگوریتم‌ها، یادگیری انتقالی، هوش مصنوعی ناظر و کنترل‌کننده هوش مصنوعی دیگر، ارتقای زیرساخت‌های پردازشی و ارتباطی برای بهبود مقیاس‌پذیری، اعتماد، سرعت، انعطاف‌پذیری و مقرون‌به‌صرفه بودن و کاهش هزینه‌های محاسباتی با روش‌هایی مانند محاسبات ابری و محاسبات توزیع‌شده و فشرده‌سازی مدل‌ها.

تنظیم‌گری و نظارت بر هوش مصنوعی خلاق

این نهاد تحقیقاتی می‌افزاید: تسهیل دسترسی به داده و سامان‌دهی و شفافیت مدیریت داده و اطلاعات با تکمیل یا ایجاد زیرساخت‌های قانونی مرتبط با داده را در حوزه تنظیم‌گری و نظارت بر هوش مصنوعی خلاق را باید تقویت کرد.که شامل موارد زیر می‌شود:

پیشنهاد دیگر مرکز پژوهش‌های مجلس این است که در لایه تنظیم‌گیری باید نسبت به شناسایی و توسعه اصول، دستورالعمل‌ها، توصیه‌نامه‌ها و مقررات براساس سطح مخاطره انواع هوش مصنوعی برای حاکمیت هوش مصنوعی مسئولیت‌پذیر اقدام کر و در جهت بهبود سرمایه انسانی و ظرفیت نوآوری در کسب‌وکارها از طریق آموزش، هدایت و نگهداشت نیروهای متخصص در کنار تربیت نیروی کار ماهر گام نهاد و جهت افزایش سواد دیجیتالی برای استفاده ایمن از هوش مصنوعی مولد با تأکید بر حفاظت از اقشار حساس مانند کودکان و نوجوانان، افراد کم‌سواد و مسن راهبرد شفاف داشت.

 

 

 

 

Tags: آرزو سازگار, حریم خصوصی, حملات سایبری, سازمان ملی هوش مصنوعی, مالکیت فکری, هوش مصنوعی, هوش مصنوعی خلاق, هوش مصنوعی مولد
خروج از نسخه موبایل