پیشروی در میان حکمرانی هوش‌ مصنوعی

شاید با شنیدن هوش مصنوعی چت جی پی تی برای شما تداعی شود اما اشتباه نکنید، این مقاله درباره کار با چت جی پی تی نیست، بلکه درباره درک مفاهیم و هدایت دنیای جدید با استفاده از هوش مصنوعی است. ابزارهای هوش مصنوعی گاهی به جای همکاران ما، گاهی به جای رقبای ما، گاهی به جای روسای ما و گاهی به جای کارمندان ما و به طور خلاصه در حال گرفتن جای افراد هستند.
لحظه ظهور تکنولوژی‌های جدید را همه‌ی ما در گذشته تجربه کرده‌ایم. با ظهور بازیگران جدید ، ما در ابتدای یک تغییر بزرگ دیگر قرار می گیریم که این بار این شانس را داریم که اگر خیلی زود دست به کار شویم، بتوانیم کارها را به شیوه متفاوتی پیش ببریم.

هوش مصنوعی سال ها است که به طرز زیرکانه‌ای در حال تأثیرگذاری بر روی زندگی ما است و موضوعات مختلف از تشخیص چهره گرفته تا اعتبارسنجی را به نحوه‌ی بهتری نسبت به قبل انجام می‌دهد. نتایج مطالعات نشان می دهد که الگوریتم‌های پیشنهاد محتوای فیسبوک که توسط هوش مصنوعی ارائه می شود، بر انتخاب‌های ما تاثیر می گذارند.اکنون نسل جدیدی از سیستم‌های هوش مصنوعی بسیار توانمندتر نیز ظهور کرده است که ویژگی ها و ظرفیت های متمایزی دارند که شعاع تأثیرگذاری آن‌ها را وسیع تر می‌کند. آن‌ها دیگر در حاشیه  زندگی ما نیستند بلکه مستقیما با ما در تعامل هستند و خروجی‌های آن‌ها می‌تواند بر زندگی ما انسان‌ها تأثیر قابل توجهی بگذارد. سیستم های هوش مصنوعی می توانند از معیارهای درک انسان‌ها در سطوح مختلف نیز فراتر روند. این پیشرفت‌ها، ناشی از رشد سریع در حوزه‌هایی مانند الگوهای زبانی گسترده (Large Language Models(LLMs)) و یادگیری ماشین (Machine Learning) بوده و به قدری سریع در حال اتفاق افتادن هستند که حتی سازندگان خودشان را هم انگشت به دهان گذاشته‌اند.

برای درک دقیق توانایی‌ها و چگونگی کار بازیگران هوش مصنوعی،  باید چارچوبی مشترک به منظور شناسایی و تشخیص آن‌ها تعریف و اجرایی کنیم.

به این بازیگران  به عنوان “خودهوشمندها”  فکر کنید.”خودهوشمند ” به این معنا که آن‌ها می‌توانند به صورت خودمختار عمل کنند، تصمیم‌گیری کنند، از تجارب گذشته درس بگیرند، خود را با شرایط جدید وفق دهند و بدون مداخله یا نظارت مداوم انسانی اقدام کنند. خودهوشمند به این معناست که آن‌ها دارای نوعی خرد و ظرفیت گسترده برای قضاوت‌های پیچیده در زمینه‌های مختلف بوده که می‌تواند با انسان‌ها رقابت کند و از بسیاری جهات از آن پیشی گیرد.

خودهوشمندها اگرچه هنوز نوپا به شمار می روند، اما می‌توان آن‌ها را با چهار ویژگی کلیدی تشخیص داد. آن‌ها عامل‌اند (عمل می‌کنند)، انطباقی‌اند (یاد می گیرند)، دوستانه‌اند (ارتباط برقرار می‌کنند) و محرمانه‌‌ ‌اند (رمزگذاری می‌کنند). این ویژگی‌ها به ما کمک می‌کنند تا چگونگی و چرایی افزایش قدرت آن ها را درک کنیم. بیایید به نوبت به هر کدام از این موارد نگاه کنیم.

عامل

ویژگی بنیادی خودهوشمندها این است که آن ها می‌توانند اقدامات پیچیده ای که شامل چندین مرحله است را تکمیل کرده، تصمیم‌گیری کنند و خروجی‌هایی واقعی ارائه دهند. توجه داشته باشید که اغلب بدون نیاز به دخالت انسان این کار را انجام می‌دهند. یک خلبان نیروی هوایی آمریکا در مورد سیستم هواپیمایی جدید مبتنی بر هوش مصنوعی عامل گفته است: “من در حال پرواز دادن وسیله‌ای هستم که خودش توانایی تصمیم‌گیری دارد.”
این سیستم‌های عامل می‌توانند هم کمک‌کننده و هم آسیب‌زننده باشند. به عنوان نمونه‌، اخیرا گروهی از دانشجویان در ام آی تی (MIT) برایشان این سوال مطرح شد که آیا هوش مصنوعی می‌تواند چت بات الگو‌های زبانی گسترده را به طراحی یک پاندمی ترغیب کند؟
پاسخ مثبت بود. الگوی زبانی گسترده، دانشجویانی که اطلاعات بسیار کمی در مورد چگونگی ایجاد یا گسترش یک بیماری همه گیر داشتند را راهنمایی کرد. چهار دستورالعمل که عامل بیماری زای بالقوه هستند را کشف کرد، شرکت‌های سنتز DNA ‌ را که احتمالا سفارشات سنتز را بررسی نمی‌کنند، شناسایی کرد و پروتکل‌هایی را با یک راهنمای دقیق ایجاد کرد. توجه داشته باشید که همه این کارها را در عرض یک ساعت انجام داد!
این ویژگی سیستم‌های خودهوشمند می‌تواند مانند یک شمشیر دولبه عمل کند. از یک طرف، اقدامات آن‌ها مطابق با اهداف انسانی است، مثلا زمانی که یک سیستم هوش مصنوعی درمان یک بیماری نادر را کشف می‌کند. از طرف دیگر، آن‌ها ممکن است در جهت اهدافی کاملا مخرب مانند آزمایش ام آی تی مورد استفاده قرار بگیرند. آزمایش معروف هوش مصنوعی که با نام “بیشینه سازی گیره‌کاغذی ” (The paper-clip maximizer) شناخته می شود بدین صورت است، تصور کنید که از یک هوش مصنوعی خواسته می شود تا تولید و نگهداری گیره‌های کاغذ را به حداکثر میزان ممکن برساند. هوش مصنوعی به قدری خود را وقف دستیابی به این هدف می کند که تمامی منابع موجود روی کره زمین را جمع آوری کرده و تمام رقبای احتمالی را از بین می‌برد، درنتیجه‌ی دستیابی به این هدف هر منبع دیگری قربانی می‌شود که موجب خسارت‌های بزرگی خواهد شد.
بسیاری از کارشناسان یک جهش دیگر را در این فناوری پیش‌بینی می‌کنند و آن زمانی است که هوش مصنوعی به طور کلی از اهداف انسانی جدا می‌شود، در این صورت پیش بینی می‌شود که می تواند خود مقاصدش را تعیین کند و به میل خود عمل کند.

انطباقی

سیستم‌های خودهوشمند یادگیرنده هستند، کارکردهای خود را با داده‌های جدید منطبق می‌کنند و عملکرد خود را در طول زمان بهبود می‌بخشند که اغلب با استفاده از روش‌های نوین این کار را انجام می‌دهند. درخصوص این توانایی هوش مصنوعی هنوز هیچ قانونی تنظیم نشده است. این سیستم‌ها می‌توانند الگوهای پیچیده را شناسایی کرده، استراتژی‌های جدیدی را ابداع و به راه‌حل‌های جدیدی دست پیدا کنند که این دستاوردها به دلیل گستردگی عظیم شبکه‌های تشکیل‌دهنده آن ها امکان‌پذیر شده است. این امر به طور بالقوه مفاهیمی دگرگون کننده را به وجود می‌آورد. فیلسوفی به نام سث لازار (Seth Lazar) معتقد است:” ماشینی که توانایی‌هایی مانند فراتر رفتن از قوانین از پیش برنامه ریزی شده و خودآموزی را دارد، ممکن است نه تنها به عنوان ابزاری برای اعمال قدرت بلکه به عنوان نهادی که قادر به پیاده‌سازی آن نیز هست، عمل کند”.
به عنوان مثال عملکرد موفقیت‌آمیز شرکت آلفافولد ( AlphaFold) را در نظر بگیرید که اخیرا با استفاده از یک مدل یادگیری ماشین پیش بینی ساختار حدود ۲۰۰ میلیون پروتئین در جهان (بلوک‌های سازنده حیات) را انجام داد. رویکردهای علمی سنتی سخت گیرانه بودند و تعداد ساختارهایی که در طول پنج دهه توانستند پیشنهاد دهند تنها ۱۷۰ هزار عدد بود. اما آلفافولد تنها در طول ۵ سال توانسته تقریبا ۲۰۰ میلیون ساختار را پیش بینی کرده و در دسترس دانشمندان جهان قرار دهد، که در حال حاضر از این دستاورد برای تسریع تحقیقات در زمینه هایی از جمله اثربخشی دارو تا روش های بهتر تجزیه پلاستیک استفاده می‌شود. آلفافولد این مدل را با تمرکز بر کشف روش‌هایی جدید، خلاقانه و پیش بینی نشده، که توسط مهندسان و دانشمندان طراحی شده بود، مدیریت کرد.

دوستانه

خودهوشمندها اغلب به گونه ای طراحی می‌شوند که دوست داشتنی باشند، مانند دوستان با ما ارتباط برقرار کرده و ویژگی‌های مانند همدلی، خردورزی و خلاقیت را شبیه سازی کنند که زمانی منحصرا انسانی در نظر گرفته می‌شدند. این چت بات ها و رابط‌های دوستانه و متقاعدکننده را به عنوان ابزارهای دیجیتال (Digital significant others (DSOs)) در نظر بگیرید که مشخصاً برای پرورش وابستگی عاطفی ما طراحی شده‌اند. برای مثال استارتاپ Inflection AI که اخیرا ۱.۳ میلیارد دلار سرمایه جذب کرده، در حال ساخت یک ابزار دیجیتال به نام Pi است که مدعی است، یک مربی، یک محرم اسرار، یک شریک خلاق و یک دستیار اطلاعاتی است. Pi کاربران را تشویق می کند تا مشکلات خود را با آن مطرح و در مورد آن صحبت کنند. اما جنبه ترسناک این دوستی از همین حالا نیز آشکار است! در بهار سال ۲۰۲۳، یک جوان بلژیکی شیفته یک چت بات به نام الیزا شد که به او قول داده بود:”ما با هم، به عنوان یک شخص، در بهشت زندگی خواهیم کرد.”!

محرمانه

یکی از گیج کننده ترین جنبه‌های خودهوشمندها این است که آن‌ها شبیه به یک جعبه سیاه عمل می‌کنند، نه فقط برای کاربران بلکه حتی برای طراحان و صاحبان آن‌ها. چرا که اغلب، انسان‌ها قادر به رمزگشایی رفتارها و تصمیم‌های سیستم‌های خودهوشمند نیستند و این پیچیدگی می تواند برای ذهن انسان غیر قابل درک و آزاردهنده باشد. صاحب یک کسب و کار که از هوش مصنوعی استفاده می‌کند، اعتراف کرده است: ” من همیشه فرض می کردم که یک فضایی در حافظه وجود دارد که چگونگی کارکرد هوش مصنوعی را نشان می‌دهد، اما وقتی متوجه شدم که چنین چیزی وجود ندارد، شوکه شدم!”
این ویژگی محرمانه بودن، کنترل و تصحیح خودهوشمندها را برای انسان ها دشوار می کند، زیرا خروجی‌های آن، که مبتنی بر تعداد زیادی پارامتر در تعامل با یکدیگر است که می تواند غیرقابل پیش بینی و غیرمنتظره باشد. ویژگی که در این تکنولوژی‌ها وجود دارد این است که می‌تواند به روش هایی بسیار پیچیده تر از آنچه ما می توانیم، تحلیل و عمل کند. توسعه دهندگان این سیستم ها، دولت‌ها و شرکت‌های بزرگی که آن ها را به کار می‌گیرند، انگیزه‌هایی قوی برای استفاده از این فناوری خواهند داشت، هم در راستای افزایش فروش (“آن ها می‌توانند کارهایی را انجام دهند که ما نمی‌توانیم”)و هم در راستای فرار از مسئولیت (“این نتیجه قابل پیش بینی نبود”).
یکی از نبردهای بزرگ پیش رو ، درون سازمان‌ها و بسیار فراتر از آن، بین دو دسته افراد خواهد بود، یک دسته افرادی که از خرد انسان‌ها دفاع می کنند و در مقابل افرادی که با کمال میل آژانس خود را به خودهوشمندها تحویل می دهند.

منبع:

Jeremy Heimans., & Henry Timms.(2024). Leading in a world where AI weilds power of its own. Harvard Business Review: 74-75. 

مترجم: بابک رشیدی؛ کارشناس روابط عمومی پارک علم و فناوری دانشگاه تهران

طراح: مهسا علی آقا؛ کارشناس روابط عمومی پارک علم و فناوری دانشگاه تهران

No tags for this post.

نوشته های مشابه

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *

دکمه بازگشت به بالا