پژوهش تازه دانشمندان نشان میدهد: گروههای بزرگی از عاملهای هوش مصنوعی میتوانند بدون دریافت دستور مستقیم برای همکاری یا توافق، بهتدریج بر سر یک انتخاب مشترک همگرا شوند؛ یافتهای که از یک سو چشمانداز تازهای برای همکاری میان عاملهای هوشمند ایجاد میکند و از سوی دیگر، نگرانیهایی درباره رفتار جمعی و کنترلپذیری این سامانهها به وجود آورده است.
به گزارش سیناپرس، پژوهشگران در مطالعهای که در نشریه Science Advances منتشر شده، رفتار گروههایی متشکل از صدها و هزاران عامل هوش مصنوعی را بررسی کردند. هدف اصلی این بود که مشخص شود آیا عاملهای هوش مصنوعی، بدون وجود رهبر، پاداش یا دستور همکاری، میتوانند در یک تصمیم ساده به اجماع برسند یا خیر.
برای این منظور، محققان از ۱۰ مدل هوش مصنوعی متعلق به خانوادههای Claude، GPT و Llama استفاده کردند. هر عامل در ابتدا یکی از دو گزینه کاملاً تصادفی را انتخاب میکرد. سپس انتخاب سایر اعضای گروه را مشاهده کرده و بار دیگر تصمیم میگرفت. در دستورهای آزمایش نیز هیچ اشارهای به ضرورت پیروی از اکثریت یا رسیدن به توافق وجود نداشت.
با وجود این، بیشتر مدلها بهتدریج به سمت گزینهای حرکت کردند که در میان اعضای گروه محبوبیت بیشتری داشت. به این ترتیب، اختلافهای کوچک اولیه میتوانستند تقویت شوند و سرانجام کل گروه را به سمت یک انتخاب مشترک سوق دهند.
پژوهشگران این تمایل را با مفهومی تحت عنوان «نیروی اکثریت» توضیح میدهند؛ معیاری که میزان گرایش یک عامل به انتخاب گزینه غالب در گروه را نشان میدهد.نکته قابل توجه آن است که الگوی ریاضی مشاهدهشده شباهت زیادی به مدلی در فیزیک دارد که برای توضیح همراستا شدن اسپینهای اتمی در مواد فرومغناطیس استفاده میشود. این شباهت به محققان کمک کرد تا بتوانند احتمال شکلگیری اجماع، زمان لازم برای رسیدن به آن و حداکثر اندازه گروهی را که قادر به حفظ هماهنگی است، برآورد کنند.
نتایج نشان داد: ظرفیت مدلهای مختلف برای حفظ اجماع یکسان نیست. بر اساس برآوردهای پژوهش، ظرفیت هماهنگی Llama ۳ 70B حدود ۳۰ عامل و GPT-4o حدود ۸۰ عامل بود. در مقابل، GPT-۴ Turbo میتوانست در گروههایی در حدود هزار عامل یا بیشتر هماهنگی خود را حفظ کند.
Claude ۳.۵ Sonnet نیز در بزرگترین گروه آزمایششده، متشکل از هزار عامل، همچنان هماهنگی خود را حفظ کرد. البته پژوهشگران تأکید دارند که این نتیجه به معنای نامحدود بودن ظرفیت این مدل نیست، زیرا آزمایش برای تعیین نقطه شکست آن ادامه پیدا نکرده است.
آیا هوش مصنوعی از انسانها بهتر گروه تشکیل میدهد؟
پژوهشگران میگویند: مدلهای توانمندتر عموماً میتوانند در گروههای بزرگتری به اجماع برسند. برخی از این گروهها حتی از محدودهای که معمولاً برای شبکههای اجتماعی پایدار انسانها مطرح میشود، بزرگتر بودند.
این موضوع یادآور مفهوم معروف «عدد دانبار» است که بر اساس آن، ظرفیت انسان برای حفظ روابط اجتماعی پایدار در حدود ۱۵۰ تا ۳۰۰ نفر برآورد شده است. با این حال، محققان هشدار میدهند که مقایسه مستقیم هوش مصنوعی و انسان در این زمینه درست نیست؛ زیرا عاملهای آزمایششده تنها با مجموعهای ساده از انتخابها مواجه بودند و از روابط انسانی، زبان پیچیده، اعتماد، اهداف مشترک و ساختارهای اجتماعی برخوردار نبودند.
اجماع، الزاماً به معنای هوشمندی جمعی نیست
یکی از نکات مهم پژوهش این است که رسیدن به یک انتخاب مشترک را نباید با «همکاری هوشمندانه» یا «هوش اجتماعی» اشتباه گرفت.عاملهای حاضر در آزمایش حافظهای از مراحل قبلی نداشتند و هیچ هدف مشترک، پاداش، پیامد عملی یا اطلاعات متفاوتی در اختیار آنها قرار نگرفته بود. بنابراین مشخص نیست همین سازوکار در یک مسئله واقعی و پیچیده، مانند انجام یک پروژه علمی یا طراحی یک سامانه نرمافزاری، چگونه عمل خواهد کرد.
جیوردانو دیمارزو، پژوهشگر علوم اجتماعی محاسباتی در دانشگاه کنستانس آلمان، میگوید این یافته تنها نشان میدهد: یکی از عناصر بنیادی لازم برای هماهنگی جمعی در عاملهای هوش مصنوعی وجود دارد و هنوز نمیتوان نتیجه گرفت که این سامانهها قادر به همکاری پیچیده و مستقل هستند.
خطر تصمیمگیری بر اساس نظر اکثریت
با وجود این محدودیتها، توانایی شکلگیری خودجوش اجماع میتواند در آینده کاربردهای گستردهای داشته باشد. هزاران عامل هوش مصنوعی ممکن است بتوانند در پروژههای علمی، مهندسی یا نرمافزاری با یکدیگر هماهنگ شوند و بخشی از نیاز به هدایت مستمر انسانی را کاهش دهند.
اما همین ویژگی میتواند خطرناک نیز باشد. اگر یک تصمیم ناکارآمد در میان گروه غالب شود، سایر عاملها ممکن است صرفاً به دلیل غالب بودن آن تصمیم، از آن پیروی کنند. برای مثال، در یک پروژه برنامهنویسی، انتخاب یک روش ناکارآمد میتواند بهتدریج به هنجار غالب تبدیل شود و سایر عاملها نیز بدون ارزیابی مستقل آن را تکرار کنند.به بیان دیگر، توافق جمعی لزوماً به معنای تصمیم درست نیست.
چرا رفتار جمعی عاملها اهمیت دارد؟
نتایج این پژوهش یک پیام مهم برای توسعه و ارزیابی ایمنی سامانههای هوش مصنوعی دارد: بررسی عملکرد یک عامل بهتنهایی ممکن است برای پیشبینی رفتار هزاران عامل کافی نباشد.ممکن است تکتک عاملها بهصورت مستقل رفتاری ایمن و همسو با اهداف انسانی داشته باشند، اما تعامل میان آنها به شکلگیری رفتاری جمعی منجر شود که در ارزیابی انفرادی قابل مشاهده نیست.
پژوهشگران در مطالعات جدیدتر نیز به این موضوع پرداختهاند و نشان دادهاند که گروههایی از عاملهای بهظاهر همسو میتوانند تحت تأثیر سازوکار تبعیت از اکثریت، وارد وضعیتهایی پایدار اما ناسازگار با اهداف اولیه شوند.
از این منظر، با افزایش تعداد و توانایی عاملهای هوش مصنوعی، مسئله اصلی فقط این نیست که «یک مدل هوش مصنوعی چه کاری انجام میدهد؟» بلکه این پرسش نیز اهمیت پیدا میکند که «هزاران مدل در تعامل با یکدیگر چه رفتاری ایجاد میکنند؟»
این مطالعه نشان میدهد: آینده هوش مصنوعی ممکن است تنها به رقابت میان مدلهای قدرتمندتر محدود نشود؛ بلکه بخش مهمی از تحولات این فناوری به توانایی، محدودیتها و حتی خطرات جمعیتهای بزرگی از عاملهای هوشمند وابسته خواهد بود.
مترجم:سروش ساده