چرا سازندگان نگران سرعت هوش مصنوعی هستند؟

توانایی روزافزون مدل‌های هوش مصنوعی در انجام وظایف پیچیده و دسترسی به سامانه‌های واقعی، نگرانی‌های تازه‌ای درباره سوءاستفاده و کنترل آنها ایجاد کرده است. مدیرعامل شرکت آنتروپیک با هشدار درباره شتاب توسعه مدل‌های هوش مصنوعی، خواستار کاهش سرعت این رقابت و تقویت سازوکار‌های نظارت و ایمنی شد.

به گزارش سیناپرس، هوش مصنوعی در چند سال گذشته با سرعتی پیش رفته که بسیاری از مرز‌های قبلی فناوری را جابه‌جا کرده است؛ اما حالا بخشی از مدیران همین شرکت‌ها درباره سرعت این رقابت هشدار می‌دهند. داریو آمودی، مدیرعامل شرکت آنتروپیک ، در یادداشتی تازه از شرکت‌های فعال در توسعه مدل‌های پیشرفته خواسته است سرعت پیشرفت قابلیت‌های هوش مصنوعی را کاهش دهند تا فرصت بیشتری برای ارزیابی و کنترل پیامد‌های آن وجود داشته باشد.

این درخواست در شرایطی مطرح شده که بحث درباره توانایی مدل‌های جدید دیگر محدود به پاسخ‌گویی بهتر به کاربران یا تولید محتوای دقیق‌تر نیست. مدل‌های پیشرفته به‌تدریج توانایی انجام مجموعه‌ای از وظایف پیچیده و چندمرحله‌ای را پیدا کرده‌اند و همین موضوع نگرانی‌هایی درباره میزان استقلال آنها و امکان استفاده نادرست از این قابلیت‌ها ایجاد کرده است.

آمودی در پیشنهاد خود، یک مسئله مهم را برجسته کرده است: ممکن است سرعت توسعه مدل‌ها از سرعتی که شرکت‌ها، دولت‌ها و نهاد‌های نظارتی برای شناخت و مدیریت خطرات آنها نیاز دارند، بیشتر شود. از نگاه او، فاصله میان «توانایی یک مدل» و «توانایی انسان برای کنترل پیامد‌های آن» می‌تواند به یکی از مهم‌ترین چالش‌های آینده فناوری تبدیل شود.

پیشنهاد یک ترمز برای رقابت هوش مصنوعی

مدیرعامل آنتروپیک برای این مسئله صرفاً هشدار نداده و مجموعه‌ای از اقدامات را پیشنهاد کرده است. یکی از مهم‌ترین پیشنهادها، حضور ارزیاب‌های مستقل در شرکت‌های توسعه‌دهنده مدل‌های پیشرفته است تا بررسی ایمنی این فناوری صرفاً به تیم‌های داخلی شرکت‌ها وابسته نباشد. پیشنهاد دیگر، هماهنگی بیشتر میان شرکت‌های فعال در حوزه هوش مصنوعی برای ایجاد استاندارد‌های مشترک ایمنی است. آمودی همچنین بر همکاری بین‌المللی تأکید کرده؛ چراکه رقابت میان کشور‌ها و شرکت‌ها باعث شده توقف یا کند کردن توسعه برای یک بازیگر، بدون هماهنگی دیگران، عملاً دشوار باشد.

اهمیت این بحث زمانی بیشتر می‌شود که بدانیم خود آنتروپیک  در روز‌های اخیر گزارش‌هایی درباره سوءاستفاده از مدل‌هایش منتشر کرده است. این شرکت در گزارشی تازه قابلیت‌های مدل‌های هوش مصنوعی در حوزه‌هایی مانند عملیات سایبری، هدف‌گیری اطلاعاتی و برخی کاربرد‌های نظامی را بررسی کرده و نسبت به استفاده نادرست از این توانایی‌ها هشدار داده است.

مسئله فقط «باهوش‌تر شدن» نیست

تا همین چند وقت پیش، رقابت شرکت‌های هوش مصنوعی بیشتر با معیار‌هایی مانند دقت، سرعت پاسخ‌گویی، هزینه استفاده و توانایی استدلال سنجیده می‌شد. اما اکنون سؤال دیگری به این رقابت اضافه شده است: یک مدل قدرتمند، دقیقاً تا چه اندازه باید بتواند مستقل عمل کند؟

این سؤال از آن جهت اهمیت دارد که مدل‌های جدید صرفاً ابزار‌هایی برای تولید متن یا تصویر نیستند و می‌توانند در قالب عامل‌های هوش مصنوعی، مجموعه‌ای از وظایف را پشت سر هم انجام دهند. در همین زمینه، آنتروپیک  هفته گذشته گزارشی درباره چهار حادثه منتشر کرد که در آن مدل‌های Claude به سیستم‌های واقعی اشخاص ثالث دسترسی غیرمجاز پیدا کرده بودند. این شرکت اعلام کرده برای بررسی گسترده‌تر، صد‌ها میلیون مورد تعامل و لاگ را بررسی کرده است.

در نتیجه، هشدار اخیر آمودی را نمی‌توان صرفاً یک موضع‌گیری کلی درباره «خطرات هوش مصنوعی» دانست. مسئله مشخص‌تر است: هرچه مدل‌ها توانمندتر و مستقل‌تر شوند، نظارت و ارزیابی آنها نیز باید هم‌زمان رشد کند.

رقابت بر سر هوش مصنوعی، وارد مرحله تازه‌ای شده است

به نقل از دانشجو، نکته قابل توجه این است که این نگرانی فقط از سوی Anthropic مطرح نشده است. گزارش‌های اخیر رویترز نشان می‌دهد سام آلتمن، مدیرعامل OpenAI، نیز در داخل این شرکت از امکان کاهش سرعت توسعه صحبت کرده و هم‌زمان بحث درباره مقررات سخت‌گیرانه‌تر هوش مصنوعی در آمریکا در حال افزایش است؛ بنابراین اتفاق مهمی که در حال شکل‌گیری است، تغییر سؤال اصلی صنعت هوش مصنوعی است. تا امروز بسیاری می‌پرسیدند «چه کسی مدل قدرتمندتری می‌سازد؟»، اما حالا سؤال مهم‌تری در حال مطرح شدن است: «چه کسی می‌تواند مدل قدرتمندتر را بهتر کنترل کند؟»

شاید همین تغییر، یکی از مهم‌ترین نشانه‌های ورود هوش مصنوعی به مرحله جدید باشد؛ مرحله‌ای که در آن صرفاً سرعت نوآوری تعیین‌کننده نیست و ایمنی، امکان نظارت و مسئولیت‌پذیری به بخشی از خود رقابت فناوری تبدیل می‌شود.