نماد سایت خبرگزاری سیناپرس

هوش مصنوعی قدرتمند در مک‌بوک؛ بدون اینترنت برنامه‌نویسی کنید!

شرکت Thinking Machines Lab متعلق به میرا موراتی، مدیر سابق OpenAI، از مدل هوش مصنوعی متن‌باز Inkling ۲ Mini رونمایی کرد؛ مدلی با ۲۶٫۴ میلیارد پارامتر که برای برنامه‌نویسی و استدلال طراحی شده و می‌تواند با مصرف حافظه نسبتاً کم، به‌صورت کاملاً آفلاین روی مک‌بوک‌های مجهز به حداقل ۳۲ گیگابایت حافظه اجرا شود.

به گزارش سیناپرس، اجرای مدل‌های هوش مصنوعی پیشرفته بدون نیاز به اینترنت و سرورهای قدرتمند، با معرفی مدل جدید Inkling ۲ Mini یک گام دیگر به واقعیت نزدیک شده است. شرکت Thinking Machines Lab، استارتاپ متعلق به میرا موراتی، مدیر سابق OpenAI، این مدل متن‌باز را با ۲۶٫۴ میلیارد پارامتر معرفی کرده که برای انجام وظایف برنامه‌نویسی، استدلال پیچیده و فعالیت‌های خودکار توسعه یافته است.

یکی از مهم‌ترین ویژگی‌های Inkling ۲ Mini امکان اجرای آن روی سخت‌افزارهای شخصی و بدون اتصال به اینترنت است. این مدل می‌تواند روی مک‌بوک‌هایی با حداقل ۳۲ گیگابایت حافظه یکپارچه اجرا شود و به همین دلیل، کاربران برای استفاده از قابلیت‌های آن لزوماً به زیرساخت‌های پردازشی ابری نیاز ندارند.

Inkling ۲ Mini در واقع نسخه کوچک‌تر مدل Inkling ۲ Small با ۵۹۴ میلیارد پارامتر است؛ اما توسعه‌دهندگان برای ساخت آن صرفاً به کاهش اندازه مدل قبلی بسنده نکرده‌اند. در عوض، معماری متفاوتی طراحی شده که امکان انجام محاسبات بیشتر برای استدلال را بدون افزایش تعداد توکن‌های خروجی فراهم می‌کند.

معماری متفاوت برای افزایش توان استدلال

مدل Inkling ۲ Mini از معماری ترنسفورمر حلقه‌ای (Looped Transformer) مبتنی بر ترکیب متخصصان (MoE) بهره می‌برد. این ساختار در مجموع ۲۴ لایه و ۲۶٫۴ میلیارد پارامتر دارد، اما در هر بار استفاده استاندارد تنها ۳٫۴ میلیارد پارامتر آن فعال می‌شوند.

این رویکرد به مدل اجازه می‌دهد بخشی از ظرفیت محاسباتی خود را به‌صورت هدفمند به انجام وظایف مختلف اختصاص دهد و در عین حال، منابع سخت‌افزاری کمتری مصرف کند.

بر اساس نتایج منتشرشده از سوی شرکت، Inkling ۲ Mini در برخی آزمون‌های برنامه‌نویسی خودکار توانسته عملکرد بهتری از مدل‌های بزرگ‌تر داشته باشد.

برای مثال، این مدل در آزمون DeepSWE v1.۱ امتیاز ۴۸٫۲ درصد را کسب کرده است؛ در حالی که امتیاز مدل Qwen3.۸-27B در همین آزمون ۴۲٫۲ درصد بوده است.

در آزمون SWE-bench Pro v2 Hard نیز Inkling ۲ Mini با کسب امتیاز ۷۷٫۹ درصد از Qwen3.۸-27B با امتیاز ۷۳٫۸ درصد پیشی گرفته است.

این مدل همچنین در آزمون Vals Index v2.۲ امتیاز ۴۶٫۵ درصد و در SWE-bench Verified امتیاز ۷۹٫۲ درصد را به دست آورده است. امتیاز Inkling ۲ Mini در شاخص هوش Artificial Analysis نیز ۲۰٫۱ اعلام شده است.

اجرای آفلاین با ۲۰ گیگابایت حافظه

یکی از ویژگی‌های قابل‌توجه مدل جدید، امکان اجرای محلی آن با مصرف حافظه‌ای در حدود ۲۰ گیگابایت است. کاربران می‌توانند با استفاده از ابزار Ollama، این مدل را روی رایانه‌های مجهز به تراشه‌های اپل و حداقل ۳۲ گیگابایت حافظه یکپارچه اجرا کنند.

Inkling ۲ Mini علاوه بر ورودی متنی، از تصاویر نیز پشتیبانی می‌کند و پنجره متنی آن ظرفیت پردازش حداکثر یک میلیون توکن را دارد. چنین ظرفیتی امکان تحلیل حجم زیادی از اطلاعات را در یک فرایند واحد فراهم می‌کند.

شرکت Thinking Machines برای نمایش توانایی‌های این مدل، آزمایشی را در شرایط کاملاً آفلاین انجام داد. در این نمایش، Inkling ۲ Mini روی یک مک‌بوک پرو مجهز به تراشه M5 Pro و ۴۸ گیگابایت حافظه اجرا شد.

مدل در حالت پرواز و بدون دسترسی به اینترنت توانست طی چند دقیقه یک شبیه‌ساز پرواز قابل‌بازی طراحی و تولید کند؛ نمایشی که توانایی آن در انجام وظایف پیچیده بدون اتکا به پردازش ابری را نشان می‌دهد.

دسترسی رایگان توسعه‌دهندگان به مدل جدید

وزن‌های Inkling ۲ Mini با مجوز Apache ۲.۰ منتشر شده‌اند و توسعه‌دهندگان می‌توانند به‌صورت آزاد به آن‌ها دسترسی داشته باشند.

امکان دریافت مدل از مخزن Hugging Face، اجرای محلی با ابزار Ollama و استفاده از پلتفرم Tinker متعلق به Thinking Machines برای استنتاج و تنظیم دقیق (Fine-tuning) نیز فراهم شده است.

به نقل از دیجیاتو، معرفی Inkling ۲ Mini نشان می‌دهد توسعه مدل‌های هوش مصنوعی تنها به سمت افزایش تعداد پارامترها و نیاز به سخت‌افزارهای قدرتمندتر حرکت نمی‌کند؛ بلکه بهینه‌سازی معماری و کاهش هزینه اجرای مدل‌ها نیز به یکی از مسیرهای مهم رقابت در این صنعت تبدیل شده است.

خروج از نسخه موبایل