مرداد
اخبار
اینکلینگ اسمال؛ مدل کوچک موراتی که از نسخهی بزرگ جلو زد
قاعدهی نانوشتهی سالهای گذشته این بود که مدل بزرگتر یعنی مدل بهتر. آزمایشگاه میرا موراتی این قاعده را در عمل زیر سؤال برد. نسخهی کوچکشدهی مدل پرچمدار این شرکت، در چند آزمون کلیدی از برادر بزرگترش جلو زد. جالبتر اینکه وزنهای کامل مدل با مجوز آزاد منتشر شدهاند.
لیست مطالب
۱) چه چیزی منتشر شد
آزمایشگاه تینکینگماشینز، شرکتی که میرا موراتی پس از خروج از اوپنایآی بنیان گذاشت، روز ۳۱ ژوئیه ۲۰۲۶ نسخهی کوچک مدل خود را با نام اینکلینگ اسمال منتشر کرد. این مدل تقریباً یکچهارم اندازهی نسخهی اصلی است اما در چند سنجهی مهم از آن پیشی میگیرد.
مشخصات فنی اعلامشده روشن است: ۲۷۶ میلیارد پارامتر کل با معماری پراکندهی آمیختهی متخصصان، و تنها ۱۲ میلیارد پارامتر فعال به ازای هر توکن. رمزگشای مدل ۴۲ لایه دارد و هر توکن به شش متخصص از میان ۲۵۶ متخصص، بهعلاوهی دو متخصص مشترک، مسیریابی میشود.
از نظر ورودی، مدل متن و تصویر و صدا را میپذیرد و خروجی متنی تولید میکند. پنجرهی متن تا یک میلیون توکن گسترش یافته که برای کار روی مخازن کد بزرگ یا اسناد طولانی معنادار است.
۲) نتایج بنچمارکها
پیش از رفتن سراغ اعداد، یک نکته را باید روشن کرد: نسخهی اصلی این خانواده، مدلی با حدود ۹۷۵ میلیارد پارامتر بود که چند هفته پیشتر و باز هم با مجوز آزاد منتشر شده بود. بنابراین مقایسهای که در ادامه میآید، میان دو مدل از یک خانواده و با فلسفهی طراحی مشترک است، نه میان دو محصول بیربط.
مهمترین عدد این انتشار، امتیاز ۸۰.۲ درصدی در سویبنچ ورایفاید است؛ آزمونی که توانایی مدل در حل مسائل واقعی مخازن نرمافزاری را میسنجد. نسخهی بزرگتر در همین آزمون ۷۷.۶ درصد گرفته بود.
در ترمینالبنچ نسخهی ۲.۱ هم اینکلینگ اسمال با ۶۴.۷ درصد کمی جلوتر از ۶۳.۸ درصدِ مدل بزرگتر ایستاد. طبق گزارشها این مدل در سایکد، آزمون دشوار آخرین امتحان بشریت، جیپیکیوای دایموند و کریتپیتی هم عملکرد بهتری نشان داده است.
در شاخص ترکیبی هوش مؤسسهی آرتیفیشالآنالیسیس، اینکلینگ اسمال امتیاز ۴۰ گرفت؛ تنها یک واحد پایینتر از امتیاز ۴۱ نسخهی بزرگ. یعنی مدلی با یکچهارم اندازه، عملاً همسطح مانده و در کارهای مهندسی نرمافزار جلو زده است.
۳) چرا مدل کوچکتر بهتر شد
نکتهی سومی هم هست که کمتر به چشم میآید: هزینهی آزمایش. تیمها میتوانند روی مدل کوچکتر چرخههای آموزش و ارزیابی بیشتری اجرا کنند، چون هر چرخه ارزانتر تمام میشود. همین تعداد بالای تکرار، گاهی به دستاوردی میرسد که در مدل بزرگ بهدلیل هزینهی بالای هر آزمایش از دست میرود.
این نتیجه در نگاه اول متناقض به نظر میرسد، اما با منطق آموزش مدلها قابل توضیح است. اندازهی مدل تنها یکی از متغیرهاست؛ کیفیت داده، ترکیب مراحل پسآموزش و شیوهی مسیریابی متخصصان به همان اندازه اثرگذارند.
در معماری آمیختهی متخصصان، مدل بهجای فعالکردن همهی پارامترها، تنها بخش کوچکی را برای هر توکن به کار میگیرد. اگر مسیریابی خوب طراحی شده باشد، تخصصیشدن بیشتر میتواند دقت را در حوزههای مشخص بالا ببرد؛ حتی وقتی ظرفیت کل کمتر است.
عامل دیگر، تازگی نسخه است. نسخهی کوچک معمولاً پس از نسخهی بزرگ و با درسگرفتن از آن آموزش میبیند و از دادهها و روشهای اصلاحشده بهره میبرد.
۴) مجوز آزاد و معنای واقعی آن
وزنهای کامل این مدل با مجوز آپاچی ۲.۰ روی هاگینگفیس منتشر شده است. این مجوز از سختگیرانهترینها نیست؛ اجازهی استفادهی تجاری، تغییر و بازتوزیع میدهد و همین آن را برای شرکتها جذاب میکند.
تفاوت میان «وزنباز» و «متنباز کامل» را باید در نظر داشت. آنچه منتشر میشود وزنهای مدل است، نه لزوماً کل داده و کد آموزش. با این حال برای اکثر کاربردهای عملی — اجرای محلی، تنظیم دقیق و استقرار خصوصی — همین کافی است.
تنظیم دقیق مدل هم از طریق رابط برنامهنویسی اختصاصی این شرکت پشتیبانی میشود که کار سفارشیسازی را برای تیمهای کوچک سادهتر میکند.
۵) هزینهی اجرا و سختافزار
کوانتیزهسازی البته رایگان نیست. کاهش دقت عددی معمولاً افت کوچکی در کیفیت خروجی به همراه دارد که در کارهای حساس باید سنجیده شود. توصیهی عملی این است که پیش از استقرار نهایی، خروجی هر دو حالت را روی مجموعهای از نمونههای واقعی خودتان مقایسه کنید.
اجرای مدل در دقت استاندارد به حدود ۶۰۰ گیگابایت حافظهی گرافیکی مجموع نیاز دارد؛ چیزی در حد چهار کارت بی۳۰۰ یا هشت کارت اچ۲۰۰. با کوانتیزهسازی به قالب فشردهتر، این نیاز تا حدود ۱۸۰ گیگابایت پایین میآید.
این عدد پیام روشنی دارد: مدل هنوز برای اجرای خانگی مناسب نیست، اما برای یک تیم مهندسی متوسط با یک سرور اختصاصی در دسترس است. همین تفاوت، مرز میان «فقط از طریق سرویس ابری» و «قابل استقرار در سازمان» را جابهجا میکند.
۶) قیمتگذاری رابط برنامهنویسی
در زمان عرضه، نرخهای تخفیفخورده اعلام شد: حدود ۰.۵۸ دلار به ازای هر میلیون توکن ورودی و ۱.۴۴ دلار به ازای هر میلیون توکن خروجی. این نرخها با تخفیف پنجاهدرصدی و برای مدت محدود اعلام شدهاند.
در مقایسه با مدلهای پرچمدار بسته، این قیمتها رقابتی است؛ بهویژه وقتی گزینهی جایگزینِ میزبانی خودتان هم روی میز باشد. رقابت قیمتی در این بازار به نفع توسعهدهندگان تمام شده و اخبار هوش مصنوعی پر است از نمونههای مشابه.
۷) جایگاه تینکینگماشینز در بازار
این استراتژی در برابر یک واقعیت سخت هم قرار دارد: نگهداشتن پژوهشگران برتر در بازاری که رقبای بزرگتر بستههای جبرانی سنگین پیشنهاد میدهند. شرکتهای نوپای این حوزه معمولاً با تکیه بر آزادی پژوهشی و سهام، بخشی از این شکاف را پر میکنند؛ اما فشار همیشگی است.
آزمایشگاه موراتی مسیر متفاوتی از رقبای بزرگ انتخاب کرده است. بهجای رقابت سر بزرگترین مدل، روی سه محور تمرکز کرده: هزینهی پایین، انتشار وزنها و قابلیت سفارشیسازی. این ترکیب برای سازمانهایی که نمیخواهند دادهشان از مرز شبکهی خودشان بیرون برود جذاب است.
برای درک بهتر فضایی که این شرکت در آن رقابت میکند، معرفی اوپنایآی و مقایسهی چتجیپیتی و دیپسیک تصویر روشنی از آرایش بازیگران میدهد.
۸) این خبر برای شما چه معنایی دارد
یک قاعدهی ساده برای انتخاب: فهرستی از ده تا بیست وظیفهی واقعی سازمانتان بسازید، خروجی دو یا سه مدل را روی همان فهرست بگیرید و بدون دیدن نام مدل داوری کنید. این آزمون کور، بارها نتایجی متفاوت از جدولهای بنچمارک عمومی داده است. اهمیت این نوع سنجش عملی برای کسبوکارها در نقش هوش مصنوعی در کسبوکار توضیح داده شده است.
اگر توسعهدهندهاید، مهمترین نتیجهی عملی این است که «کوچکتر» دیگر مترادف «ضعیفتر» نیست. پیش از انتخاب مدل، معیارتان را روی وظیفهی واقعی خودتان بسنجید، نه روی تعداد پارامترها. یک مدل ۲۷۶ میلیاردی که در کدنویسی جلوتر است، برای تیم مهندسی ارزشمندتر از یک مدل چند برابر بزرگتر با هزینهی چند برابر است.
اگر کاربر عادی هستید، اثر این تحول را در قیمت و سرعت سرویسهایی میبینید که استفاده میکنید. کیفیت خروجی هم به شکل نوشتن دستور شما وابسته است؛ راهنمای پرامپتنویسی و آموزشهای چتجیپیتی برای همین نوشته شدهاند.
۹) نکتههایی که باید محتاطانه خواند
در نهایت، هیچ مدلی جای مهندس را نمیگیرد. توانایی بالای یک مدل در حل مسائل بستهی بنچمارک، با توانایی طراحی سامانهی واقعی که باید سالها نگهداری شود فاصله دارد. این تمایز را توهم هوش مصنوعی؛ توسعهدهندهی تنها در برابر مهندس واقعی بهخوبی شکافته است.
بنچمارکها تصویر کاملی نمیدهند. امتیاز بالا در سویبنچ به معنای برتری در همهی کارهای برنامهنویسی نیست و آزمونهای استاندارد میتوانند بهمرور به بخشی از دادهی آموزش نشت کنند. سنجش واقعی، اجرای مدل روی مسائل خودِ شماست.
افزون بر این، مدل کوچکتر معمولاً در وظایفی که به دانش عمومی گسترده نیاز دارند ضعیفتر عمل میکند، حتی اگر در کدنویسی بدرخشد. انتظار متعادل داشتن، بخشی از استفادهی درست است؛ موضوعی که در پتانسیل و محدودیتهای هوش مصنوعی باز شده است.
پرسشهای پرتکرار دربارهی مدل اینکلینگ اسمال
اینکلینگ اسمال چند پارامتر دارد؟
۲۷۶ میلیارد پارامتر کل با معماری آمیختهی متخصصان، که تنها ۱۲ میلیارد پارامتر آن به ازای هر توکن فعال میشود.
آیا واقعاً از نسخهی بزرگتر بهتر است؟
در آزمونهای مهندسی نرمافزار مانند سویبنچ ورایفاید بله؛ اما در شاخص ترکیبی هوش، یک واحد پایینتر از نسخهی بزرگ ایستاده است.
مجوز استفاده از این مدل چیست؟
وزنهای کامل با مجوز آپاچی ۲.۰ روی هاگینگفیس منتشر شدهاند که استفادهی تجاری را مجاز میکند.
برای اجرای محلی چه سختافزاری لازم است؟
در دقت استاندارد حدود ۶۰۰ گیگابایت حافظهی گرافیکی و در حالت کوانتیزه حدود ۱۸۰ گیگابایت.
قیمت رابط برنامهنویسی چقدر است؟
در زمان عرضه حدود ۰.۵۸ دلار برای هر میلیون توکن ورودی و ۱.۴۴ دلار برای هر میلیون توکن خروجی، با تخفیف موقت پنجاهدرصدی.
