رونمایی مدل اینکلینگ با ۹۷۵ میلیارد پارامتر توسط تینکینگ مشینز

اینکلینگ رونمایی شد؛ مدل ۹۷۵ میلیارد پارامتری و باز میرا موراتی

اخبار · هوش مصنوعی

میرا موراتی، مدیر ارشد فناوری پیشین اوپن‌ای‌آی، بالاخره اولین مدل آزمایشگاه تازه‌اش را رونمایی کرد. مدل اینکلینگ با ۹۷۵ میلیارد پارامتر و مجوز آپاچی ۲.۰ منتشر شده و هر کسی می‌تواند آن را دانلود، تغییر و حتی تجاری استفاده کند. آزمایشگاه تینکینگ مشینز صراحتاً می‌گوید این مدل قرار نیست قوی‌ترین مدل جهان باشد؛ قرار است بزرگ‌ترین گزینه‌ی باز آمریکایی باشد. تفاوت این دو جمله، کل راهبرد شرکت را توضیح می‌دهد.

چکیده. آزمایشگاه تینکینگ مشینز در ۱۶ ژوئیه‌ی ۲۰۲۶ مدل اینکلینگ را با وزن‌های باز منتشر کرد. معماری آن ترکیب متخصص‌ها است: ۹۷۵ میلیارد پارامتر کل و حدود ۴۱ میلیارد پارامتر فعال در هر پاسخ. مدل روی ۴۵ تریلیون توکن از متن، تصویر، صدا و ویدیو آموزش دیده، پنجره‌ی زمینه‌اش یک میلیون توکن است و تحت مجوز آپاچی ۲.۰ روی هاگینگ فیس در دسترس قرار گرفته است. شرکت خودش تأکید کرده این مدل قوی‌ترین گزینه‌ی موجود نیست.
رونمایی مدل اینکلینگ با ۹۷۵ میلیارد پارامتر توسط تینکینگ مشینز

۱) چه چیزی منتشر شد

تینکینگ مشینز لبز، آزمایشگاهی که میرا موراتی پس از خروج از اوپن‌ای‌آی تأسیس کرد، در ۱۶ ژوئیه‌ی ۲۰۲۶ اولین مدل خود را با نام اینکلینگ عرضه کرد. برخلاف رویه‌ی رایج آزمایشگاه‌های مرزی که مدل‌ها را فقط از طریق واسط برنامه‌نویسی در اختیار می‌گذارند، وزن‌های این مدل برای دانلود مستقیم روی هاگینگ فیس و همچنین از طریق پلتفرم اختصاصی شرکت منتشر شده است.

مجوز انتخابی، آپاچی ۲.۰ است؛ یکی از آزادترین مجوزهای موجود که استفاده‌ی تجاری، تغییر و بازتوزیع را بدون محدودیت معنادار اجازه می‌دهد. این انتخاب، اینکلینگ را به یکی از بزرگ‌ترین مدل‌های با وزن باز منتشرشده در آمریکا تبدیل می‌کند.

پیش‌زمینه‌ی ماجرا هم بی‌اهمیت نیست. موراتی در جایگاه مدیر ارشد فناوری اوپن‌ای‌آی یکی از چهره‌های اصلی توسعه‌ی نسل‌های اولیه‌ی چت‌جی‌پی‌تی بود و پس از خروج، آزمایشگاه خودش را با جذب شماری از پژوهشگران همان مجموعه راه انداخت. تینکینگ مشینز امروز طبق گزارش‌ها حدود دویست نفر نیرو دارد و اینکلینگ اولین خروجی عمومی آن است؛ یعنی این انتشار، هم معرفی یک مدل است و هم اعلام موضع یک آزمایشگاه تازه درباره‌ی اینکه آینده‌ی هوش مصنوعی را چطور می‌بیند.

۲) معماری: بزرگ روی کاغذ، سبک در عمل

عدد ۹۷۵ میلیارد پارامتر در نگاه اول ترسناک است، اما تمام داستان نیست. اینکلینگ بر پایه‌ی معماری ترکیب متخصص‌ها ساخته شده؛ روشی که در آن مدل به زیرشبکه‌های تخصصی تقسیم می‌شود و برای هر ورودی فقط بخشی از آن‌ها فعال می‌شوند.

در عمل، هنگام تولید هر پاسخ حدود ۴۱ میلیارد پارامتر فعال می‌شود؛ یعنی کمتر از پنج درصد کل مدل. مزیت این طراحی روشن است: ظرفیت دانشی یک مدل بسیار بزرگ، با هزینه‌ی محاسباتی یک مدل متوسط. هزینه‌ی آن هم مشخص است: برای نگه‌داشتن وزن‌ها در حافظه، همچنان به کل مدل نیاز دارید حتی اگر بخش کوچکی از آن در هر لحظه کار کند.

۳) داده‌ی آموزشی و چندحالتگی

مدل روی ۴۵ تریلیون توکن آموزش دیده که شامل متن، تصویر، صدا و ویدیو می‌شود. این یعنی اینکلینگ در ورودی چندحالته است و می‌تواند انواع مختلف داده را درک کند.

اما در خروجی محدودتر است. طبق گزارش تک‌کرانچ، خروجی فعلی مدل به متن، کد، محتوای قالب‌بندی‌شده و داده‌ی ساختاریافته محدود می‌شود؛ یعنی مدل تصویر یا صدا تولید نمی‌کند. این تفکیک میان درک چندحالته و تولید چندحالته، تمایزی است که در بازاریابی مدل‌ها اغلب مبهم می‌ماند و بهتر است هنگام مقایسه دقیق به آن توجه شود.

نکته‌ی جالب دیگر در فرایند آموزش است: شرکت اعلام کرده برای تولید داده‌ی پس‌آموزش اولیه، از مدل‌های باز دیگر از جمله کیمی K2.5 ساخت مون‌شات ای‌آی استفاده کرده است. آموزش کامل مدل هم روی سامانه‌های GB300 NVL72 انویدیا انجام شده است.

معماری ترکیب متخصص‌ها در اینکلینگ با ۴۱ میلیارد پارامتر فعال

۴) پنجره‌ی زمینه و نیاز سخت‌افزاری

پنجره‌ی زمینه‌ی اینکلینگ یک میلیون توکن اعلام شده است؛ عددی که آن را برای کارهایی مثل تحلیل مخازن کد بزرگ یا مجموعه‌اسناد طولانی مناسب می‌کند.

اما اجرای محلی این مدل شوخی نیست. طبق گزارش‌ها، اجرای مدل با دقت شانزده بیتی به بیش از ۲ ترابایت حافظه‌ی پردازنده‌ی گرافیکی نیاز دارد؛ در عمل چیزی حدود هشت شتاب‌دهنده‌ی B300 انویدیا یا شانزده شتاب‌دهنده‌ی H200. نسخه‌ی کوانتیزه‌شده با قالب NVFP4 حدود نیمی از این منابع را می‌خواهد و به گفته‌ی شرکت افت کیفیت اندکی دارد.

ترجمه‌ی ساده‌ی این اعداد: «باز بودن» با «در دسترس بودن برای همه» یکی نیست. اینکلینگ برای شرکت‌ها، دانشگاه‌ها و ارائه‌دهندگان زیرساخت باز است، نه برای لپ‌تاپ کاربر خانگی. اگر می‌خواهید با ابزارهایی کار کنید که همین امروز روی مرورگر در دسترس‌اند، آموزش‌های چت‌جی‌پی‌تی مسیر عملی‌تری است.

۵) عملکرد؛ آنچه ادعا شده و آنچه نشده

شرکت مدعی است اینکلینگ در عملکرد کدنویسی با نمترون ۳ اولترای انویدیا (۵۵۰ میلیارد پارامتر) برابری می‌کند و در آزمون ترمینال بنچ ۲.۱ به نتیجه‌ای مشابه می‌رسد در حالی که حدود یک‌سوم توکن استدلالی مصرف می‌کند. در پروژه‌ای با شرکت بریج‌واتر اسوشیتس هم امتیاز ۸۴.۷ درصد در آزمون‌های استدلال مالی گزارش شده است.

مهم‌تر از این اعداد اما چیزی است که شرکت خودش گفته: اینکلینگ «قوی‌ترین مدل موجود امروز، چه باز و چه بسته، نیست». نمودارهای منتشرشده هم نشان می‌دهند این مدل از مدل‌های اختصاصی مانند کلود و جی‌پی‌تی عقب‌تر است. این صداقت در ارائه، خودش نکته‌ای است که در فضای پرهیاهوی معرفی مدل‌ها کمتر دیده می‌شود.

معیار کارایی به‌جای معیار قدرت

ادعای مصرف یک‌سوم توکن استدلالی، اگر در آزمون‌های مستقل تأیید شود، از نظر اقتصادی معنادارتر از چند درصد امتیاز بیشتر در بنچمارک است. در سرویس‌های واقعی، هزینه بر پایه‌ی توکن محاسبه می‌شود و مدلی که با تفکر کمتر به همان نتیجه می‌رسد، عملاً ارزان‌تر است.

۶) راهبرد واقعی موراتی چیست

پرسش طبیعی این است که چرا شرکتی با این حجم سرمایه، مدلی را رایگان منتشر می‌کند. پاسخ در مدل درآمدی نهفته است: تینکینگ مشینز قصد ندارد از فروش دسترسی به مدل پول دربیاورد. محصول اصلی این شرکت پلتفرمی به نام تینکر است که روی تنظیم دقیق و شخصی‌سازی مدل‌ها برای کاربردهای خاص تمرکز دارد.

در این چارچوب، انتشار باز اینکلینگ نقش قلاب را بازی می‌کند: هرچه مدل بیشتر دانلود و در سازمان‌ها مستقر شود، بازار بزرگ‌تری برای خدمات سفارشی‌سازی شکل می‌گیرد. این همان منطقی است که سال‌ها در دنیای نرم‌افزار متن‌باز جواب داده؛ هسته را ببخش، خدمات را بفروش.

موضع اعلام‌شده‌ی شرکت هم با همین راهبرد هم‌خوان است: مخالفت با ایده‌ی «یک مدل برای همه» و باور به اینکه سازمان‌ها به مدل‌های تنظیم‌شده برای دامنه‌ی خودشان نیاز دارند. برای درک بهتر اینکه چطور می‌توان خروجی هر مدلی را با ورودی بهتر بهبود داد، راهنمای پرامپت‌نویسی نقطه‌ی شروع خوبی است.

انتشار وزن‌های باز اینکلینگ تحت مجوز آپاچی ۲.۰ روی هاگینگ فیس

۷) معنای این انتشار برای اکوسیستم باز

در دو سال گذشته، وزنه‌ی مدل‌های باز عمدتاً در آسیا سنگین‌تر بوده است. انتشار یک مدل با این مقیاس و مجوز آپاچی ۲.۰ از یک آزمایشگاه آمریکایی، توازن این نقشه را کمی جابه‌جا می‌کند و برای توسعه‌دهندگانی که نمی‌خواهند به یک ارائه‌دهنده‌ی واحد وابسته باشند، گزینه‌ی تازه‌ای می‌سازد.

اثر دوم به حاکمیت داده برمی‌گردد. سازمان‌هایی که به دلایل قانونی یا امنیتی نمی‌توانند داده‌شان را به سرور شرکت ثالث بفرستند، با مدل باز می‌توانند همه‌چیز را داخل زیرساخت خودشان نگه دارند. این مزیت، در حوزه‌هایی مانند بانک، سلامت و دفاع تعیین‌کننده است. برای دیدن نمونه‌ای دیگر از رقابت مدل‌های باز و بسته، مقایسه‌ی چت‌جی‌پی‌تی و دیپ‌سیک خواندنی است.

۸) نقدها و ابهام‌های باقی‌مانده

چند پرسش هنوز بی‌پاسخ مانده است. نخست، جزئیات کامل ترکیب داده‌ی آموزشی منتشر نشده؛ یعنی مدل «وزن‌باز» است نه «متن‌باز» به معنای کامل. دوم، بنچمارک‌های اعلام‌شده عمدتاً از سوی خود شرکت گزارش شده‌اند و ارزیابی مستقل شخص ثالث زمان می‌برد.

سوم، هزینه‌ی واقعی استقرار. مدلی که برای اجرا به چند شتاب‌دهنده‌ی رده‌بالا نیاز دارد، در محاسبه‌ی نهایی ممکن است از استفاده از یک واسط برنامه‌نویسی تجاری گران‌تر تمام شود، مگر اینکه بار کاری سازمان به‌اندازه‌ی کافی سنگین و پیوسته باشد. برای مرور واقع‌بینانه‌ی فاصله‌ی وعده و عمل در این حوزه، توهم هوش مصنوعی و مهندس واقعی خواندنی است.

چهارم، پایداری راهبرد. انتشار رایگان یک مدل چند صد میلیون دلاری تنها زمانی معنا دارد که کسب‌وکار خدمات پیرامون آن رشد کند. اگر بازار تنظیم دقیق مدل‌ها آن‌طور که پیش‌بینی شده بزرگ نشود، این رویکرد در بلندمدت زیر فشار مالی قرار می‌گیرد؛ ریسکی که هر شرکت متن‌بازمحوری در تاریخ نرم‌افزار با آن دست‌وپنجه نرم کرده است.

۹) جمع‌بندی مشخصات فنی

نام مدل اینکلینگ، سازنده تینکینگ مشینز لبز، تاریخ انتشار ۱۶ ژوئیه‌ی ۲۰۲۶، معماری ترکیب متخصص‌ها با ۹۷۵ میلیارد پارامتر کل و حدود ۴۱ میلیارد پارامتر فعال، داده‌ی آموزشی ۴۵ تریلیون توکن چندحالته، پنجره‌ی زمینه یک میلیون توکن، مجوز آپاچی ۲.۰، محل انتشار هاگینگ فیس و پلتفرم تینکر، سخت‌افزار آموزش سامانه‌های GB300 NVL72 انویدیا، و نیاز اجرای بومی بیش از ۲ ترابایت حافظه‌ی گرافیکی.

پرسش‌های پرتکرار درباره‌ی مدل اینکلینگ

اینکلینگ واقعاً متن‌باز است؟

وزن‌های مدل تحت مجوز آپاچی ۲.۰ منتشر شده‌اند که استفاده‌ی تجاری و تغییر را آزاد می‌گذارد. با این حال جزئیات کامل داده‌ی آموزشی منتشر نشده، بنابراین اصطلاح دقیق‌تر «وزن‌باز» است.

آیا می‌توان اینکلینگ را روی کامپیوتر شخصی اجرا کرد؟

عملاً خیر. اجرای نسخه‌ی اصلی به بیش از ۲ ترابایت حافظه‌ی گرافیکی نیاز دارد و حتی نسخه‌ی کوانتیزه‌شده هم چند شتاب‌دهنده‌ی رده‌ی مرکز داده می‌خواهد.

این مدل از کلود یا جی‌پی‌تی قوی‌تر است؟

خیر و خود شرکت هم چنین ادعایی نکرده است. نمودارهای منتشرشده نشان می‌دهند اینکلینگ از مدل‌های اختصاصی پیشرو عقب‌تر است؛ مزیت اصلی‌اش باز بودن و کارایی مصرف توکن است.

تینکینگ مشینز از این مدل چطور درآمد کسب می‌کند؟

از فروش مدل نه، بلکه از پلتفرم تینکر که خدمات تنظیم دقیق و شخصی‌سازی مدل برای کاربردهای سازمانی ارائه می‌دهد.

چه تفاوتی با اینکلینگ اسمال دارد؟

اینکلینگ اسمال نسخه‌ی کوچک‌تری است که بعدها منتشر شد و با پارامتر بسیار کمتر به عملکردی نزدیک به نسخه‌ی بزرگ رسید. نسخه‌ی بزرگ همان مدل ۹۷۵ میلیارد پارامتری معرفی‌شده در ژوئیه است.

جمع‌بندی. اینکلینگ نه برای شکستن رکورد بنچمارک‌ها، بلکه برای جابه‌جا کردن موازنه‌ی قدرت میان مدل‌های باز و بسته منتشر شده است؛ شرطی بلندمدت روی این ایده که آینده در دست مدل‌های سفارشی‌شده است، نه یک مدل واحد برای همه. برای دنبال کردن روزانه‌ی اخبار هوش مصنوعی، به کانال @MrChatGPT_IR بپیوندید.
(0 رأی)

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *