متا فیر مدلی ساخت که آزمایش‌های هوش مصنوعی را پیش از اجرا داوری می‌کند

آزمایشگاه پژوهشی Meta FAIR سیستمی معرفی کرده که پیش از اجرای واقعیِ هر آزمایش یادگیری ماشین، درباره‌ی ارزش آن قضاوت می‌کند و ساعت‌ها زمان پردازش گرافیکی صرفه‌جویی می‌کند.

بخش ۱ — متا چه چیزی معرفی کرده است؟

تیم پژوهشی Meta FAIR سیستم تازه‌ای با نام «مدل‌های ترجیح پژوهشی» یا Research Preference Models (به‌اختصار RPM) رونمایی کرده است. کار این سیستم چیزی است که تا امروز عمدتاً بر عهده‌ی پژوهشگران انسانی بود: تصمیم‌گیری درباره‌ی اینکه کدام ایده‌ی آزمایشی در یادگیری ماشین ارزش اجرا شدن دارد، پیش از آنکه حتی یک بار روی سخت‌افزار واقعی اجرا شود.

این سیستم بخشی از تلاش بزرگ‌تر متا برای خودکارسازی چرخه‌ی پژوهش هوش مصنوعی با کمک خود هوش مصنوعی است؛ روندی که این روزها در صدر اولویت تقریباً همه‌ی آزمایشگاه‌های بزرگ قرار دارد.

بخش ۲ — مسئله‌ای که این سیستم حل می‌کند

عامل‌های پژوهشی هوش مصنوعی امروز به‌راحتی می‌توانند در چند ثانیه ده‌ها ایده‌ی آزمایشی مختلف تولید کنند: تغییر معماری شبکه، تنظیم نرخ یادگیری، جایگزینی داده‌ی آموزشی و مواردی از این دست. مشکل اینجاست که تولید ایده ارزان است، اما اجرای واقعی هرکدام روی خوشه‌های پردازنده‌ی گرافیکی می‌تواند ساعت‌ها یا حتی روزها زمان ببرد و هزینه‌ی برق و سخت‌افزار قابل توجهی داشته باشد.

تا پیش از این، انتخاب اینکه کدام ایده باید اجرا شود عمدتاً بر پایه‌ی حدس و تجربه‌ی پژوهشگران انسانی انجام می‌شد. متا با RPM تلاش کرده این تصمیم را به یک مدل هوش مصنوعی دیگر بسپارد تا سرعت و مقیاس‌پذیری بیشتری به‌دست آید.

برای درک بهتر مقیاس این مشکل، به این مثال ساده فکر کنید: اگر یک تیم پژوهشی بخواهد صد پیکربندی مختلف را برای بهبود دقت یک مدل امتحان کند و هر اجرا نیم‌روز طول بکشد، اجرای کامل همه‌ی آن‌ها روی یک خوشه‌ی گرافیکی می‌تواند هفته‌ها زمان ببرد. اگر یک لایه‌ی داوریِ ارزان بتواند از همان ابتدا نود درصد گزینه‌های کم‌بازده را کنار بگذارد، همان چرخه‌ی پژوهشی می‌تواند در چند روز به پایان برسد – بدون آنکه کیفیت نتیجه‌ی نهایی افت محسوسی داشته باشد.

بخش ۳ — مکانیزم کار: مسابقه‌ی حذفی به‌جای نمره‌دهی مطلق

نکته‌ی هوشمندانه‌ی طراحی RPM این است که این مدل تلاش نمی‌کند نمره‌ی دقیق هر آزمایش را از قبل حدس بزند؛ کاری که همیشه با خطای زیاد همراه است. در عوض، از روش «قضاوت نسبی» استفاده می‌شود: عامل پژوهشی به‌جای یک ایده، همزمان پانزده ایده‌ی موازی تولید می‌کند و RPM آن‌ها را دو‌به‌دو در قالب یک مسابقه‌ی حذفی مقایسه می‌کند. در پایان تنها یک ایده – برنده‌ی این مسابقه – روی سخت‌افزار گرافیکی اجرا می‌شود.

این رویکرد در نقطه‌ای از فرایند به نام «ساخت شاخه‌های فرزند» در جست‌وجوی درختی تکاملی چارچوب متن‌باز AIRA-dojo متا وارد عمل می‌شود؛ همان چارچوبی که برای اجرای خودکار آزمایش‌های یادگیری ماشین طراحی شده است.

بخش ۴ — دو نسخه‌ی متفاوت از RPM

متا دو نسخه از این سیستم را معرفی کرده است. نسخه‌ی نخست، «RPM مبتنی بر استنتاج»، یک مدل زبانی را در نقش داور به کار می‌گیرد که فقط با خواندن طرح و کد هر آزمایش – بدون اجرای واقعی آن – قضاوت می‌کند. دستورهای این داور با روشی به نام MIPROv2 بهینه شده و در آزمون‌های آفلاین به دقتی میان ۵۷.۷ تا ۵۹ درصد رسیده است.

نسخه‌ی دوم که «RPM عامل‌محور» نام دارد فراتر می‌رود: پیش از قضاوت نهایی، نسخه‌های کوچک و کوتاه‌مدت از هر ایده (حداکثر تا سی اجرای آزمایشی، با سقف زمانی حدود شصت ثانیه) در یک محیط ایزوله اجرا می‌شوند تا داور اطلاعات واقعی‌تری برای تصمیم‌گیری داشته باشد.

بخش ۵ — نتایج روی معیار AIRS-Bench

متا این دو نسخه را روی معیار داخلی خودش با نام AIRS-Bench – شامل بیست وظیفه و اجراهای بیست‌وچهارساعته روی پردازنده‌های گرافیکی H200 – آزموده است. انتخاب کاملاً تصادفیِ ایده‌ها به امتیاز ۰.۶۸۴ رسید، نسخه‌ی مبتنی بر استنتاج به ۰.۷۱۱ و نسخه‌ی عامل‌محور به بالاترین امتیاز یعنی ۰.۷۲۹ دست یافت.

عدد مهم‌تر از امتیاز نهایی، سرعت رسیدن به آن بود: هر دو نسخه‌ی RPM توانستند به همان سطح عملکردِ انتخاب تصادفی، حدود ۱.۵ تا ۱.۶ برابر سریع‌تر برسند. به زبان ساده، همان کیفیت پژوهشی با هزینه و زمان پردازشی کمتر به‌دست آمده است. در برخی معیارهای جانبی نیز بهبود دیده شد؛ برای نمونه امتیاز WinoGrande به ۹۴.۱ درصد و SVAMP به ۹۵.۷ درصد رسید.

بخش ۶ — زیرساخت فنی پشت پروژه

RPM بر پایه‌ی مدل زبانی متن‌باز Qwen با ۲۷ میلیارد پارامتر (نسخه‌ی ۳.۶) ساخته شده، بدون نیاز به آموزش اختصاصی و تازه روی آن مدل. کل چارچوب AIRA-dojo نیز به‌صورت متن‌باز در دسترس پژوهشگران دیگر قرار گرفته است تا بتوانند این روش را روی مسائل خودشان امتحان کنند.

از منظر فنی، منطق پشت RPM شباهت زیادی به روشی دارد که برای هم‌راستاسازی مدل‌های زبانی بزرگ با ترجیحات انسانی استفاده می‌شود – همان ایده‌ای که پایه‌ی روش‌های یادگیری تقویتی از بازخورد انسانی است – با این تفاوت که اینجا به‌جای قضاوت درباره‌ی کیفیت پاسخ یک چت‌بات، درباره‌ی ارزش یک ایده‌ی پژوهشی قضاوت می‌شود.

یکی از دلایل اصلی موفقیت این روش، انتخاب «قضاوت نسبی» به‌جای «امتیازدهی مطلق» است. تجربه‌ی چندین‌ساله در حوزه‌ی یادگیری ماشین نشان داده که مدل‌ها در مقایسه‌ی دو گزینه با هم بسیار دقیق‌تر از حدس‌زدن یک عدد مطلق عمل می‌کنند؛ همان الگویی که در طراحی بسیاری از سیستم‌های رتبه‌بندی و توصیه‌گر هم دیده می‌شود. متا با تکیه بر همین اصل ساده توانسته یک ابزار عملی و قابل استفاده در مقیاس بزرگ بسازد، بدون آنکه نیاز به آموزش یک مدل کاملاً تازه و پرهزینه داشته باشد.

بخش ۷ — رقابتی که هر هفته داغ‌تر می‌شود

این اقدام متا در خلأ رخ نداده است. تنها چند روز پیش OpenAI از رسیدن به هدفی به نام «کارآموز پژوهشی خودکار» خبر داد؛ جایی که به گفته‌ی این شرکت، عامل‌های هوش مصنوعی‌اش حالا معادل ۳.۱ روزکاریِ یک انسان را در هر روز کاری واقعی انجام می‌دهند. آنتروپیک هم مسیر مشابهی را دنبال می‌کند و برای تأمین بیش از ۱۴ گیگاوات ظرفیت پردازشی، برنامه‌ای با هزینه‌ی بالغ بر ۵۱۷ میلیارد دلار طی یک دهه در پیش گرفته است.

به‌این‌ترتیب، سه آزمایشگاه بزرگ – متا، OpenAI و آنتروپیک – همزمان روی یک هدف مشترک کار می‌کنند: خودکارسازی حلقه‌ی «پژوهش درباره‌ی پژوهش». برای آشنایی بیشتر با شرکتی که این رقابت را با ChatGPT کلید زد، این معرفی کامل از OpenAI را بخوانید.

بخش ۸ — چرا این خبر برای عموم هم اهمیت دارد

توسعه‌ی مدل‌های بزرگ زبانی به‌شدت به آزمایش‌های تجربی وابسته است: هزاران پیکربندی مختلف باید امتحان شوند تا معماری، داده و روش آموزش بهینه پیدا شود. هر آزمایش ناموفق یعنی ساعت‌ها زمان و انرژی هدررفته روی خوشه‌های گرافیکی گران‌قیمت. اگر بتوان با یک لایه‌ی داوریِ ارزان‌قیمت مثل RPM جلوی اجرای آزمایش‌های کم‌بازده را گرفت، کل چرخه‌ی نوآوری در هوش مصنوعی سریع‌تر، ارزان‌تر و در دسترس‌تر می‌شود.

این موضوع مستقیماً به بحث گسترده‌تری درباره‌ی توانایی‌های واقعی و محدودیت‌های امروزی هوش مصنوعی مربوط می‌شود؛ چراکه هرچه چرخه‌ی پژوهش سریع‌تر شود، فاصله‌ی زمانی بین اعلام یک ایده تا محصولی که کاربران عادی از آن استفاده می‌کنند نیز کوتاه‌تر خواهد شد.

از سوی دیگر، این روند سوالی جدی هم مطرح می‌کند: وقتی تصمیم درباره‌ی مسیر پژوهش هوش مصنوعی به خود هوش مصنوعی سپرده شود، جایگاه قضاوت و خلاقیت انسانی در این فرایند کجاست؟ متا و دیگر آزمایشگاه‌ها تأکید می‌کنند که این ابزارها فعلاً نقش «فیلتر اولیه» دارند و تصمیم نهایی همچنان با پژوهشگران انسانی است؛ اما با توجه به سرعت پیشرفت این حوزه، بسیاری از کارشناسان معتقدند مرز میان کمک‌کننده و تصمیم‌گیرنده در حال کم‌رنگ‌شدن است. موضوعی که به بحث گسترده‌تر درباره‌ی مرز میان توهم مهارت و تخصص واقعی در کار با هوش مصنوعی هم پیوند می‌خورد.

بخش ۹ — نگاهی به آینده

متا هنوز جزئیات کاملی درباره‌ی برنامه‌ی عرضه‌ی گسترده‌تر RPM در محصولات تجاری‌اش منتشر نکرده و این پروژه در حال حاضر بیشتر جنبه‌ی پژوهشی و متن‌باز دارد. با این حال، الگوی رفتاری آزمایشگاه‌های بزرگ در ماه‌های اخیر نشان می‌دهد که چنین ابزارهایی معمولاً به‌سرعت وارد خط تولید داخلی می‌شوند. کاربرانی که می‌خواهند با مفهوم مقایسه و انتخاب هوشمند بین گزینه‌های مختلف در تعامل روزمره با ابزارهای هوش مصنوعی بیشتر آشنا شوند، می‌توانند نگاهی هم به این مقایسه‌ی میدانی میان دو مدل زبانی رقیب در یک بازی فکری بیندازند تا ببینند چگونه کیفیت تصمیم‌گیری یک مدل، نتیجه‌ی نهایی را عوض می‌کند.

پرسش‌های پرتکرار

مدل‌های ترجیح پژوهشی (RPM) دقیقاً چه کاری انجام می‌دهند؟
پیش از اجرای واقعی یک آزمایش یادگیری ماشین روی سخت‌افزار گرافیکی، چند ایده‌ی رقیب را با هم مقایسه می‌کنند و بهترین گزینه را برای اجرا انتخاب می‌کنند، بدون نیاز به پیش‌بینی نمره‌ی دقیق هرکدام.

تفاوت نسخه‌ی استنتاجی و نسخه‌ی عامل‌محور RPM چیست؟
نسخه‌ی استنتاجی فقط با خواندن طرح و کد قضاوت می‌کند؛ نسخه‌ی عامل‌محور پیش از قضاوت، نسخه‌های کوچک و کوتاه‌مدت هر ایده را واقعاً در یک محیط ایزوله اجرا می‌کند تا تصمیم دقیق‌تری بگیرد.

این فناوری چه زمانی وارد محصولات عمومی می‌شود؟
در حال حاضر این پروژه بیشتر جنبه‌ی پژوهشی و متن‌باز دارد و متا هنوز برنامه‌ی مشخصی برای عرضه‌ی تجاری آن اعلام نکرده است.

آیا این روش فقط مخصوص متا است؟
خیر. چارچوب AIRA-dojo متن‌باز است و هر پژوهشگری می‌تواند از آن استفاده کند؛ به‌علاوه OpenAI و آنتروپیک هم با رویکردهای مشابه خودشان مسیر خودکارسازی پژوهش هوش مصنوعی را دنبال می‌کنند.