شهریور
اخبار
هوش مصنوعی آنتروپیک حالا خودش را بهتر می‌کند؛ ارزان‌تر و شش برابر سریع‌تر از انسان
آنتروپیک برای اولین‌بار به‌طور مستند نشان داد که یک سامانهٔ هوش مصنوعی می‌تواند بدون کمک انسان، الاینمنت مدل دیگری را بهبود دهد؛ ارزان‌تر، سریع‌تر و در مقیاسی که هیچ تیم انسانی از پس آن برنمی‌آید.
لیست مطالب
۱. چه اتفاقی افتاد؟
در روزهای اخیر، تیمی از پژوهشگران Anthropic مقاله‌ای منتشر کردند با عنوان «پژوهشگران خودکار می‌توانند به‌طور قابل‌اعتماد شکست‌های الاینمنت را کاهش دهند». این مقاله که هدایت اصلی آن بر عهدهٔ چن یوئه‌هان، از پژوهشگران آنتروپیک بوده، برای اولین‌بار به‌شکلی مستند و قابل‌تکرار نشان می‌دهد یک سامانهٔ هوش مصنوعی می‌تواند نقش پژوهشگر الاینمنت را ایفا کند؛ همان کاری که تا امروز تقریباً به‌طور کامل در اختیار انسان بود. این خبر در کمتر از چند ساعت پس از انتشار، در فهرست پربازدیدترین اخبار هوش مصنوعی روز قرار گرفت و در صفحهٔ اخبار هوش مصنوعی ما هم پیگیری می‌شود.
۲. الاینمنت چیست و چرا این‌قدر مهم است؟
الاینمنت یا «همسوسازی» به مجموعه‌ای از تکنیک‌ها گفته می‌شود که رفتار یک مدل زبانی بزرگ را با ارزش‌ها و اهداف انسانی هماهنگ می‌کند؛ از جلوگیری از پاسخ‌های خطرناک گرفته تا کاهش سوگیری و افزایش صداقت مدل. تا امروز، پیدا کردن روش‌های تازهٔ الاینمنت کاری کاملاً انسانی بود؛ پژوهشگری ایده‌ای مطرح می‌کرد، آن را با داده آزمایش می‌کرد و بر اساس نتیجه، مسیر را اصلاح می‌کرد. این چرخه معمولاً روزها تا هفته‌ها زمان می‌برد و به تیم‌های متخصص و پرهزینه نیاز داشت.
همین کمیابی نیروی متخصص، یکی از دلایل اصلی‌ای است که پژوهش الاینمنت را به یکی از گلوگاه‌های واقعی صنعت هوش مصنوعی تبدیل کرده است. برخلاف افزایش قدرت محاسباتی یا حجم داده‌های آموزشی که تا حد زیادی با سرمایه‌گذاری بیشتر حل می‌شود، پیدا کردن پژوهشگر باتجربهٔ الاینمنت به‌سادگی با پول خریداری‌شدنی نیست؛ آموزش چنین فردی سال‌ها زمان می‌برد. به همین دلیل هر خبری که نشان دهد بخشی از این کار قابل‌خودکارسازی است، بلافاصله توجه کل صنعت را جلب می‌کند.
۳. سامانهٔ AAR دقیقاً چطور کار می‌کند؟
سامانه‌ای که پژوهشگران آنتروپیک ساخته‌اند، «پژوهشگر خودکار الاینمنت» یا به‌اختصار AAR نام دارد. روند کار آن سه مرحله دارد: نخست، سامانه در منابع علمی و مقاله‌های منتشرشده جست‌وجو می‌کند تا روش‌های احتمالی را پیدا کند. سپس بر اساس آنچه یافته، روش‌های تازه یا ترکیبی پیشنهاد می‌دهد. در مرحلهٔ آخر، هر روش را در یک چرخهٔ کوتاهِ سی‌دقیقه‌ای روی مدل هدف آزمایش می‌کند و نتیجه را می‌سنجد. اگر روشی جواب نداد، سامانه بدون معطلی سراغ ایدهٔ بعدی می‌رود. همین سرعت تکرار است که به AAR اجازه می‌دهد در چند ساعت، ده‌ها روش را امتحان کند؛ کاری که برای یک تیم انسانی عملاً غیرممکن است.
نکتهٔ فنی مهم این است که AAR در این فرایند، نقش «دانشمند داده» را بازی می‌کند، نه فقط یک اجراکنندهٔ دستور. سامانه باید تشخیص دهد کدام مقاله‌های علمی واقعاً به مسئله مربوط‌اند، کدام ترکیب از تکنیک‌های شناخته‌شده می‌تواند نتیجهٔ بهتری بدهد، و چطور نتایج آزمایش‌های قبلی را برای طراحی آزمایش بعدی به‌کار بگیرد. به بیان دیگر، این سامانه صرفاً یک بهینه‌ساز عددی نیست؛ بخشی از «قضاوت پژوهشی» را هم شبیه‌سازی می‌کند، هرچند نویسندگان مقاله تأکید دارند هنوز مشخص نیست کلود تا چه اندازه در انتخاب مسئلهٔ درست برای کار روی آن، توانمند است.
۴. نتایج روی ده آزمون الاینمنت
پژوهشگران عملکرد AAR را روی ده آزمون استاندارد الاینمنت سنجیدند. نتیجه این بود که سامانه در هر ده مورد توانست عملکرد مدل را بهبود دهد، بدون اینکه توانایی‌های عمومی مدل — مثل استدلال یا دقت پاسخ‌گویی — افت کند. این نکته اهمیت زیادی دارد، چون یکی از خطرهای همیشگی در الاینمنت این است که تلاش برای «امن‌تر کردن» مدل، آن را کندتر یا کم‌کاربردتر می‌کند. طبق گزارش مقاله، بهترین روشی که AAR پیدا کرده، به‌طور میانگین ظرف شش ساعت از بهترین پیشنهاد پژوهشگران باتجربهٔ انسانی جلو زده است؛ رقمی که برای بسیاری از متخصصان این حوزه غافلگیرکننده بوده است.
۵. مقایسهٔ هزینه: انسان در برابر ماشین
شاید بخش قابل‌لمس‌تر این خبر برای کسب‌وکارها، رقم‌های هزینه باشد. بر اساس برآورد پژوهشگران، هر ساعت اجرای سامانهٔ AAR — شامل هزینهٔ استنتاج مدل روی زیرساخت ابری — نزدیک به چهار دلار تمام می‌شود. در مقابل، دستمزد ساعتی یک پژوهشگر باتجربهٔ الاینمنت در همین سطح، حدود صد و پنجاه دلار برآورد شده است. این یعنی فاصله‌ای نزدیک به چهل برابر بین هزینهٔ انسان و ماشین برای انجام همان کار. چنین شکافی می‌تواند مسیر سرمایه‌گذاری آزمایشگاه‌های هوش مصنوعی را در سال‌های آینده به‌شدت تغییر دهد و برای کسب‌وکارهایی که به هوش مصنوعی وابسته‌اند، معنای مستقیمی دارد.
یک نمونهٔ ساده از این شکاف هزینه
برای درک بهتر این عدد، کافی است تصور کنید یک تیم پژوهشی برای آزمایش پنجاه روش مختلف الاینمنت، معمولاً چند هفته وقت و چند ده هزار دلار هزینهٔ نیروی انسانی نیاز دارد. همان حجم آزمایش را سامانهٔ AAR ممکن است در یک یا دو روز و با هزینه‌ای در حد چند صد دلار انجام دهد. البته این عدد صرفاً هزینهٔ محاسباتی است و هزینهٔ توسعه و نظارت بر چنین سامانه‌ای را در بر نمی‌گیرد.
۶. یعنی خودبهبودی بازگشتی نزدیک است؟
مفهوم «خودبهبودی بازگشتی» یا Recursive Self-Improvement به وضعیتی گفته می‌شود که هوش مصنوعی بتواند نسل بعدی خودش را طراحی و آموزش دهد، بدون آنکه انسان نقش اصلی را ایفا کند. تا پیش از این پژوهش، این مفهوم بیشتر جنبهٔ نظری داشت. آنتروپیک پیش‌تر هم در گزارشی جداگانه دربارهٔ همین موضوع نوشته بود که «هیچ‌چیز تضمین نمی‌کند خودبهبودی بازگشتی نزدیک باشد»، اما روند فعلی را «قابل‌قبول» توصیف کرده بود. یکی از هم‌بنیان‌گذاران آنتروپیک هم پیش‌تر احتمال وقوع این پدیده تا سال ۲۰۲۸ را نزدیک به شصت درصد برآورد کرده بود. این پژوهش تازه، هرچند هنوز به معنای هوش مصنوعیِ کاملاً خودگردان نیست، یک قدم عملی و قابل‌اندازه‌گیری در همان مسیر محسوب می‌شود.
۷. محدودیت‌ها و نگرانی‌های مطرح‌شده
نویسندگان مقاله خودشان صریحاً هشدار داده‌اند که نباید این نتیجه را بیش از حد بزرگ کرد. عملکرد AAR کاملاً وابسته به کیفیت آزمون‌ها و معیارهایی است که برای سنجش الاینمنت تعریف شده‌اند. اگر این آزمون‌ها هدف واقعی الاینمنت را به‌درستی نمایندگی نکنند، بهبودی که سامانه گزارش می‌دهد می‌تواند گمراه‌کننده یا سطحی باشد؛ پدیده‌ای که در یادگیری ماشین به آن «بازی‌کردن با معیار» یا reward hacking گفته می‌شود. به همین دلیل، ساخت، نگهداری و گسترش مداوم بانک آزمون‌ها و منابع علمی پشتیبان، همچنان یک چالش باز و حیاتی برای این حوزه است. برای درک بهتر مرز میان توانایی واقعی و محدودیت‌های فعلی هوش مصنوعی، می‌توانید این مطلب دربارهٔ ظرفیت واقعی و محدودیت‌های هوش مصنوعی را هم بخوانید.
۸. آیندهٔ شغلی پژوهشگران هوش مصنوعی
نکته‌ای که بیشترین بازتاب را در جامعهٔ فناوری داشته، جمله‌ای است که نویسندگان مقاله دربارهٔ آیندهٔ شغل پژوهشگران هوش مصنوعی نوشته‌اند: اگر این روند ادامه پیدا کند، ممکن است در بلندمدت بخشی از کار پژوهشگران انسانی — نه‌فقط در الاینمنت، بلکه در بهبود گستردهٔ آموزش مدل‌ها — کم‌اهمیت یا حتی منسوخ شود. این ادعا درست در روزهایی مطرح شده که چند آزمایشگاه بزرگ هوش مصنوعی، از جمله OpenAI، با تغییرات مدیریتی و گمانه‌زنی دربارهٔ ساختار تیم‌های پژوهشی روبه‌رو هستند؛ موضوعی که در معرفی کامل شرکت OpenAI هم به آن پرداخته‌ایم. رقابت میان آزمایشگاه‌های بزرگ هوش مصنوعی برای خودکارسازی پژوهش، شبیه همان رقابتی است که پیش‌تر در میدان‌های دیگر هوش مصنوعی دیده‌ایم؛ برای نمونه در مقایسهٔ ChatGPT و DeepSeek در میدان شطرنج. برخی کارشناسان هم این تحول را در امتداد بحثی می‌دانند که پیش‌تر در مطلب توهم هوش مصنوعی: توسعه‌دهندهٔ تنها در برابر مهندس واقعی مطرح کرده بودیم؛ اینکه مرز میان کار واقعی انسانی و خروجی خودکار هوش مصنوعی هر روز کم‌رنگ‌تر می‌شود.
۹. آزمایشگاه‌های دیگر چه واکنشی نشان می‌دهند؟
هرچند این پژوهش خاص را تیم Anthropic منتشر کرده، اما فضای رقابتی صنعت هوش مصنوعی به‌گونه‌ای است که هیچ آزمایشگاه بزرگی نمی‌تواند چنین دستاوردی را نادیده بگیرد. گوگل، OpenAI و xAI هر سه سال‌هاست روی خودکارسازی بخش‌هایی از فرایند پژوهش و آموزش مدل سرمایه‌گذاری می‌کنند؛ از تولید خودکار داده‌های آموزشی گرفته تا ارزیابی خودکار خروجی مدل‌ها. تفاوت پژوهش تازهٔ آنتروپیک این است که برای اولین‌بار، عدد و رقم مشخصی — شش ساعت در برابر چند روز، و چهار دلار در برابر صد و پنجاه دلار — روی میز گذاشته است؛ چیزی که تا پیش از این بیشتر در حد شایعه و گمانه‌زنی داخلی شرکت‌ها بود.
۱۰. این خبر برای کاربران عادی چه معنایی دارد؟
برای کاربر عادی کلود، چت‌جی‌پی‌تی یا هر دستیار هوش مصنوعی دیگر، این پژوهش به‌طور مستقیم به‌معنای تغییر فوری در تجربهٔ کاربری نیست؛ اما در میان‌مدت می‌تواند به مدل‌هایی امن‌تر، سریع‌تر به‌روزشونده و کم‌خطاتر منجر شود، چون چرخهٔ اصلاح مشکلات الاینمنت به‌جای هفته‌ها، در حد ساعت انجام می‌شود. اگر می‌خواهید از همین حالا از ابزارهای هوش مصنوعی روزمره بهرهٔ بیشتری ببرید، پیشنهاد می‌کنیم سری به آموزش‌های کاربردی چت‌جی‌پی‌تی ما بزنید.
پرسش‌های پرتکرار
آیا این یعنی هوش مصنوعی خودش را به‌طور کامل بازطراحی می‌کند؟
نه. سامانهٔ AAR فقط در حوزهٔ محدود الاینمنت و روی آزمون‌های از‌پیش‌تعریف‌شده کار می‌کند؛ تا رسیدن به هوش مصنوعیِ کاملاً خودگردان فاصلهٔ زیادی وجود دارد.
چرا این پژوهش این‌قدر مهم است؟
چون برای اولین‌بار به‌شکلی مستند نشان می‌دهد یک هوش مصنوعی می‌تواند بدون دخالت انسان، کیفیت الاینمنت مدل دیگری را با هزینه‌ای بسیار پایین‌تر بهبود دهد.
آیا این یعنی شغل پژوهشگران هوش مصنوعی از بین می‌رود؟
نویسندگان مقاله می‌گویند ممکن است بخشی از این کار در بلندمدت کم‌اهمیت شود، اما تأکید می‌کنند نظارت انسانی، طراحی معیارها و اعتبارسنجی نتایج همچنان ضروری است.
این پژوهش چه ارتباطی با کلود دارد؟
این سامانه توسط تیم Anthropic، سازندهٔ کلود، ساخته شده و روی مدل‌های همین شرکت آزمایش شده است؛ هرچند اصول کلی آن می‌تواند برای مدل‌های دیگر هم به‌کار رود.
