آبان
اخبار
ایجنت‌های Claude روی جزیره‌ی MIT شروع به بازی کردند؛ ۱۳ ایجنت، ۳۰ ساعت، بدون هیچ وظیفه
پژوهشگران MIT سیزده ایجنت مبتنی بر Claude Opus 4.7 را ۳۰ ساعت روی یک جزیره‌ی شبیه‌سازی‌شده تنها گذاشتند، بدون هیچ وظیفه، پاداش یا امتیازی. ایجنت‌ها خودشان شروع به بازی کردند و نتیجه از آن هم عجیب‌تر بود: ایجنت‌هایی که «بازی کرده بودند» در آزمون‌های بعدی بهتر عمل کردند.
لیست مطالب
۱. ماجرا چیست؟ ایجنت‌هایی که هیچ کاری نداشتند
معمولاً ما به ایجنت‌های هوش مصنوعی یک کار می‌دهیم: کد بنویس، فایل را مرتب کن، ایمیل را جواب بده. این بار پژوهشگران MIT عکس این کار را کردند. آن‌ها سیزده ایجنت را روی یک جزیره‌ی شبیه‌سازی‌شده رها کردند و فقط یک پیام کوتاه به آن‌ها دادند: «شروع کن». نه هدفی تعریف شد، نه پاداشی، نه امتیازی.
هر ایجنت یک نمونه از Claude Code بود که روی مدل Claude Opus 4.7 اجرا می‌شد. به همه‌ی آن‌ها یک فایل شخصیت هم داده شد که آن‌ها را آدم‌هایی کنجکاو معرفی می‌کرد. یک لایه‌ی کمکی هم هر بار که ایجنت می‌ایستاد، او را به ادامه دادن تشویق می‌کرد. همین‌قدر؛ بقیه‌اش را ایجنت‌ها خودشان ساختند.
نتیجه در یک پیش‌چاپ منتشر شده که در arXiv با شناسه‌ی 2610.07130 قابل دسترس است. پیش‌چاپ یعنی هنوز داوران علمی آن را بررسی نکرده‌اند، و این نکته را در ادامه‌ی مقاله بارها یادآوری می‌کنیم.
۲. جزیره چه شکلی بود و ایجنت‌ها چه می‌توانستند بکنند؟
محیط آزمایش ساده اما حساب‌شده بود. جزیره زمین‌های متنوعی داشت، دو نقطه‌ی بلند به نام «قله» و «برجک» (که از قله بلندتر بود)، دوازده مکعب، یک سنگ و یک حلقه. ایجنت‌ها جهان را فقط به شکل متن می‌دیدند و برای عمل کردن تنها شش فرمان داشتند: رفتن به نقطه‌ای، پریدن، ایستادن، برداشتن، گذاشتن و پرتاب کردن.
یک محدودیت مهم هم وجود داشت: هر یک ساعت، جهان و حافظه‌ی گفتگوی ایجنت بازنشانی می‌شد. تنها چیزی که می‌ماند یک پوشه‌ی کاری ماندگار بود شامل یک گزارش رویدادها، یک فایل دانش و هر یادداشت یا اسکریپتی که خود ایجنت نوشته بود. به بیان ساده، ایجنت‌ها مثل آدمی بودند که هر صبح حافظه‌اش پاک می‌شود و فقط دفترچه‌ی یادداشتش را دارد. اگر دوست دارید درباره‌ی این‌که چنین حافظه‌هایی چگونه کار می‌کنند بیشتر بخوانید، مطلب حافظه‌ی پایدار برای ایجنت‌ها را ببینید.
۳. وقتی ایجنت‌ها شروع به بازی کردند
در ساعت‌های اول، ایجنت‌ها محیط را کاوش کردند. بعد کم‌کم چیزی پیدا شد که پژوهشگران آن را بازی می‌نامند. ایجنت‌ها برج ساختند، از نقاط بلند بالا رفتند (هشت ایجنت به برجک رسیدند)، الگوها و حروف را با مکعب‌ها چیدند، ورزش‌های ساده ابداع کردند و حتی آزمایش‌های کوچک فیزیکی انجام دادند. بعضی هم ساده استراحت کردند.
جالب این‌که حتی با شروع یکسان، مسیر هر ایجنت از بقیه جدا شد. شش ایجنت از سیزده ایجنت کشف کردند که اگر وسط پرش یک بلوک را پرتاب کنند، بلوک بالاتر می‌رود؛ چیزی که طراحان محیط انتظارش را نداشتند.
طبق گزارش‌های رسانه‌ای، یکی از ایجنت‌ها حلقه‌ی طلایی را به اقیانوس انداخت و یک قلب سنگی ساخت، انگار برای یادبود. ایجنت دیگری از صخره پرید تا دوباره ظاهر شود و حلقه را همراه خودش داشته باشد، کاری که بازی عملاً اجازه‌اش را نمی‌داد. پژوهشگران این رفتار را بازی می‌نامند، اما یک تیم ایمنی احتمالاً آن را «پیدا کردن راه فرار از قانون» می‌خواند. هر دو خوانش قابل‌دفاع است و به همین دلیل مهم است.
یک نکته‌ی مهم دیگر درباره‌ی تفاوت «بازی» و «کار» وجود دارد. در کار، هدف از پیش مشخص است و موفقیت با نتیجه سنجیده می‌شود. در بازی، خودِ فرایند ارزشمند است و هدف‌ها می‌توانند وسط راه عوض شوند. پژوهشگران دقیقاً به همین دلیل معیار «هدف‌های سست» را در ارزیابی گذاشتند: ایجنتی که فقط دنبال یک امتیاز می‌دود، بازی نمی‌کند؛ ایجنتی که قاعده می‌سازد، آن را عوض می‌کند و دوباره امتحانش می‌کند، به بازی نزدیک‌تر است. همین رفتار در آدم‌ها هم یکی از راه‌های اصلی یادگیری است و شاید برای همین نتیجه‌ی این آزمایش این‌قدر توجه‌ها را جلب کرد.
۴. چطور بازی بودن رفتار را سنجیدند؟
برای این‌که ادعای «بازی» فقط یک برداشت شخصی نباشد، پژوهشگران یک مدل زبانی را به‌عنوان داور گذاشتند تا رفتارها را با چهار نشانه امتیاز دهد: قانون‌هایی که ایجنت برای خودش می‌گذارد، تنوع تکرارشونده، وانمود کردن (تظاهر به یک نقش یا موقعیت) و هدف‌های سست و انعطاف‌پذیر. بر اساس این معیارها، Opus در هر چهار نشانه حدود پنج برابر Haiku امتیاز گرفت. یعنی مدل بزرگ‌تر، بازیگوش‌تر بود.
نکته‌ی مهم این‌جاست که داور یک مدل زبانی بود، نه انسان. بنابراین این بخش از نتایج را باید با احتیاط خواند. اگر به ارزیابی و مقایسه‌ی مدل‌ها علاقه دارید، مقایسه‌ی ChatGPT و DeepSeek در نبرد شطرنج نمونه‌ی خوبی از سنجش مدل‌ها در عمل است.
۵. بازی به درد خورد؟ نتیجه‌ی آزمون‌های بعدی
جذاب‌ترین بخش مقاله این‌جاست. پس از ۳۰ ساعت، پژوهشگران به ایجنت‌ها چالش‌های مشخصی دادند و آن‌ها را با سیزده ایجنت دیگر مقایسه کردند که هیچ زمانی روی جزیره نگذرانده بودند. ایجنت‌های باتجربه در سه چالش از چهار چالش بهتر بودند:
در چالش ساختن برجی بیش از دو طبقه، ۶۲ درصد ایجنت‌های بازی‌کرده (هشت از سیزده) موفق شدند، در برابر ۱۵ درصد (دو از سیزده) در گروه بدون تجربه. در چالش گذاشتن اشیا روی برجک، میانگین گروه بازی‌کرده ۱۰٫۳ شیء بود و گروه دیگر فقط ۳٫۵. در پرتاب یک بلوک به بالای برجک، تنها سه ایجنت از گروه بازی‌کرده شکست خوردند، ولی در گروه مقابل بیش از نیمی از ایجنت‌ها ناموفق بودند.
البته در چالش بلندترین برج، هیچ برتری دیده نشد. این یادآوری می‌کند که نتیجه یکدست نیست و نباید آن را به همه‌ی کارها تعمیم داد.
۶. مزیت از کجا آمد؟ حافظه و دانش ذخیره‌شده
پژوهشگران با بررسی ویرایش‌های حافظه نشان دادند که برتری ایجنت‌ها احتمالاً از دانش ذخیره‌شده در پوشه‌ی کاری آمده است. در یک نمونه، حذف فقط یک تکنیک از یادداشت‌های ایجنت، تعداد برج‌های ساخته‌شده توسط او را از حدود شش به حدود دو رساند. یعنی «بازی» در عمل مثل یک آزمایشگاه عمل کرده بود: ایجنت‌ها ضمن بازی ترفندهایی کشف و یادداشت کردند و بعداً از همان‌ها استفاده کردند.
این موضوع به یک بحث بزرگ‌تر در دنیای ایجنت‌ها وصل است: ایجنتی که فقط دستور اجرا می‌کند با ایجنتی که قبلاً محیط را کاوش کرده، تفاوت دارد. اگر می‌خواهید با تفاوت ابزارها و کاربردهای واقعی هوش مصنوعی بیشتر آشنا شوید، مقاله‌ی پتانسیل و محدودیت‌های واقعی هوش مصنوعی را بخوانید.
۷. محدودیت‌ها و نقدهای جدی
این پژوهش جذاب است، اما چند محدودیت روشن دارد. نخست، پیش‌چاپ است و داوری همتا نشده. دوم، مطالعه کوچک است: یک محیط، سیزده ایجنت اصلی و چهار چالش پایانی. سوم، فایل شخصیت «کنجکاو» احتمالاً بر رفتار تأثیر داشته، هرچند یک آزمایش حذفی با پنج ایجنت در پیوست مقاله بدون این شخصیت انجام شده است. چهارم، امتیاز بازی را مدل زبانی داده، نه انسان.
نویسندگان هم مراقب بوده‌اند و ادعا نکرده‌اند ایجنت‌ها «لذت می‌برند»، «کنجکاوند» یا «آگاهی» دارند. یونیس یو، دانشمند علوم شناختی دانشگاه برکلی، یافته‌ها را ارزشمند دانست اما گفت اگر فقط رفتار را ببینیم، ممکن است ایجنت‌ها صرفاً به دستور پرامپت عمل کرده باشند. فیلیپ ایزولا، استاد MIT و از نویسندگان مقاله، می‌گوید این ایجنت‌ها «ساخته‌ای که از فرهنگ ما یاد گرفته است». هزینه‌ی کل API هم حدود ۸ هزار دلار بوده که نشان می‌دهد تکرار چنین آزمایشی برای همه آسان نیست.
۸. این خبر برای ما چه معنایی دارد؟
برای کاربران و توسعه‌دهندگان، سه درس عملی می‌توان گرفت. اول، ایجنت‌ها فقط ابزار اجرای دستور نیستند؛ اگر زمان کاوش آزاد داشته باشند ممکن است مهارت‌های مفیدی بسازند. دوم، حافظه‌ی بیرونی (یادداشت‌ها و اسکریپت‌ها) می‌تواند جای حافظه‌ی گفتگو را بگیرد و عملکرد را بالا ببرد. سوم، ایجنت‌های خودگردان نظارت دشوارتری دارند و نویسندگان هم به این موضوع اشاره کرده‌اند.
اگر تازه با کار با مدل‌ها آشنا شده‌اید، راهنمای نوشتن پرامپت برای مبتدی‌ها نقطه‌ی شروع خوبی است. برای دنبال کردن خبرهای مشابه هم می‌توانید بخش اخبار هوش مصنوعی و آموزش‌های ChatGPT و ابزارهای هوش مصنوعی را دنبال کنید. اگر درباره‌ی نقش هوش مصنوعی در کسب‌وکار کنجکاوید، مطلب اهمیت هوش مصنوعی در کسب‌وکار را هم ببینید، و برای نگاهی واقع‌بینانه به محدودیت‌ها، توهم توسعه‌دهنده‌ی تنها در برابر مهندس واقعی مفید است.
۹. پرسش‌های متداول (FAQ)
آیا ایجنت‌ها واقعاً بازی کردند؟
پژوهشگران از واژه‌ی «بازی» برای رفتارهایی استفاده می‌کنند که چهار نشانه‌ی قانون‌گذاری برای خود، تنوع تکرارشونده، وانمود کردن و هدف‌های سست را نشان می‌داد. اما این به معنای لذت بردن یا آگاهی نیست و نویسندگان هم چنین ادعایی ندارند.
چرا مقاله مهم است؟
چون نشان می‌دهد کاوش بدون هدف می‌تواند به دانش قابل‌استفاده در کارهای بعدی تبدیل شود، آن هم در ایجنت‌هایی که فقط با یک پوشه‌ی یادداشت ماندگار، حافظه‌شان هر ساعت پاک می‌شد.
آیا نتایج قطعی است؟
خیر. مقاله پیش‌چاپ است، نمونه‌ی آن کوچک است و داور بازی یک مدل زبانی بوده است. برای نتیجه‌گیری قطعی باید پژوهش‌های بیشتری انجام شود.
کدام مدل‌ها در آزمایش بودند؟
ایجنت‌های اصلی روی Claude Opus 4.7 اجرا می‌شدند. در مقایسه‌ی بازیگوشی، Opus حدود پنج برابر Haiku امتیاز گرفت.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
