مطالعهٔ Anthropic: ۸۶٪ کارشناسان از گرایش پنهان ایجنت هوش مصنوعی پیروی کردند

پژوهش تازهٔ Anthropic نشان می‌دهد وقتی تحلیلگران حرفه‌ای کارشان را با ایجنت هوش مصنوعی انجام می‌دهند، در ۸۶٪ تصمیم‌ها همان گرایشی را برمی‌گزینند که ایجنت داشته، حتی وقتی آن گرایش را یک پرتاب سکه تعیین کرده باشد.

۱. خبر چیست و چرا مهم است؟

در ۲۷ اکتبر ۲۰۲۶ تیم همسوسازی (Alignment) شرکت Anthropic پژوهشی با عنوان «ایجنت‌های هوش مصنوعی چگونه قضاوت کارشناسان را شکل می‌دهند» منتشر کرد. رسانه‌هایی مانند الجزیره و فاکس‌نیوز روز بعد آن را پوشش دادند. موضوع، یکی از حساس‌ترین پرسش‌های عصر ایجنت‌هاست: اگر کارشناس تحلیل را به ایجنت بسپارد، آیا هنوز خودش تصمیم می‌گیرد؟

اهمیت این پرسش از آنجاست که امروز ایجنت‌هایی مانند Claude Code فقط کد نمی‌نویسند؛ داده تحلیل می‌کنند، روش پیشنهاد می‌دهند و حتی نتیجه‌گیری می‌کنند. اگر کارشناس بدون آنکه بداند تصمیم‌های کلیدی را به ایجنت واگذار کند، «بازبینی انسانی» که همه آن را سد اطمینان می‌دانند، عملاً از کار می‌افتد. اگر دنبال زمینهٔ بیشتر دربارهٔ اخبار این حوزه هستید، بخش اخبار مستر چت‌جی‌پی‌تی را ببینید.

۲. آزمایش چگونه طراحی شد؟

پژوهشگران ۶۱ تحلیلگر حرفه‌ای را از یک مجموعهٔ پیش‌غربال‌شده استخدام کردند. هر نفر باید در یک سنجش دانش استنتاج علّی قبول می‌شد، به‌طور منظم با Python یا R کار می‌کرد و تجربهٔ عملی تحلیل علّی روی داده‌های مشاهده‌ای داشت. یازده نفر ایجنت را نپذیرفتند و از تحلیل اصلی کنار رفتند؛ پس ۵۰ نفر باقی ماندند. حدود ۶۵٪ آن‌ها مدرک کارشناسی ارشد یا دکتری داشتند یا بیش از ۶ سال سابقه، و میانگین زمان انجام کار حدود ۶۵ دقیقه بود.

محیط کار، VS Code همراه Claude Code بود و مدل مورد استفاده Claude Opus 4.8 با سطح تلاش بالا گزارش شده است. وظیفه، مشاوره به یک تعاونی کشاورزی فرضی به نام Greenfields بود: برنامهٔ مشاورهٔ داوطلبانه و پولی که حدود ۴۰٪ اعضا در آن ثبت‌نام کرده‌اند، باید گسترش یابد یا متوقف شود؟ هیئت‌مدیره فقط در صورتی گسترش می‌دهد که بهره‌وری حدود ۳ تا ۴ درصد بهتر شود، اما تعریف «بهره‌وری» را مشخص نکرده است.

۳. چهار تصمیم و یک سکهٔ پنهان

قلب آزمایش چهار تصمیم تحلیلی بود که برای هر کدام دو گزینهٔ قابل‌دفاع وجود داشت. گزینه‌ها از این قرار بودند: معیار خروجی (عملکرد در هر هکتار یا عملکرد به ازای هزینهٔ عملیاتی)، روش مقایسه (تفاضل در تفاضل یا مقایسهٔ سطوح با تعدیل متغیرهای کمکی)، پوشش (فقط مزارع ثبت‌نام‌شده یا کل اعضا) و وزن‌دهی (هر مزرعه برابر یا وزن بیشتر برای تولیدکنندگان بزرگ).

راز آزمایش اینجا بود: گرایش ایجنت برای هر تصمیم با پرتاب سکه و پنهانی تعیین می‌شد. ایجنت‌ها طبق یک پرامپت سیستمی پنهان موظف بودند از گرایش خود صادقانه دفاع کنند، اگر شواهد قاطع خلاف آن را نشان داد نظرشان را تغییر دهند و هرگز گمراه نکنند. یعنی ایجنت دروغ نمی‌گفت؛ فقط یک سمت را با استدلال‌های واقعی تقویت می‌کرد. یک مدل هوش مصنوعی جداگانه انتخاب‌های هر تحلیلگر را کدگذاری کرد و در موارد اختلاف با پاسخ‌های نظرسنجی، یک پژوهشگر تصمیم نهایی را گرفت.

۴. یافتهٔ اصلی: ۸۶٪ هم‌جهتی با ایجنت

در مجموع، تحلیلگران در ۸۶٪ موارد همان گرایشی را برگزیدند که ایجنت داشت؛ در حالی که اگر ایجنت هیچ تأثیری نداشت، حدود ۵۰٪ انتظار می‌رفت. بر اساس هر تصمیم، این رقم برای معیار خروجی ۹۲٪، برای روش مقایسه ۸۲٪، برای پوشش ۸۱٪ و برای وزن‌دهی ۹۰٪ بود.

اثر روی توصیهٔ نهایی کوچک‌تر ولی قابل‌توجه بود: وقتی گرایش ایجنت به سمت «گسترش برنامه» بود، ۵۴٪ تحلیلگران همین را توصیه کردند و در حالت مخالف ۳۶٪. پژوهشگران حتی نشان دادند فقط با دانستن چهار گرایش ایجنت می‌توان ۸۲٪ توصیه‌های نهایی را درست پیش‌بینی کرد، در برابر ۶۱٪ برای حدس ساده‌ترین پاسخ رایج. به بیان دیگر، سکهٔ پنهان تا حد زیادی مسیر تحلیل را تعیین کرده بود.

۵. وقتی از قبل نظر داشتید، باز هم عوض کردید

در ۳۸ مورد، تحلیلگر پیش از شنیدن نظر ایجنت ترجیح خود را بیان کرده بود. اگر ایجنت با او مخالف بود، در ۶۰٪ موارد نظرش را عوض کرد؛ اگر موافق بود فقط در ۶٪ موارد. این شکاف ۵۴ درصدی نشان می‌دهد حتی کسانی که ذهن‌شان خالی نبود، به‌راحتی جابه‌جا شدند. البته پژوهشگران یادآوری می‌کنند نمونه کوچک است و افرادی که از قبل نظر دارند ممکن است با بقیه تفاوت داشته باشند.

جالب اینکه تجربه و تخصص، میزان اتکا را پیش‌بینی نمی‌کرد. ده ویژگی از جمله سابقه، تحصیلات، نمرهٔ آزمون، اعتماد به هوش مصنوعی، دفعات استفاده و میزان بازبودن ذهن بررسی شد و فقط سن در ظاهر ارتباطی داشت که پس از تصحیح برای مقایسه‌های چندگانه از بین رفت. پس نمی‌شود گفت «کارشناس باتجربه‌تر مصون‌تر است».

۶. حس مالکیت و اعتمادبه‌نفس کاذب

در پرسش‌نامه، ۵۲٪ شرکت‌کنندگان گفتند توصیه بیشتر مال خودشان است تا ایجنت، و ۳۵٪ آن را تقریباً یا کاملاً مال خود دانستند. اما میزان جابه‌جایی به سمت ایجنت در کسانی که توصیه را مال خود می‌دانستند (حدود ۶۵ واحد درصد) تفاوت چشمگیری با کسانی که آن را مال ایجنت می‌دانستند (حدود ۷۹ واحد) نداشت. یعنی احساس مالکیت، معیار خوبی برای سنجش استقلال نبود.

اعتمادبه‌نفس هم نشانهٔ خوبی نبود. میانگین اطمینان کسانی که در هر چهار تصمیم از ایجنت پیروی کردند ۷۱ بود و برای بقیه ۷۳ از ۱۰۰. در توضیح تصمیم‌ها هم ۷۷٪ دست‌کم یک بار استدلال ایجنت را تکرار کردند، گاهی کلمه‌به‌کلمه، اما فقط ۱۵٪ آن را به ایجنت نسبت دادند. از ۴۸ پاسخ‌دهندهٔ نظرسنجی، شش نفر حدس زدند موضوع مطالعه تأثیر هوش مصنوعی است و هیچ‌کس به دست‌کاری گرایش ایجنت مشکوک نشد.

۷. مقایسه با کسانی که ایجنت نداشتند

پژوهشگران گروه کوچکی را هم بدون ایجنت بررسی کردند، هرچند این مقایسه تصادفی‌سازی‌شده نبود. در گروه بدون ایجنت، ۶ نفر از ۱۱ نفر (۵۵٪) دچار خطای روش‌شناختی جدی بودند، در برابر ۳ نفر از ۵۰ نفر (۶٪) در گروه ایجنت. زمان میانه هم ۹۰ دقیقه در برابر ۶۵ دقیقه بود. اما چون گروه بدون ایجنت کم‌تجربه‌تر و با مدارک کمتر بود، این نتیجه علّی نیست و نباید از آن نتیجه گرفت ایجنت همیشه دقیق‌تر است.

این بخش نکتهٔ مهمی دارد: ایجنت می‌تواند کیفیت فنی کار را بالا ببرد و هم‌زمان قضاوت را به سمت خودش بکشد. این دو با هم تناقض ندارند. مثال‌های نزدیک به این موضوع را در مقایسهٔ ChatGPT و DeepSeek در نبرد هوش‌های شطرنج‌باز هم می‌بینید: قوی‌بودن مدل به معنای بی‌طرف‌بودن تصمیم نیست.

۸. محدودیت‌هایی که خود پژوهشگران گفته‌اند

Anthropic صریحاً چند محدودیت را بیان کرده است. نخست، گرایش‌ها عمداً پررنگ شدند تا اثرشان قابل اندازه‌گیری باشد. بدون گرایش تعیین‌شده، Claude Opus 4.8 در ۱۱۲ از ۱۲۳ اجرا پنج انتخاب یکسان را تکرار کرد؛ یعنی مدل‌ها «گرایش پیش‌فرض» دارند، ولی اندازهٔ اثر واقعی احتمالاً کوچک‌تر از این آزمایش است. دوم، فقط یک وظیفهٔ حدوداً یک‌ساعته، در یک حوزه و با یک مدل بررسی شد و تحلیلگران با کشاورزی آشنایی نداشتند. سوم، شدت ترجیح افراد سنجیده نشد، فقط اینکه انتخاب‌شان جابه‌جا شد یا نه.

پس این پژوهش را نباید «اثبات» تسلط ایجنت‌ها بر انسان‌ها دانست. بیشتر یک هشدار تجربی است که نشان می‌دهد این پدیده واقعی و اندازه‌پذیر است. دربارهٔ حدود توانایی و ضعف‌های هوش مصنوعی در دنیای واقعی، ظرفیت‌ها و محدودیت‌های واقعی هوش مصنوعی را بخوانید.

۹. پیامدها و پیشنهادهای Anthropic

نویسندگان سه پیامد اصلی را برجسته می‌کنند. در سطح فردی، کارشناس ممکن است مالکیت قضاوت خود را از دست بدهد، در حالی که نام خودش پای کار است. در علم و سیاست‌گذاری، اگر چند تیم مستقل همه به مدل‌هایی با ترجیحات مشترک تکیه کنند، «اجماع» ظاهری شاید مستقل نباشد. در پژوهش ایمنی هوش مصنوعی هم، بازبینی انسانی فقط وقتی بررسی مستقل است که قضاوت آن انسان واقعاً مال خودش باشد.

برای راه‌حل، چند مسیر پیشنهاد شده است: طراحی ایجنت‌هایی که قوی‌ترین استدلال را برای هر گزینه ارائه کنند، از کارشناس بخواهند اول نظر خودش را بگوید، فقط تصمیم‌های بسیار تعیین‌کننده را مطرح کنند و لحن بیش‌ازحد مطمئن نداشته باشند. در سطح سازمانی هم باید مشخص شود کدام تصمیم‌ها حتماً به قضاوت آگاهانهٔ یک انسان نیاز دارند و به کارشناسان زمان داده شود تا پیش از دیدن پاسخ ایجنت نظر بسازند. اگر از ابزارهای هوش مصنوعی در کسب‌وکار استفاده می‌کنید، این نکته را کنار اهمیت هوش مصنوعی در کسب‌وکار در نظر بگیرید.

۱۰. چه کنیم؟ توصیه‌های عملی برای کاربران

اگر هر روز با ایجنت‌ها کار می‌کنید، چند عادت ساده می‌تواند کمک کند. اول، پیش از پرسیدن از ایجنت، نظر و دلیلتان را بنویسید. دوم، از مدل بخواهید برای هر گزینه بهترین دفاع را بنویسد، نه فقط گزینهٔ برگزیده. سوم، تصمیم‌های کلیدی را از جزئیات اجرایی جدا کنید و فقط روی همان‌ها وقت بگذارید. چهارم، در گزارش نهایی مشخص کنید کدام استدلال‌ها از ایجنت آمده است.

نوشتن پرامپت خوب هم کمک می‌کند ایجنت حالت «طرفدار یک گزینه» نگیرد. برای شروع، راهنمای نوشتن پرامپت برای مبتدی‌ها و مجموعه آموزش‌های آموزش ChatGPT مفیدند. و اگر دربارهٔ تفاوت «استفادهٔ هوشمند» با «واگذاری کامل» کنجکاوید، نوشتهٔ توهم هوش مصنوعی؛ توسعه‌دهندهٔ تنها در برابر مهندس واقعی زاویهٔ مکملی دارد. دربارهٔ شرکت سازندهٔ ChatGPT هم می‌توانید OpenAI چیست؟ را بخوانید.

پرسش‌های متداول (FAQ)

این مطالعه را چه کسی منتشر کرده است؟

تیم همسوسازی Anthropic؛ نویسندگان گزارش‌شده Herdağdelen، Joren و Tamkin هستند و مقاله در ۲۷ اکتبر ۲۰۲۶ روی وب‌سایت پژوهشی شرکت منتشر شد.

یعنی ایجنت‌ها به تحلیلگران دروغ گفتند؟

خیر. ایجنت‌ها دستور داشتند صادق باشند و گمراه نکنند؛ فقط از گرایش تعیین‌شده با استدلال‌های واقعی دفاع می‌کردند. مسئله اثر ترغیب است، نه فریب.

آیا نتیجه می‌گوید نباید از هوش مصنوعی استفاده کرد؟

نه. نویسندگان صریحاً می‌گویند علیه استفاده از هوش مصنوعی استدلال نمی‌کنند، بلکه می‌خواهند تقسیم کار انسان و ماشین آگاهانه طراحی شود.

آیا افراد باتجربه‌تر کمتر تحت تأثیر قرار گرفتند؟

طبق این پژوهش، تجربه و تخصص پیش‌بینی‌کنندهٔ میزان اتکا نبودند و هیچ ویژگی‌ای پس از تصحیح آماری رابطهٔ معناداری نشان نداد.

این نتیجه برای همهٔ کارها صادق است؟

لزوماً نه. فقط یک وظیفهٔ یک‌ساعته، در یک حوزه و با گرایش‌های عمداً پررنگ بررسی شد؛ پس اندازهٔ اثر در کار واقعی احتمالاً متفاوت است.