پرامپت وکیل شیطان؛ وقتی هوش مصنوعی عمداً مخالفت می‌کند

هوش مصنوعی در حالت پیش‌فرض تمایل دارد با شما موافق باشد. اگر ایده‌ای بدهید، معمولاً اول تحسینش می‌کند و بعد چند اصلاح ملایم پیشنهاد می‌دهد. این رفتار برای گفت‌وگوی روزمره خوب است اما وقتی تصمیم مهمی در کار باشد، دقیقاً همان چیزی است که نباید بگیرید. پرامپت «وکیل شیطان» این تمایل را می‌شکند و مدل را وامی‌دارد عمداً و بی‌تعارف مقابل شما بایستد.

۱) وکیل شیطان یعنی چه؟

اصطلاح از لاتین advocatus diaboli می‌آید. در فرایند اعلام قدیس بودن یک فرد در کلیسای کاتولیک، نقشی رسمی وجود داشت که وظیفه‌اش جمع‌آوری و ارائه‌ی دلایل مخالف بود؛ کسی که باید ثابت می‌کرد این فرد شایسته‌ی آن جایگاه نیست. در برابرش نقشی دیگر از پرونده دفاع می‌کرد. منطق پشت این طراحی روشن بود: تصمیمی که فقط با دلایل موافق گرفته شود، تصمیم نیست بلکه تشریفات است.

همین منطق بعدها وارد ادبیات تصمیم‌گیری سازمانی شد. وقتی جمعی روی یک گزینه به توافق زودهنگام می‌رسد، مخالفت هزینه‌ی اجتماعی پیدا می‌کند و آدم‌ها ترجیح می‌دهند سکوت کنند. تعیین رسمی یک نفر به‌عنوان مخالف، این هزینه را برمی‌دارد؛ چون آن فرد دارد وظیفه‌اش را انجام می‌دهد، نه اینکه با کسی مخالف باشد.

مشکل نسخه‌ی انسانی این است که کمتر کسی دوست دارد این نقش را بازی کند و کسانی هم که بازی می‌کنند، معمولاً ملاحظه‌ی روابط را می‌کنند. اینجاست که مدل زبانی مزیت دارد: هیچ رابطه‌ای برای حفظ کردن ندارد.

۲) چرا هوش مصنوعی به‌طور طبیعی موافق است؟

مدل‌های زبانی با بازخورد انسانی تنظیم می‌شوند و انسان‌ها معمولاً به پاسخ‌های موافق و مؤدب نمره‌ی بالاتری می‌دهند. نتیجه‌ی طبیعی این فرایند، تمایلی است که گاهی از آن با عنوان «چاپلوسی» یا sycophancy یاد می‌شود: مدل به‌جای درست‌ترین پاسخ، پاسخی می‌دهد که کاربر بیشتر می‌پسندد.

این تمایل در سؤال‌های سرراست مشکل بزرگی نیست، اما وقتی نظر خودتان را در متن پرسش می‌گنجانید، تأثیرش قابل توجه می‌شود. جمله‌ی «به نظرم این استراتژی درست است، نظر تو چیست؟» با جمله‌ی «این استراتژی را ارزیابی کن» دو خروجی متفاوت می‌گیرد. پرامپت وکیل شیطان با تعیین صریح نقش مخالف، این اثر را خنثی می‌کند.

اگر می‌خواهید بدانید نقش‌دهی چطور کیفیت خروجی را عوض می‌کند، راهنمای پرامپت‌نویسی برای مبتدی‌ها پایه‌ی خوبی برای این بحث است.

۳) متن کامل پرامپت وکیل شیطان

این متن را همراه با ایده یا تصمیمتان بفرستید:

در برابر ایده یا تصمیمی که می‌گویم، نقش وکیل شیطان را بازی کن: عمداً مخالفت کن، ضعیف‌ترین حلقه‌ها را هدف بگیر و سخت‌ترین اعتراض‌هایی که یک منتقد باهوش مطرح می‌کند را بنویس. تعارف نکن.

سه بخش این پرامپت هرکدام کاری می‌کنند. «عمداً مخالفت کن» نقش را تعیین می‌کند و مدل را از حالت متعادل بیرون می‌آورد. «ضعیف‌ترین حلقه‌ها را هدف بگیر» جلوی نقدهای پراکنده و بی‌اهمیت را می‌گیرد و تمرکز را روی نقطه‌ای می‌برد که شکستنش کل استدلال را می‌ریزد. «یک منتقد باهوش» سطح کیفی را بالا می‌برد؛ بدون این قید، خروجی معمولاً به اعتراض‌های سطحی محدود می‌شود.

نسخه‌ی تقویت‌شده

برای تصمیم‌های مهم، این دو جمله را اضافه کنید: «برای هر اعتراض بگو چه شواهدی آن را تأیید و چه شواهدی آن را رد می‌کند.» و «در پایان بگو کدام یک از اعتراض‌هایت را خودت جدی‌ترین می‌دانی و چرا.» جمله‌ی دوم مدل را وادار می‌کند بین اعتراض‌هایش اولویت‌بندی کند؛ همان کاری که یک منتقد واقعی انجام می‌دهد.

۴) چهار نسخه‌ی موقعیتی

نسخه‌ی استراتژی و کسب‌وکار

نقش وکیل شیطان را در برابر این استراتژی بازی کن. فرض‌های بازار که ممکن است غلط باشند، هزینه‌های پنهانی که ندیده‌ام و سناریوهایی که در آن این مسیر بدترین انتخاب می‌شود را بنویس. در پایان بگو اگر جای من بودی چه چیزی را قبل از تعهد نهایی آزمایش می‌کردی.

نسخه‌ی نوشته و استدلال

مثل یک داور سخت‌گیر و مخالف به این متن نگاه کن. کدام ادعا بدون شواهد کافی است، کجا مغالطه‌ی منطقی دارم، کدام جمله را می‌شود به‌راحتی رد کرد و مخالف باهوش از کدام نقطه شروع به حمله می‌کند.

نسخه‌ی محصول و طراحی

در برابر این تصمیم طراحی نقش مخالف را بگیر. بگو چرا کاربر ممکن است این را نفهمد، کدام رفتار پیش‌فرضش اشتباه است، چه گروهی از کاربران با این تغییر ضرر می‌کنند و چرا ممکن است معیارهای فعلی این ضرر را نشان ندهند.

نسخه‌ی تصمیم شخصی

مخالف این تصمیم من باش و تعارف نکن. سخت‌ترین پرسش‌هایی که یک دوست صادق از من می‌پرسید را بنویس، بگو چه چیزی را دارم از خودم پنهان می‌کنم و در بدترین حالت پنج سال بعد چه چیزی را از دست داده‌ام.

۵) چطور خروجی را درست بخوانیم

خروجی وکیل شیطان یک‌طرفه است و باید هم باشد؛ اشتباه است که آن را ارزیابی متوازن بدانید. سه قاعده کمک می‌کند.

قاعده‌ی اول، جدا کردن اعتراض قابل آزمایش از اعتراض سلیقه‌ای. اگر مدل می‌گوید «مخاطب این پیام را نمی‌فهمد»، این یک فرضیه است که با پنج مصاحبه قابل بررسی است. اگر می‌گوید «این ایده هیجان‌انگیز نیست»، این یک قضاوت است.

قاعده‌ی دوم، پاسخ نوشتن. برای هر اعتراض جدی یک پاسخ کوتاه بنویسید. اعتراض‌هایی که پاسخی برایشان ندارید، همان‌هایی هستند که باید رویشان کار کنید. این کار ساده معمولاً فهرست ده‌تایی را به دو یا سه مورد واقعی کاهش می‌دهد.

قاعده‌ی سوم، دور برگشت. بعد از نوشتن پاسخ‌ها، دوباره به مدل بدهید و بگویید: «حالا به این پاسخ‌ها هم اعتراض کن.» اگر در دور دوم اعتراض‌ها ضعیف شدند، احتمالاً استدلال شما محکم است.

یک نکته‌ی عملی هم اضافه کنید: از مدل بخواهید اعتراض‌ها را بر اساس «هزینه‌ی اشتباه بودن» مرتب کند، نه بر اساس احتمال درست بودن. اعتراضی که احتمالش کم است اما اگر درست باشد کل پروژه را از بین می‌برد، مهم‌تر از اعتراضی است که احتمالش زیاد است ولی اثرش محدود. این ترتیب‌بندی ساده معمولاً اولویت‌های شما را جابه‌جا می‌کند و همان چیزی است که تفاوت یک فهرست نگرانی با یک برنامه‌ی مدیریت ریسک را می‌سازد.

در نهایت، خروجی را جایی ثبت کنید. اعتراض‌هایی که امروز بی‌اهمیت به نظر می‌رسند، چند ماه بعد وقتی مسئله واقعاً پیش آمد بسیار روشنگر خواهند بود و به شما نشان می‌دهند کدام نوع ریسک را به‌طور سیستماتیک دست‌کم می‌گیرید. همین بایگانی ساده، به مرور یک نقشه از سوگیری‌های تصمیم‌گیری شخصی شما می‌سازد.

۶) اشتباه‌های رایج

اشتباه اول، لو دادن موضع خودتان. اگر بنویسید «من مطمئنم این درست است، حالا وکیل شیطان باش»، مدل معمولاً مخالفت ملایم‌تری می‌کند. ایده را خنثی توصیف کنید.

اشتباه دوم، پذیرفتن همه‌ی اعتراض‌ها. هدف این پرامپت تضعیف اعتماد به نفس شما نیست؛ هدف پیدا کردن دو یا سه ضعف واقعی است. اگر بعد از هر بار اجرا تصمیمتان عوض می‌شود، مشکل در تصمیم‌گیری است نه در پرامپت.

اشتباه سوم، استفاده در جای نامناسب. برای کارهای اجرایی روزمره این پرامپت فقط وقت می‌گیرد. جای درستش تصمیم‌های برگشت‌ناپذیر یا پرهزینه است.

اشتباه چهارم، اعتماد به شواهد و اعدادی که مدل در اعتراض‌هایش می‌آورد. مدل ممکن است برای قوی‌تر کردن مخالفتش، آماری بسازد که وجود خارجی ندارد؛ همان محدودیتی که در بررسی توان و محدودیت‌های واقعی هوش مصنوعی توضیح داده شده است. هر عددی را جداگانه راستی‌آزمایی کنید.

۷) ترکیب با تکنیک‌های دیگر

وکیل شیطان با دو تکنیک دیگر زوج خوبی می‌سازد. اولی «تیم قرمز» است که به‌جای استدلال، به اجرا حمله می‌کند؛ اگر هر دو را اجرا کنید هم منطق و هم پیاده‌سازی آزمایش می‌شود. دومی «کالبدشکافی پیش‌مرگ» است که سناریوی شکست را روایت می‌کند.

ترکیب سوم، اجرای پرامپت روی دو مدل متفاوت است. مدل‌های مختلف روی نقاط متفاوتی حساس‌اند و اجتماع اعتراض‌هایشان کامل‌تر است؛ نمونه‌ای از این تفاوت رفتار را در مقایسه‌ی چت‌جی‌پی‌تی و دیپ‌سیک می‌بینید. برای درک بهتر جایگاه این ابزارها در سازمان هم اهمیت هوش مصنوعی در کسب‌وکار مرور مفیدی است.

۸) چه وقت این پرامپت را اجرا کنیم

بهترین زمان، لحظه‌ای است که احساس اطمینان می‌کنید. اطمینان بالا معمولاً نشانه‌ی این است که هنوز به همه‌ی زوایا نگاه نکرده‌اید. دومین زمان مناسب، پیش از جلسه‌ای است که قرار است تصمیم نهایی گرفته شود؛ فهرست اعتراض‌ها را از قبل بین اعضا پخش کنید تا جلسه از سطح تعارف عبور کند. سومین زمان، بعد از دریافت بازخورد مثبت پشت سر هم است؛ آنجا احتمال هم‌رنگی گروهی بیشترین مقدار خود را دارد. برای دنبال کردن تکنیک‌های تازه هم بخش آموزش چت‌جی‌پی‌تی و اخبار هوش مصنوعی به‌طور منظم به‌روز می‌شوند.

پرسش‌های پرتکرار درباره‌ی پرامپت وکیل شیطان

آیا این پرامپت مدل را بدبین می‌کند؟

فقط در همان گفت‌وگو و همان نقش. اگر بخواهید به حالت متعادل برگردید کافی است بنویسید «حالا از نقش وکیل شیطان بیرون بیا و ارزیابی متوازن بده».

تفاوتش با تیم قرمز چیست؟

وکیل شیطان به استدلال و منطق حمله می‌کند و تیم قرمز به اجرا و سطح حمله. اولی می‌پرسد چرا این فکر غلط است و دومی می‌پرسد چطور می‌شود این را شکست.

اگر مدل مخالفت ضعیفی کرد چه کنم؟

معمولاً یعنی موضع خودتان را در متن لو داده‌اید یا زمینه‌ی کافی نداده‌اید. ایده را بی‌طرفانه بازنویسی کنید و بنویسید «قوی‌ترین اعتراض ممکن را بده، نه معمول‌ترین را».

برای متن‌های فارسی هم به‌خوبی کار می‌کند؟

بله. تنها نکته این است که ایده را با جزئیات کافی و به فارسی روشن توصیف کنید؛ توصیف مبهم، اعتراض مبهم می‌گیرد.

چند بار در هفته منطقی است از آن استفاده کنم؟

عدد ثابتی ندارد. قاعده‌ی ساده این است که برای هر تصمیمی که برگرداندنش گران است، یک بار اجرایش کنید.