پرامپت رفع سوگیری؛ کاری کن هوش مصنوعی جانب‌داری جوابش را خودش بگیرد

فرض کن از هوش مصنوعی می‌پرسی «آیا این استارتاپ ارزش سرمایه‌گذاری دارد؟» و جوابی می‌گیری پر از دلیل‌های موافق و تقریباً هیچ هشداری. مشکل همیشه ضعف مدل نیست؛ اغلب خودِ پرامپت یا داده‌های آموزشیِ مدل، جواب را از همان ابتدا به یک سمت هُل داده‌اند. این کج‌شدنِ نامرئیِ پاسخ را «سوگیری» می‌نامیم، و تکنیکی که جلویش را می‌گیرد «پرامپت رفع سوگیری» است: به‌جای آنکه امیدوار باشی مدل بی‌طرف بماند، صریح از او می‌خواهی جانب‌داریِ پنهان جوابش را خودش پیدا کند و تصحیح کند.

در این درس یاد می‌گیری سوگیری در خروجی هوش مصنوعی از کجا می‌آید، چهار نوع رایج آن را چطور بشناسی، و یک قالب آمادهٔ «پرامپت رفع سوگیری» می‌گیری که همین امروز روی تصمیم‌های واقعی‌ات جواب می‌دهد. همچنین می‌بینی این تکنیک چه فرقی با وکیل شیطان و تیم قرمز دارد.

سوگیری در پاسخ هوش مصنوعی یعنی چه؟

سوگیری یعنی پاسخ مدل به‌طور نظام‌مند — نه تصادفی — به یک سمت متمایل شود: یک دیدگاه را پررنگ و دیدگاه مقابل را کم‌رنگ کند، یک گروه را پیش‌فرض بگیرد، یا نتیجه‌ای را که در پرامپت به آن اشاره شده بی‌چون‌وچرا تأیید کند. چون این کج‌شدگی معمولاً با لحنی مطمئن و روان بیان می‌شود، خواننده به‌راحتی آن را «جواب درست» فرض می‌کند. دقیقاً همین روان و قاطع بودنِ ظاهری است که سوگیری را خطرناک می‌کند.

هدفِ رفع سوگیری این نیست که مدل را به سکوت یا بی‌تفاوتی بکشانی؛ هدف این است که پاسخ پیش از رسیدن به دستت، از صافیِ یک بازبینیِ آگاهانه رد شود و هر دو طرفِ ماجرا منصفانه دیده شوند.

چرا مدل اصلاً سوگیری پیدا می‌کند؟

سه ریشهٔ اصلی وجود دارد. نخست، دادهٔ آموزشی: مدل از متن‌هایی یاد گرفته که خودشان حاوی کلیشه و دیدگاه غالب‌اند، پس همان الگوها را بازتولید می‌کند. دوم، لنگرِ پرامپت: اگر در سؤال سرنخی بگذاری که نشان دهد چه جوابی را می‌پسندی، مدل تمایل دارد با تو همراه شود. سوم، میانگین‌گرایی: مدل برای تولید پاسخ، محتمل‌ترین ادامه را حدس می‌زند، و «محتمل‌ترین» همان دیدگاهِ پرتکرار است، نه لزوماً منصفانه‌ترین.

نکتهٔ کلیدی اینجاست: مدل به‌طور پیش‌فرض سوگیری‌اش را گزارش نمی‌کند، چون اصلاً از آن «آگاه» نیست. پرامپت رفع سوگیری این آگاهی را به‌صورت یک مرحلهٔ صریح به فرایند اضافه می‌کند.

چهار سوگیری رایج که باید بشناسی

شناختن نامِ سوگیری نیمی از درمان است، چون می‌توانی در پرامپت مستقیماً از مدل بخواهی همان را بررسی کند. چهار موردِ پرتکرار اینها هستند:

• لنگرانداختن: مدل به اولین عدد، گزینه یا دیدگاهی که در پرامپت دیده بیش از حد می‌چسبد و بقیهٔ تحلیل را حول آن می‌چیند.
• تأییدی: اگر حدس بزند تو طرفدار یک نتیجه‌ای، شواهد موافق را برجسته و شواهد مخالف را کم‌رنگ می‌کند.
• دسترس‌پذیری: مثال‌ها و موارد مشهور یا پرتکرار را مبنا می‌گیرد و حالت‌های نادر اما مهم را نادیده می‌گذارد.
• کلیشه‌ای: دربارهٔ افراد، مشاغل یا گروه‌ها فرض‌های قالبی می‌سازد که در دادهٔ آموزشی پرتکرار بوده‌اند.

قالب آمادهٔ پرامپت رفع سوگیری

سازوکار ساده است: اول جواب عادی را بگیر، بعد در یک مرحلهٔ جدا از مدل بخواه جوابِ خودش را از منظر سوگیری بازرسی و بازنویسی کند. قالب زیر را کپی کن و جای متن داخل قلاب را پر کن:

به این پرسش جواب بده: [پرسش یا تصمیم تو]

حالا پیش از آنکه جواب نهایی را بدهی، این سه کار را انجام بده:
۱) جوابت را بازخوانی کن و بگو کدام‌یک از این سوگیری‌ها در آن دیده می‌شود:
   لنگرانداختن، تأییدی، دسترس‌پذیری، کلیشه‌ای.
۲) برای هر سوگیری که پیدا کردی، قوی‌ترین دیدگاه یا شاهدِ مخالف را بیاور.
۳) جواب را دوباره بنویس طوری که هر دو طرفِ ماجرا منصفانه دیده شوند و
   در پایان بگو با چه میزان اطمینان به نتیجه رسیدی و چه چیزی را نمی‌دانی.

تفاوت این قالب با یک پرامپت معمولی در «مرحلهٔ دوم» است: تو به مدل یک کارِ فراشناختی می‌دهی، یعنی از او می‌خواهی به کارِ خودش نگاه کند. همین نگاهِ دوباره است که جواب را از حالت تک‌سویه بیرون می‌آورد.

یک مثال واقعی؛ از جواب جانب‌دارانه تا پاسخ متوازن

فرض کن پرسیده‌ای «آیا بهتر است کارمندِ ثابت استخدام کنم یا فریلنسر؟» و در جمله‌ات گفته‌ای «می‌خواهم هزینه‌هایم را کم کنم». مدلِ بدونِ رفع سوگیری احتمالاً به‌خاطر لنگرِ «کم‌کردن هزینه» مستقیم به‌سمت فریلنسر می‌رود و مزیت‌های کارمند ثابت را کم‌رنگ می‌کند — این همان سوگیریِ لنگرانداختن و تأییدی است.

با افزودن مرحلهٔ دوم، مدل خودش می‌نویسد: «در جواب اولم به‌خاطر اشارهٔ تو به هزینه، صرفاً گزینهٔ ارزان‌تر را پررنگ کردم. اما تعهد بلندمدت، انتقال دانش و کنترلِ کیفیت در کارمند ثابت مزیت‌هایی‌اند که نادیده گرفتم.» حالا جمع‌بندی‌اش متوازن است و میزان اطمینانش را هم اعلام می‌کند. همین یک مرحله، یک تصمیمِ پرهزینه را از کج‌شدگی نجات می‌دهد.

تفاوت رفع سوگیری با وکیل شیطان و تیم قرمز چیست؟

این سه تکنیک شبیه به‌نظر می‌رسند اما هدف‌های متفاوتی دارند. در پرامپت وکیل شیطان از مدل می‌خواهی عمداً مخالفت کند تا نقاط ضعفِ یک ایده رو شود. در پرامپت تیم قرمز مدل مثل یک مهاجم به طرحِ تو حمله می‌کند. اما رفع سوگیری سراغِ خودِ «جوابِ مدل» می‌رود، نه ایدهٔ تو؛ کارش این است که کج‌شدگیِ درونیِ پاسخ را بیابد و صاف کند.

به همین دلیل این تکنیک مکملِ خوبی برای زنجیرهٔ راستی‌آزمایی و ممیز فرضیات است: راستی‌آزمایی درستیِ ادعاها را چک می‌کند، ممیز فرضیات فرض‌های پنهان را رو می‌کند، و رفع سوگیری انصافِ نگاه را تضمین می‌کند.

چند نکته برای نتیجهٔ بهتر

اول، سرنخِ جهت‌دار را از پرامپتت حذف کن؛ به‌جای «می‌خواهم ثابت کنم این طرح خوب است»، بنویس «نقاط قوت و ضعفِ این طرح را منصفانه بسنج». دوم، اسمِ سوگیری‌ها را صریح در پرامپت بیاور تا مدل بداند دنبال چه بگردد. سوم، همیشه از مدل بخواه میزان اطمینان و «چیزی که نمی‌داند» را اعلام کند؛ این یک جمله، لحنِ قاطعِ گمراه‌کننده را خنثی می‌کند. چهارم، برای تصمیم‌های مهم، مرحلهٔ بازبینی را در یک پیامِ جداگانه بفرست تا مدل با ذهنِ تازه به جوابش نگاه کند.

پرسش‌های پرتکرار

آیا رفع سوگیری جواب را کند یا طولانی نمی‌کند؟

کمی طولانی‌ترش می‌کند، چون یک مرحلهٔ بازبینی اضافه می‌شود. برای سؤال‌های روزمره لازم نیست؛ اما برای تصمیم‌های پرهزینه یا موضوع‌های حساس، این چند خطِ اضافه ارزشش را دارد.

مدل می‌تواند واقعاً سوگیری خودش را ببیند؟

به‌طور کامل نه، اما وقتی صریح از او بخواهی فهرست مشخصی از سوگیری‌ها را بررسی کند، در عمل بسیاری از کج‌شدگی‌های آشکار را پیدا و تصحیح می‌کند. این تکنیک جایگزینِ قضاوتِ انسانی نیست، بلکه کیفیتِ پیش‌نویس را بالا می‌برد.

این تکنیک روی کدام مدل‌ها کار می‌کند؟

روی هر مدلِ گفت‌وگومحورِ امروزی مثل چت‌جی‌پی‌تی، کلود و جمینای جواب می‌دهد. مدل‌های قوی‌تر و استدلالی‌تر معمولاً بازبینیِ دقیق‌تری ارائه می‌دهند.

جمع‌بندی

پرامپت رفع سوگیری یک عادت ساده اما قدرتمند است: به‌جای اعتماد به بی‌طرفیِ خودکارِ مدل، یک مرحلهٔ بازبینیِ آگاهانه اضافه می‌کنی تا جواب پیش از رسیدن به دستت صاف شود. اسمِ سوگیری‌ها را بشناس، سرنخِ جهت‌دار را حذف کن، و همیشه میزان اطمینان را بخواه. همین سه حرکت، کیفیتِ تصمیم‌هایت را به‌طور محسوس بالا می‌برد.

این درس بخشی از مجموعهٔ آموزش پرامپت‌نویسی Mr ChatGPT است. برای دیدن نقشهٔ کامل سری‌ها و درس‌های بعدی، به راهنمای جامع پرامپت‌نویسی سر بزن.

نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید