پرامپت منبع‌محور؛ کاری کن هوش مصنوعی فقط از روی سند جواب بدهد

تصور کن از یک دستیار هوش مصنوعی دربارهٔ بندی در قرارداد شرکتت می‌پرسی و او با اعتمادِ کامل جوابی می‌دهد که اصلاً در قرارداد نیست. مشکل این‌جاست که مدل‌های زبانی وقتی پاسخ را نمی‌دانند، سکوت نمی‌کنند؛ به‌جای آن یک جملهٔ محتمل‌نما می‌سازند که درست به‌نظر می‌رسد ولی پایه‌ای در واقعیت ندارد. به این پدیده «توهم» (Hallucination) می‌گویند و پرهزینه‌ترین اشتباهِ کار با هوش مصنوعی است.

خبر خوب این است که بخش بزرگی از توهم با یک تغییرِ ساده در پرامپت مهار می‌شود. تکنیکی که در این درس یاد می‌گیری «پرامپت منبع‌محور» یا Grounded Prompting نام دارد: به‌جای این‌که مدل را آزاد بگذاری تا از کل دانشِ مبهمش جواب بسازد، او را به یک منبعِ مشخص گره می‌زنی و سه قانونِ سفت‌وسخت رویش می‌گذاری. نتیجه، جوابی است که می‌توانی به آن اعتماد کنی، چون مستقیماً از متنِ خودت بیرون آمده است.

پرامپت منبع‌محور چیست و چه فرقی با راستی‌آزمایی دارد؟

پرامپت منبع‌محور یعنی پاسخِ مدل را به یک «زمینهٔ معتبر» محدود کنی. آن زمینه می‌تواند یک قرارداد، یک گزارش، چند صفحه مستندات، یا نتیجهٔ یک جست‌وجو باشد. تو صریح به مدل می‌گویی: «فقط از روی متنی که در اختیارت گذاشته‌ام جواب بده و از دانشِ بیرونی‌ات استفاده نکن.» با این کار مرزِ روشنی میان «چیزی که مدل می‌داند» و «چیزی که در سند هست» می‌کشی.

ممکن است این تکنیک را با زنجیرهٔ راستی‌آزمایی اشتباه بگیری، اما دو کارِ متفاوت‌اند. راستی‌آزمایی بعد از تولیدِ جواب اتفاق می‌افتد: مدل جوابِ خودش را می‌سنجد و برای هر ادعا سؤالِ وارسی می‌سازد. پرامپت منبع‌محور اما پیش از تولید عمل می‌کند: از همان اول جلوی مدل را می‌گیرد تا از چهارچوبِ منبع بیرون نزند. این دو مکمل هم هستند؛ اما منبع‌محوری خطِ دفاعِ اول و ارزان‌تر است.

چرا هوش مصنوعی جوابِ ساختگی می‌سازد؟

برای این‌که درست از این تکنیک استفاده کنی، باید ریشهٔ توهم را بفهمی. مدلِ زبانی در هستهٔ خود یک پیش‌بینی‌کنندهٔ کلمهٔ بعدی است؛ یاد گرفته کدام واژه بعد از واژهٔ قبلی «محتمل» است، نه کدام واژه «درست» است. این مدل یک پایگاه‌دادهٔ حقایق نیست و سازوکارِ درونی‌ای برای گفتن «مطمئن نیستم» ندارد.

از طرف دیگر، مدل‌ها طوری تربیت شده‌اند که «کمک‌کننده» باشند. وقتی پرسشی می‌بینند، انگیزهٔ قوی‌ای دارند که یک پاسخِ کامل و روان تحویل بدهند، حتی اگر داده‌ای برای پشتیبانی از آن نداشته باشند. ترکیبِ این دو ویژگی—پیش‌بینیِ محتمل‌نما و اشتیاق به کمک—دقیقاً کارخانهٔ تولیدِ توهم است. پرامپت منبع‌محور هر دو را خنثی می‌کند: منبع، مرجعِ حقیقت می‌شود و «نمی‌دانم»، یک پاسخِ مجاز و محترمانه.

سه ستونِ پرامپت منبع‌محور

هر پرامپت منبع‌محورِ خوب روی سه ستون می‌ایستد. اگر یکی را حذف کنی، ساختمان می‌لرزد.

ستون اول؛ محدودسازی به منبع. صریح و بی‌ابهام بنویس که مدل فقط اجازه دارد از متنِ داده‌شده استفاده کند. جمله‌ای مثل «تنها بر پایهٔ متنِ زیر پاسخ بده و هیچ اطلاعاتی از بیرونِ آن اضافه نکن» مرزها را روشن می‌کند. بدون این ستون، مدل دانشِ عمومی و متنِ تو را با هم قاطی می‌کند و دیگر نمی‌فهمی کدام بخشِ جواب از کجاست.

ستون دوم؛ اجازهٔ «نمی‌دانم». این ستون را اغلب فراموش می‌کنند و همان‌جاست که توهم برمی‌گردد. باید یک مسیرِ فرار برای مدل بگذاری: «اگر پاسخ در متن نبود، بنویس در سند یافت نشد و حدس نزن.» وقتی «نمی‌دانم» یک گزینهٔ مجاز باشد، مدل دیگر مجبور نیست خلأ را با ساخته‌های خودش پر کند.

ستون سوم؛ استنادِ اجباری. از مدل بخواه برای هر ادعا، جمله یا بخشی از منبع را که آن ادعا از آن آمده نقل کند. این کار دو فایده دارد: هم راستی‌آزمایی را برای تو آسان می‌کند و هم خودِ مدل را وادار می‌کند پیش از نوشتنِ هر جمله، واقعاً در متن دنبالِ شاهد بگردد. استناد، توهم را گران می‌کند و مدل ترجیح می‌دهد به‌جای جعلِ منبع، «نمی‌دانم» بگوید.

قالبِ آمادهٔ پرامپت منبع‌محور

حالا هر سه ستون را در یک قالبِ کپی‌پیست کنار هم می‌گذاریم. کافی است متنِ خودت را جای بخشِ «منبع» بگذاری و پرسشت را در انتها بنویسی:

نقش تو یک پاسخ‌گوی دقیق و محتاط است.
قوانین زیر را بدون استثنا رعایت کن:

۱) فقط و فقط بر پایهٔ «منبع» زیر پاسخ بده. از دانشِ عمومی یا حدسِ خودت استفاده نکن.
۲) اگر پاسخِ پرسش در منبع نبود، دقیقاً بنویس: «در منبع یافت نشد.» و چیزی نساز.
۳) برای هر ادعا، جمله یا عبارتِ مربوط از منبع را داخل گیومه نقل کن.
۴) اگر منبع مبهم یا متناقض بود، به‌جای انتخابِ یک طرف، این ابهام را گزارش کن.

--- منبع ---
[متنِ سند، گزارش یا مستندات خود را این‌جا بگذار]
--- پایان منبع ---

پرسش: [پرسشِ خود را این‌جا بنویس]

این قالب عمداً سخت‌گیر است. اگر دیدی مدل زیادی محتاط شده و پاسخ‌های واضح را هم «یافت نشد» می‌زند، می‌توانی قانونِ دوم را کمی نرم کنی؛ مثلاً اجازه بدهی استنباطِ منطقیِ مستقیم از متن مجاز باشد، به‌شرطِ آن‌که آن را جدا از نقلِ مستقیم علامت بزند.

نمونهٔ عملی؛ از جوابِ ساختگی تا پاسخِ مستند

فرض کن یک بندِ کوتاه از سیاستِ مرجوعیِ فروشگاه در اختیارِ مدل گذاشته‌ای: «کالا تا ۷ روز پس از خرید، در صورتِ سالم‌بودنِ بسته‌بندی قابلِ مرجوع است.» حالا می‌پرسی: «آیا بعد از ۱۰ روز هم می‌توانم کالای بازشده را پس بدهم؟»

مدلِ بدونِ مهار، معمولاً یک سیاستِ عمومیِ محتمل‌نما می‌سازد—مثلاً می‌گوید «بله، معمولاً تا ۳۰ روز امکان‌پذیر است»—که هیچ ربطی به سندِ تو ندارد. همان مدل با پرامپت منبع‌محور جواب می‌دهد: «در منبع یافت نشد. سند فقط بازهٔ ۷ روز و شرطِ سالم‌بودنِ بسته‌بندی را ذکر کرده و دربارهٔ کالای بازشده یا بازهٔ ۱۰ روز چیزی نگفته است.» جوابِ دوم شاید کمتر رضایت‌بخش به‌نظر برسد، اما همان چیزی است که واقعاً به کارت می‌آید.

نکته‌های پیشرفته و خطاهای رایج

چند نکته که کیفیتِ کارَت را یک پله بالاتر می‌برد. نخست، منبع را تمیز و کوتاه نگه دار؛ هر چه متنِ بی‌ربطِ بیشتری بریزی، احتمالِ خطای مدل بالاتر می‌رود. اگر سندت طولانی است، بهتر است اول با مهندسی کانتکست بخشِ مرتبط را جدا کنی و همان را بدهی.

دوم، مرزِ منبع را با جداکننده روشن کن. همان‌طور که در قالب دیدی، گذاشتنِ متن میانِ خطوطِ «— منبع —» به مدل کمک می‌کند دستور و داده را از هم تشخیص بدهد. این همان اصلی است که در درسِ پرامپت محدودیت‌محور هم رویش تأکید شده است.

سوم، مراقبِ یک دامِ رایج باش: اگر پرسشت جهت‌دار باشد—مثلاً «توضیح بده چرا این محصول بهترینِ بازار است»—مدل وسوسه می‌شود از منبع فراتر برود تا خواستهٔ تو را برآورده کند. پرسشت را خنثی نگه دار تا ستونِ اول نشکند.

کجا از این تکنیک بیشترین سود را می‌بریم؟

پرامپت منبع‌محور هر جا که «دقت» مهم‌تر از «خلاقیت» است می‌درخشد. پرسش‌وپاسخ روی اسنادِ حقوقی و قراردادها، خلاصه‌سازیِ گزارش‌های مالی، ساختِ پاسخ‌گوی خودکار روی پایگاه دانشِ پشتیبانیِ مشتری، و کارهای پژوهشی که باید هر ادعا قابلِ ردیابی باشد—همه از این تکنیک بهره می‌برند. هر سیستمی هم که با معماریِ بازیابی-و-تولید (RAG) کار می‌کند، در قلبش یک پرامپت منبع‌محور دارد؛ چون بدون آن، بازیابیِ سندِ درست هم جلوی جوابِ ساختگی را نمی‌گیرد.

در مقابل، اگر دنبالِ ایده‌پردازی، نوشتنِ خلاقانه یا طوفانِ فکری هستی، این تکنیک را کنار بگذار؛ آن‌جا محدودکردنِ مدل به یک منبع، دقیقاً جلوی چیزی را می‌گیرد که می‌خواهی.

پرسش‌های پرتکرار

آیا پرامپت منبع‌محور توهم را کاملاً از بین می‌برد؟
خیر، ولی آن را به‌شکلِ چشمگیری کم می‌کند. مدل هنوز ممکن است در نقلِ قول اشتباه کند یا استنباطِ نادرست بزند. برای موارد حساس، منبع‌محوری را با راستی‌آزمایی ترکیب کن و همیشه استنادها را وارسی کن.

چه فرقی با دادنِ ساده متن به مدل دارد؟
صرفِ چسباندنِ متن کافی نیست؛ بدونِ سه ستون، مدل باز هم دانشِ بیرونی‌اش را قاطی می‌کند و در نبودِ پاسخ، جواب می‌سازد. تفاوت در آن قوانینِ صریح است، نه در حضورِ متن.

روی کدام مدل‌ها جواب می‌دهد؟
روی همهٔ مدل‌های اصلی مثلِ ChatGPT، Claude و Gemini کار می‌کند. مدل‌های قوی‌تر معمولاً بهتر «نمی‌دانم» را رعایت می‌کنند، اما حتی مدل‌های کوچک هم با این قالب دقیق‌تر می‌شوند.

اگر منبعم چند سندِ مختلف باشد چه؟
هر سند را با برچسبی جدا کن (مثلاً «سند ۱»، «سند ۲») و از مدل بخواه در استناد بگوید هر ادعا از کدام سند آمده. این کار ردیابی را دقیق‌تر می‌کند.

حالا نوبتِ توست. دو تمرینِ زیر کمک می‌کنند مطمئن شوی تکنیک را واقعاً گرفته‌ای، نه فقط خوانده‌ای.

جمع‌بندی

توهم، مهم‌ترین مانعِ اعتماد به هوش مصنوعی است و پرامپت منبع‌محور ارزان‌ترین و سریع‌ترین راهِ مهارِ آن. کافی است مدل را به یک منبعِ مشخص محدود کنی، به او اجازهٔ گفتنِ «نمی‌دانم» بدهی و برای هر ادعا استناد بخواهی. همین سه قانون، جوابِ محتمل‌نما را به پاسخِ قابلِ‌اعتماد تبدیل می‌کند.

این درس بخشی از یک مجموعهٔ گام‌به‌گام دربارهٔ پرامپت‌نویسی است. برای دیدنِ نقشهٔ کاملِ سری‌ها و ادامهٔ مسیر، به راهنمای جامع پرامپت‌نویسی سر بزن. اگر می‌خواهی گامِ بعدی را برداری، سراغِ زنجیرهٔ راستی‌آزمایی برو تا یاد بگیری چطور مدل جوابِ خودش را هم بازرسی کند.

نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید