پرامپت تقابلی؛ با نشان‌دادن مثال غلط، جواب درست بگیر

اگر تا حالا چند «مثال درست» جلوی هوش مصنوعی گذاشته‌ای و باز هم دیده‌ای مدل همان اشتباه قبلی را تکرار می‌کند، یک قطعهٔ گمشده در پرامپتت وجود دارد. پرامپت تقابلی دقیقاً همان قطعه است: به مدل نه‌فقط نشان می‌دهی «چه چیزی درست است»، بلکه هم‌زمان نشان می‌دهی «چه چیزی غلط است و چرا». همین تضاد ساده، ابهام را کم و دقت را زیاد می‌کند.

پیش از شروع، اگر تازه‌کاری، پیشنهاد می‌کنم نگاهی به آموزش مقدماتی پرامپت‌نویسی بیندازی تا مبانی دستت باشد؛ و اگر می‌خواهی مسیر کامل را دنبال کنی، همهٔ درس‌ها در سری آموزش پرامپت‌نویسی کنار هم جمع شده‌اند.

گام اول — پرامپت تقابلی چیست و چه فرقی با few-shot دارد؟

روش مثال‌محور یا few-shot می‌گوید: چند نمونهٔ درست به مدل بده تا الگو را یاد بگیرد. این روش عالی است، اما یک نقطهٔ کور دارد؛ مدل فقط «مرکزِ درست» را می‌بیند و از «مرزِ غلط» خبر ندارد. نتیجه این می‌شود که در موقعیت‌های لغزنده، دوباره به همان دام‌های آشنا می‌افتد. پرامپت تقابلی این نقطهٔ کور را برطرف می‌کند: تو هم نمونهٔ خوب را نشان می‌دهی و هم یک نمونهٔ بد را، و صریح می‌گویی کدام کدام است.

تفاوت را این‌طور تصور کن: در few-shot به مدل می‌گویی «این‌طوری»؛ در پرامپت تقابلی می‌گویی «این‌طوری، نه آن‌طوری». همان کلمهٔ کوچکِ «نه» است که کیفیت را بالا می‌برد.

مثال: «می‌خواهم یک پیام تشکر کوتاه بنویسی. نمونهٔ خوب: صمیمی و مشخص مثل ‹ممنون که گزارش را سر وقت فرستادی، خیلی کمکم کرد›. نمونهٔ بد: کلی و بی‌روح مثل ‹بابت همه‌چیز ممنون›. حالا یک پیام تشکر مثل نمونهٔ خوب برای همکارم بنویس.»

گام دوم — ساده‌ترین قالب: جفتِ نمونهٔ خوب و بد

پایه‌ای‌ترین شکل این تکنیک، ساختنِ یک «جفت» است: یک ورودی، دو خروجی؛ یکی مطلوب و یکی نامطلوب. مهم است که هر دو خروجی به یک ورودیِ مشترک پاسخ بدهند تا تفاوتشان فقط در کیفیت باشد، نه در موضوع. این‌طوری مدل دقیقاً می‌فهمد کدام ویژگی، خوب را از بد جدا می‌کند.

مثال: «متن زیر را برایم خلاصه کن. نمونهٔ خلاصهٔ خوب فقط سه نکتهٔ کلیدی دارد و بی‌طرف است. نمونهٔ خلاصهٔ بد پر از جزئیات حاشیه‌ای است و نظر شخصی اضافه می‌کند. حالا یک خلاصهٔ سه‌نکته‌ای مثل نمونهٔ خوب بنویس. متن: […]»

اگر می‌خواهی یک قدم جلوتر بروی، می‌توانی دو یا سه جفت پشت هم بیاوری تا الگو محکم‌تر جا بیفتد؛ اما مراقب باش پرامپت بیش از حد طولانی نشود. معمولاً یک تا دو جفتِ خوب کافی است.

گام سوم — چرا باید نمونهٔ غلط را برچسب بزنی

خطرناک‌ترین اشتباه در این روش این است که نمونهٔ غلط را بدون برچسب بگذاری. مدل تفاوت خوب و بد را از روی متن حدس نمی‌زند؛ اگر نگویی «این بد است»، ممکن است دقیقاً همان را تقلید کند. پس همیشه هر نمونه را با یک برچسب صریح مثل «خوب»، «بد»، «درست» یا «غلط» مشخص کن و در یک جمله بگو چرا.

مثال: «دو پاسخ به سؤال مشتری می‌بینی. پاسخ درست: چون مستقیم به مشکل جواب می‌دهد و یک قدم عملی پیشنهاد می‌کند. پاسخ غلط: چون از جواب طفره می‌رود و مشتری را به بخش دیگری پاس می‌دهد. حالا برای این سؤال تازه، پاسخی مثل نمونهٔ درست بنویس.»

این برچسب‌زدن همان چیزی است که یک نمونهٔ گمراه‌کننده را به یک درسِ روشن تبدیل می‌کند.

گام چهارم — زنجیرهٔ تفکر تقابلی برای استدلال دقیق‌تر

تا اینجا دربارهٔ خروجی حرف زدیم؛ اما می‌توانی همین ایده را روی «فرایند فکرکردن» هم اجرا کنی. در زنجیرهٔ تفکر تقابلی، به مدل هم یک مسیرِ استدلالِ درست نشان می‌دهی و هم یک مسیرِ استدلالِ غلط با یک خطای رایج. مدل با دیدن هر دو، یاد می‌گیرد کدام گام‌ها را نباید بردارد. اگر با مفهوم زنجیرهٔ تفکر آشنا نیستی، جزئیاتش را در همان سری آموزشی پوشش داده‌ایم.

مثال: «یک مسئلهٔ درصد حل می‌کنیم. استدلال درست: اول کل را پیدا می‌کنیم، بعد درصد را روی همان کل حساب می‌کنیم. استدلال غلط: درصد را روی عددِ اشتباه اعمال می‌کند و واحدها را قاطی می‌کند. حالا این مسئلهٔ تازه را قدم‌به‌قدم حل کن و مطمئن شو مرتکب همان خطای استدلال غلط نمی‌شوی. مسئله: […]»

پژوهش‌ها نشان داده‌اند نشان‌دادنِ استدلالِ غلط در کنار درست، در مسائل منطقی و حسابی، دقت مدل را به‌طور محسوسی بالا می‌برد؛ چون مدل فقط الگوی موفقیت را نمی‌بیند، بلکه الگوی شکست را هم می‌شناسد و از آن دوری می‌کند.

گام پنجم — کاربرد در دسته‌بندی و کنترل لحن

پرامپت تقابلی مخصوصاً جایی می‌درخشد که تفاوت‌ها ظریف‌اند و «تعریفِ درست» به‌تنهایی گنگ است. دسته‌بندیِ نظرها به مثبت و منفی، یا کنترل لحن، دو نمونهٔ عالی‌اند. مرزِ میان «نقدِ منصفانه» و «شکایتِ منفی» گاهی مو‌باریک است؛ یک جفت نمونهٔ متضاد این مرز را برای مدل روشن می‌کند.

مثال: «نظرها را به مثبت و منفی دسته‌بندی کن. نمونهٔ درست: ‹کیفیت خوب بود ولی دیر رسید› را منفی حساب می‌کنیم چون تجربهٔ کلی ناراضی است. نمونهٔ غلط: همین جمله را فقط به‌خاطر کلمهٔ ‹خوب› مثبت حساب می‌کند. حالا این ده نظر را با منطق نمونهٔ درست دسته‌بندی کن.»

برای کنترل لحن هم همین‌طور: یک نمونهٔ «رسمی اما گرم» و یک نمونهٔ «خشک و رباتیک» بگذار تا مدل بفهمد کدام حسّ را می‌خواهی. برای کارهای بازاریابی، این تکنیک را می‌توانی با ایده‌های کاربرد هوش مصنوعی در کسب‌وکار ترکیب کنی.

گام ششم — کاربرد در کد و قالب خروجی

در برنامه‌نویسی، خطاهای تکرارشونده دشمن اصلی‌اند؛ و پرامپت تقابلی ابزار خوبی برای مهارِ آن‌هاست. کافی است یک قطعه کدِ درست و یک قطعه کدِ غلط با همان باگِ رایج نشان بدهی تا مدل بداند از چه چیزی فاصله بگیرد. همین منطق دربارهٔ قالبِ خروجی هم صدق می‌کند: یک خروجیِ تمیزِ JSON در برابر یک خروجیِ شلخته.

مثال: «یک تابع بنویس که ورودی خالی را مدیریت کند. نمونهٔ درست: قبل از پردازش، ورودی را بررسی می‌کند و در صورت خالی‌بودن پیام مناسب برمی‌گرداند. نمونهٔ غلط: مستقیم روی ورودی کار می‌کند و با ورودی خالی خطا می‌دهد. حالا تابع را مثل نمونهٔ درست بنویس.»

اگر روی پروژه‌های واقعیِ کدنویسی کار می‌کنی، این نکته را هم به خاطر بسپار که هوش مصنوعی جای مهندسِ کاربلد را نمی‌گیرد؛ چرایی‌اش را در مقالهٔ توهم ساختن با هوش مصنوعی باز کرده‌ایم.

گام هفتم — اشتباه‌های رایج و راه اصلاح

چند خطا می‌تواند این روش را بی‌اثر یا حتی مضر کند. اول، نمونهٔ غلطِ بی‌برچسب که پیش‌تر گفتیم. دوم، نمونهٔ غلطِ بیش از حد مسخره؛ اگر خطا آن‌قدر آشکار باشد که هیچ‌وقت رخ نمی‌دهد، هیچ چیز به مدل یاد نمی‌دهد. نمونهٔ غلط باید «فریبنده» و نزدیک به واقعیت باشد تا ارزش آموزشی داشته باشد. سوم، توضیح‌ندادنِ دلیل؛ اگر فقط بگویی «این بد است» ولی نگویی چرا، مدل قاعده را یاد نمی‌گیرد و فقط ظاهر را کپی می‌کند.

مثال: «برای این آگهی، عنوان بنویس. نمونهٔ بدِ فریبنده: ‹بهترین محصول بازار› — بد است چون ادعای اثبات‌نشده و کلی دارد. نمونهٔ خوب: ‹باتری‌ای که دو روز دوام می‌آورد› — خوب است چون یک مزیتِ مشخص و قابل‌بررسی می‌گوید. حالا سه عنوان مثل نمونهٔ خوب بنویس.»

یک راهِ خوب برای سنجش این است که پرامپتت را یک‌بار با نمونهٔ غلط و یک‌بار بدون آن اجرا کنی و کیفیت دو جواب را مقایسه کنی؛ همان روشی که در آموزش‌های چت‌جی‌پی‌تی بارها روی آن تأکید کرده‌ایم.

گام هشتم — الگوی آمادهٔ پرامپت تقابلی

حالا همه‌چیز را در یک الگوی قابل‌کپی جمع می‌کنیم. کافی است جای خالی‌ها را پر کنی و از آن در هر کاری استفاده کنی. این ساختار، هستهٔ یک پرامپت تقابلیِ حرفه‌ای است.

مثال: «وظیفه: [کاری که می‌خواهی]. نمونهٔ درست: [یک خروجی مطلوب] — درست است چون [دلیل]. نمونهٔ غلط: [یک خروجی نامطلوبِ باورپذیر] — غلط است چون [دلیل]. حالا برای ورودیِ زیر، خروجی‌ای مثل نمونهٔ درست بساز و آگاهانه از خطای نمونهٔ غلط دوری کن. ورودی: [داده].»

این الگو را در جایی ذخیره کن؛ هر بار که دیدی مدل یک اشتباهِ خاص را تکرار می‌کند، همان اشتباه را به‌عنوان «نمونهٔ غلط» به پرامپت اضافه کن. به‌مرور یک کتابخانهٔ کوچک از دام‌های رایج می‌سازی که کیفیت جواب‌هایت را پایدار بالا نگه می‌دارد. برای دیدن اینکه این ابزارها در عمل تا کجا پیش رفته‌اند، نگاهی به توان و محدودیت‌های واقعی هوش مصنوعی هم خالی از لطف نیست.

پرسش‌های پرتکرار

پرسش: پرامپت تقابلی با few-shot فرق دارد یا همان است؟
ادامهٔ همان مسیر است، اما یک قدم جلوتر؛ few-shot فقط نمونهٔ خوب می‌دهد، تقابلی هم خوب و هم بدِ برچسب‌دار.

پرسش: چند نمونهٔ غلط لازم است؟
معمولاً یک نمونهٔ غلطِ باورپذیر کافی است. اگر خطاهای متنوعی داری، دو نمونه هم خوب است، اما شلوغ‌کردن پرامپت نتیجه را بهتر نمی‌کند.

پرسش: آیا این روش خطر تقلیدِ نمونهٔ بد را زیاد نمی‌کند؟
فقط وقتی برچسب و دلیل را حذف کنی. با برچسبِ صریح و یک جمله توضیح، مدل نمونهٔ بد را به‌عنوان «چیزی که باید از آن دوری کند» می‌فهمد.