پرامپت توجه متمرکز؛ کاری کن هوش مصنوعی حواسش پرت نشود

تا حالا شده جوابی از هوش مصنوعی بگیری که دقیق نیست، ولی نمی‌دانی مشکل کجاست؟ خیلی وقت‌ها اشکال از خودِ پرامپت است: مدل به همه‌چیزِ متنِ تو توجه می‌کند، حتی حاشیه‌های بی‌ربط و جهت‌گیری‌ای که خودت ناخواسته در سؤال گذاشته‌ای. «توجه متمرکز» یا System 2 Attention دقیقاً برای همین ساخته شده تا مدل اول ورودی را پاک کند، بعد فکر کند.

گام نخست — چرا هوش مصنوعی حواسش پرت می‌شود

مدل‌های زبانی روی هر توکنِ ورودی «توجه» پخش می‌کنند. این ویژگی همان چیزی است که آن‌ها را قدرتمند کرده، ولی یک عارضهٔ پنهان هم دارد: وقتی داخل پرامپت جزئیاتی می‌گذاری که به سؤال اصلی ربطی ندارند، بخشی از توجه مدل صرف همان جزئیات می‌شود و جواب کج می‌شود. پژوهش‌ها نشان داده‌اند که افزودن یک جملهٔ نامربوط ولی مرتبط‌به‌نظر، می‌تواند دقت پاسخ را به‌طور محسوس پایین بیاورد.

تصور کن یک متن سه‌پاراگرافی دربارهٔ سفرت به شیراز می‌نویسی و آخرش می‌پرسی «حالا هزینهٔ تقریبی یک شب اقامت چقدر است؟». همهٔ آن توصیف‌های احساسی از باغ‌ها و بستنی، برای پاسخ به سؤال هزینه بی‌ربط‌اند، ولی مدل آن‌ها را هم می‌خواند و ممکن است لحن یا تمرکز جوابش را به‌هم بریزد. اگر تازه‌کار هستی، پیشنهاد می‌کنم اول پرامپت‌نویسی به زبان ساده را ببینی تا پایهٔ کار دستت بیاید.

مثال: «متن زیر شامل توضیحات اضافه است. فقط اطلاعاتی را که برای پاسخ به پرسش لازم است مشخص کن و بقیه را نادیده بگیر، سپس جواب بده. پرسش: هزینهٔ تقریبی یک شب اقامت اقتصادی در شیراز چقدر است؟»

گام دوم — دامِ تأیید؛ وقتی مدل فقط با تو موافقت می‌کند

حواس‌پرتی تنها نیمی از ماجراست. خطر بزرگ‌تر «تأیید کورکورانه» است: وقتی سؤالت را جهت‌دار می‌پرسی، مدل تمایل دارد با فرض تو همراه شود، نه این‌که مستقل بیندیشد. جملهٔ «به‌نظرم گزینهٔ الف بهتر است، درست می‌گویم؟» مدل را به سمت تأیید الف هل می‌دهد، حتی اگر واقعیت چیز دیگری باشد.

توجه متمرکز اینجا نجات‌بخش است، چون نظر و جهت‌گیری تو را از ورودی جدا می‌کند تا مدل مجبور شود روی واقعیت‌ها تمرکز کند نه روی خواستهٔ ضمنی‌ات. این دقیقاً همان تفاوتی است که یک نگاه واقع‌بینانه به توان و محدودیت‌های هوش مصنوعی از ما می‌خواهد: ابزار قدرتمند است، اما باید درست هدایت شود.

مثال: «در متن من احتمالاً نظر شخصی و جهت‌گیری وجود دارد. اول همهٔ قضاوت‌ها و ترجیح‌های مرا حذف کن و پرسش را خنثی بازنویسی کن، بعد بی‌طرفانه جواب بده: میان پلن ماهانه و سالانه کدام برای یک کسب‌وکار نوپا مقرون‌به‌صرفه‌تر است؟»

گام سوم — ایدهٔ اصلی توجه متمرکز

هستهٔ System 2 Attention یک حرکت ساده اما قدرتمند است: به‌جای این‌که مدل مستقیم از روی پرامپت خام جواب بدهد، اول یک نسخهٔ «تمیزشده» از ورودی می‌سازد که فقط شاملِ اطلاعات مرتبط و بی‌طرف است، و بعد فقط به آن نسخه نگاه می‌کند. نام تکنیک هم از همین‌جا می‌آید؛ اشاره به «تفکر کند و سنجیده» در برابر واکنش سریع و شهودی.

به بیان دیگر، ما فرایند پاسخ را به دو کار جدا تقسیم می‌کنیم: کارِ اولْ توجه و انتخاب (چه چیزی مهم است؟) و کارِ دومْ استدلال و پاسخ (بر اساس آنچه مهم است چه می‌گوییم؟). وقتی این دو در هم می‌آمیزند، حاشیه‌ها به جواب سرایت می‌کنند؛ وقتی جدا می‌شوند، جواب تمیزتر است.

مثال: «کار را در دو گام انجام بده. گام یک: از متن زیر فقط گزاره‌های واقعی و مرتبط با پرسش را در قالب فهرست بیرون بکش. گام دو: صرفاً بر پایهٔ همان فهرست، پاسخ نهایی را بنویس و به بقیهٔ متن اصلاً استناد نکن.»

گام چهارم — قالب پرامپت دومرحله‌ای

این قالب، شکلِ کاملِ تکنیک است و برای کارهای مهم و پرریسک بهترین نتیجه را می‌دهد. آن را کپی کن و جای بخش‌های داخل کروشه را با کار خودت پر کن. توجه کن که در مرحلهٔ اول صراحتاً می‌گوییم «هنوز جواب نده»؛ همین قید، مدل را از پریدن به پاسخ باز می‌دارد.

مثال: «مرحلهٔ ۱ — بازنویسی ورودی: متنِ [ورودی من] را بازنویسی کن و فقط اطلاعات لازم برای پاسخ و خودِ پرسش را نگه دار. هر نظر، حدس، احساس یا جزئیات بی‌ربط را حذف کن. خروجی این مرحله فقط نسخهٔ پاک‌شده باشد و هنوز پاسخ نده. مرحلهٔ ۲ — پاسخ: حالا فقط بر اساس نسخهٔ پاک‌شدهٔ مرحلهٔ ۱ جواب بده و اگر اطلاعاتی کم است، صریح بگو چه چیزی لازم داری.»

اگر می‌خواهی جواب حتی مطمئن‌تر شود، می‌توانی مرحلهٔ سومی برای بازبینی اضافه کنی. برای این کار سری کامل ما دربارهٔ راستی‌آزمایی و کنترل کیفیت پاسخ کمک‌کننده است؛ فهرست کاملش را در آموزش‌های چت‌جی‌پی‌تی می‌بینی.

گام پنجم — نسخهٔ تک‌پرامپتی برای کارهای روزمره

همیشه لازم نیست دو مرحلهٔ جدا بنویسی. برای کارهای سبک‌تر، فقط یک جمله به انتهای پرامپت معمولی‌ات اضافه کن تا مدل قبل از پاسخ، ذهنش را صاف کند. این نسخهٔ فشرده، هزینهٔ کمتری دارد و برای پیام‌های کوتاه عالی است.

مثال: «قبل از پاسخ، فرض‌ها و اطلاعات بی‌ربطِ متن مرا کنار بگذار و جواب را فقط بر پایهٔ واقعیت‌های مرتبط بنویس؛ اگر جایی جهت‌گیری دیدی، آن را نادیده بگیر.»

همین یک خط، در نوشتن ایمیل، خلاصه‌کردن یک گفت‌وگوی طولانی، یا گرفتن تحلیل بی‌طرف از یک تصمیم، اثر خودش را نشان می‌دهد. برای کسب‌وکارها این تفاوت مستقیم به کیفیت تصمیم گره می‌خورد؛ چرایی‌اش را در اهمیت هوش مصنوعی در کسب‌وکار توضیح داده‌ایم.

گام ششم — کجا بیشترین اثر را دارد

توجه متمرکز همه‌جا به یک اندازه لازم نیست؛ ولی چند موقعیت هست که واقعاً برگ برنده می‌شود. اول، ورودی‌های شلوغ و طولانی که پر از جزئیات جانبی‌اند. دوم، سؤال‌های جهت‌دار یا احساسی که خطر تأیید کورکورانه بالاست. سوم، تصمیم‌های مقایسه‌ای که باید بی‌طرف بمانند.

در پشتیبانی مشتری، وقتی کاربر یک پیام عصبانی و پر از حاشیه می‌فرستد، این تکنیک کمک می‌کند مدل مشکل واقعی را از هیجان جدا کند. در تحلیل داده و خلاصه‌سازی جلسه هم، پاک‌کردن حرف‌های حاشیه‌ای باعث می‌شود نکته‌های تصمیم‌ساز گم نشوند.

مثال: «این پیام مشتری پر از احساس و گلایه است. اول فقط خواستهٔ عملی و واقعیت‌های مرتبط را جدا کن، بعد یک پاسخ حرفه‌ای و همدلانه بنویس که دقیقاً همان خواسته را حل کند.»

گام هفتم — اشتباه‌های رایج و مرزهای این روش

توجه متمرکز جادو نیست و استفادهٔ نابه‌جا از آن هزینه دارد. رایج‌ترین اشتباه، به‌کاربردنش برای پرسش‌های خیلی کوتاه و شفاف است؛ آنجا مرحلهٔ بازنویسی فقط توکن و زمان مصرف می‌کند بدون سود واقعی. اشتباه دوم سخت‌گیری بیش از حد است: اگر به مدل بگویی «هرچه غیرضروری است حذف کن»، ممکن است نکته‌ای مهم را هم بی‌ربط بداند و دور بریزد.

راه‌حل این است که در مرحلهٔ اول، معیار «مرتبط بودن» را دقیق تعریف کنی، مثلاً «هر چیزی که مستقیماً به تصمیم قیمت‌گذاری ربط دارد را نگه دار». همچنین یادت باشد که این تکنیک جای بررسی انسانی را نمی‌گیرد؛ همان‌طور که در توهمِ ساختن تنها با هوش مصنوعی گفتیم، قضاوت نهایی هنوز با توست.

مثال: «هنگام پاک‌سازی ورودی، این‌ها را حتماً نگه دار: اعداد، تاریخ‌ها، نام محصول و محدودیت‌های بودجه. بقیهٔ توضیحات را حذف کن. اگر شک داشتی چیزی مهم است یا نه، آن را نگه دار و علامت بزن.»

گام هشتم — ترکیب توجه متمرکز با تکنیک‌های دیگر

قدرت واقعی وقتی آزاد می‌شود که این تکنیک را با روش‌های مکمل زنجیر کنی. بعد از پاک‌سازی ورودی و گرفتن پاسخ، می‌توانی از مدل بخواهی جوابش را راستی‌آزمایی کند تا خطاها بیرون بیفتند. یا اگر منبع مشخصی داری، پاسخ را فقط به همان سند محدود کن تا از توهم جلوگیری شود.

ترتیب پیشنهادی ساده است: اول ورودی را با توجه متمرکز تمیز کن، بعد پاسخ بگیر، و در پایان با یک مرحلهٔ بازبینی جواب را چک کن. این معماری چندمرحله‌ای همان چیزی است که پرامپت‌های حرفه‌ای را از پرامپت‌های معمولی جدا می‌کند. اگر می‌خواهی بدانی این تکنیک‌ها از کجا آمده‌اند و چه شرکتی پشت آن‌هاست، مروری بر اوپن‌ای‌آی چیست و پیگیری جدیدترین اخبار هوش مصنوعی کمکت می‌کند به‌روز بمانی.

مثال: «سه کار را پشت‌سرهم انجام بده. یک: ورودی را پاک کن و فقط واقعیت‌های مرتبط را نگه دار. دو: بر پایهٔ آن جواب بده. سه: جوابت را بازبینی کن و هر ادعای بدون پشتوانه را علامت بزن یا اصلاح کن.»

پرسش‌های پرتکرار

توجه متمرکز با پرامپت زنجیرهٔ تفکر چه فرقی دارد؟ زنجیرهٔ تفکر مدل را وادار می‌کند مسیر استدلالش را گام‌به‌گام بنویسد؛ توجه متمرکز اما قبل از استدلال، ورودی را از حاشیه و جهت‌گیری پاک می‌کند. یکی روی «چطور فکر کن» تمرکز دارد و دیگری روی «به چه چیزی فکر کن». این دو با هم عالی کار می‌کنند.

آیا این روش هزینهٔ توکن را زیاد نمی‌کند؟ کمی چرا، چون مرحلهٔ بازنویسی متن اضافه تولید می‌کند. برای همین برای کارهای مهم از قالب دومرحله‌ای و برای کارهای سبک از نسخهٔ تک‌جمله‌ای استفاده کن تا هزینه معقول بماند.

روی همهٔ مدل‌ها جواب می‌دهد؟ بله، چون این یک الگوی پرامپت است نه ویژگی یک مدل خاص. روی مدل‌های متن‌محور مثل چت‌جی‌پی‌تی، کلود و جمینای به‌خوبی کار می‌کند و فقط کافی است دستور بازنویسی را شفاف بنویسی.