تکنیک ابطال‌گرا: پرامپتی که هوش مصنوعی را از تأیید به نقد وامی‌دارد

یک جملهٔ کوتاه می‌تواند کیفیت پاسخ‌های هوش مصنوعی را از «تأییدِ خوشایند» به «نقدِ کارآمد» تغییر دهد. تکنیک «ابطال‌گرا» دقیقاً همین کار را می‌کند: به‌جای این‌که مدل فرض‌های شما را تأیید کند، وادارش می‌کند فعالانه دنبال شواهدی بگردد که آن فرض را رد می‌کند.

۱. ابطال‌گرا دقیقاً چیست؟

«ابطال‌گرایی» یا Falsification یکی از مهم‌ترین ایده‌های فلسفهٔ علم در قرن بیستم است. کارل پوپر، فیلسوف اتریشی، می‌گفت یک نظریه زمانی علمی و ارزشمند است که بتوان آن را ابطال کرد؛ یعنی بتوان شرایطی تصور کرد که اگر رخ دهند، نظریه غلط از آب درمی‌آید. نظریه‌ای که هیچ‌چیز نمی‌تواند ردش کند، در واقع چیزی به دانش ما اضافه نمی‌کند. قدرتِ یک ایده در توانایی‌اش برای ایستادن در برابر حمله است، نه در تعداد کسانی که با آن موافق‌اند.

حالا همین منطق را به گفتگو با هوش مصنوعی بیاورید. رفتار پیش‌فرضِ اغلب کاربران این است که از مدل تأیید می‌گیرند: «به نظرت ایده‌ام خوب است؟»، «این متن قانع‌کننده است؟»، «تصمیم درستی گرفته‌ام؟». مدل هم معمولاً پاسخی دلگرم‌کننده می‌دهد و شما با حسِ خوبِ «تأیید شدم» از گفتگو بیرون می‌آیید، بی‌آن‌که چیزی یاد گرفته باشید. تکنیک ابطال‌گرا این جهت را برعکس می‌کند: به‌جای جست‌وجوی شواهدِ موافق، از مدل می‌خواهید فعالانه دنبال شواهد و شرایطی بگردد که فرض شما را باطل می‌کند. اگر با مبانی این کار تازه آشنا می‌شوید، پیشنهاد می‌کنیم ابتدا راهنمای پرامپت‌نویسی برای مبتدی‌ها را بخوانید تا پایهٔ کار محکم شود.

۲. چرا مغزِ زبانیِ هوش مصنوعی به تأیید تمایل دارد

برای این‌که بفهمیم چرا ابطال‌گرا این‌قدر مؤثر است، باید دو سوگیری را بشناسیم. اولی سوگیریِ خودِ ماست: «سوگیری تأیید» (Confirmation Bias). انسان‌ها ناخودآگاه دنبال اطلاعاتی می‌گردند که باورشان را تأیید کند و شواهد مخالف را نادیده می‌گیرند. وقتی سؤالتان را طوری می‌پرسید که انتظار «بله» دارید، عملاً مدل را هم به همان مسیر هدایت می‌کنید.

سوگیری دوم مالِ خودِ مدل است. مدل‌های زبانی بزرگ در فرایند آموزش طوری تنظیم می‌شوند که پاسخ‌های خوشایند و همراهانه بدهند؛ به این پدیده «چاپلوسی» یا Sycophancy می‌گویند. مدل تمایل دارد با شما موافقت کند، لحن مثبت بگیرد و از تقابل پرهیز کند. این رفتار در گفتگوی روزمره دلپذیر است، اما وقتی دارید تصمیم مهمی می‌گیرید، خطرناک می‌شود؛ چون بازخوردی می‌گیرید که بیشتر «مؤدبانه» است تا «درست». اگر می‌خواهید عمیق‌تر بدانید مدل‌ها کجا قوی و کجا شکننده‌اند، مرور توان و محدودیت‌های واقعی هوش مصنوعی کمک می‌کند، و برای شناختِ ریشهٔ این مدل‌ها می‌توانید اوپن‌ای‌آی چیست را ببینید.