استناددهی در کلود؛ جوابی که منبعش را نشان می‌دهد

فرض کن یک شرکت بیمهٔ ایرانی، واحد پشتیبانی‌اش را به یک دستیار هوش مصنوعی سپرده است. آیین‌نامه‌ها، بخشنامه‌ها و شرایط عمومی بیمه‌نامه‌ها روی هم حدود سیصد صفحه‌اند و دستیار قرار است از دل همین‌ها جواب مشتری را بدهد. چند هفته همه‌چیز خوب پیش می‌رود تا روزی که یک مشتری می‌پرسد «هزینهٔ فیزیوتراپی بعد از عمل تحت پوشش است؟» و دستیار با اطمینان کامل می‌گوید بله، تا سقف مشخصی. مشتری پرینت می‌گیرد و می‌آید. کارشناس می‌پرسد این را از کجا آورده‌اید و هیچ‌کس در کل زنجیره نمی‌تواند بگوید این جمله از کدام بند کدام آیین‌نامه بیرون آمده است.

این دقیقاً همان جایی است که «استناددهی» وارد می‌شود. سال‌ها راه‌حل رایج این بود که در پرامپت از مدل خواهش کنیم عین جملهٔ منبع را هم بنویسد؛ راهی که هم توکن خروجی را زیاد می‌کرد و هم هیچ تضمینی نداشت که نقل‌قول واقعاً در سند باشد. آنتروپیک برای همین یک قابلیت رسمی در خود ای‌پی‌آی گذاشته است: وقتی سند را با پرچم استناددهی می‌فرستی، مدل در کنار هر تکه از جوابش می‌گوید آن جمله از کدام سند، کدام صفحه و کدام بازهٔ کاراکتری آمده است. این درس همان قابلیت است، به زبان قابل استفاده.

آنچه در این درس یاد می‌گیرید

• تفاوت استناددهی رسمی با «خواهش کردن از مدل که منبع بنویسد» و اینکه چرا دومی قابل اتکا نیست
• شکل دقیق بلوک سند در درخواست و اینکه پرچم استناددهی کجا می‌نشیند
• سه نوع سند (متن ساده، پی‌دی‌اف و محتوای سفارشی) و سه نوع استنادی که هرکدام تولید می‌کنند
• میدان زمینه: اطلاعاتی که مدل می‌بیند اما اجازه ندارد به آن استناد کند
• انتخاب دانه‌بندی استناد: چه وقت جمله‌به‌جمله و چه وقت بخش‌به‌بخش
• خواندن استنادها از پاسخ و تبدیلشان به شماره‌های ارجاع در رابط کاربری

استناددهی رسمی چه فرقی با پرامپت دارد

در روش پرامپتی، تو در دستور می‌نویسی «هر ادعا را با نقل‌قول مستقیم از سند همراه کن». مدل معمولاً اطاعت می‌کند، اما سه مشکل دارد. اول اینکه باید کل نقل‌قول را دوباره بنویسد و این یعنی توکن خروجی بیشتر و هزینهٔ بیشتر. دوم اینکه هیچ سازوکاری جلوی نقل‌قول ساختگی را نمی‌گیرد؛ مدل می‌تواند جمله‌ای بنویسد که شبیه سند است ولی در سند نیست. سوم اینکه پیدا کردن جای دقیق آن نقل‌قول در فایل اصلی، دوباره کار توست.

در استناددهی رسمی، این کار از دوش مدل برداشته و به خود ای‌پی‌آی سپرده شده است. سند را با ساختار مشخص می‌فرستی، ای‌پی‌آی آن را تکه می‌کند، و استنادهایی که برمی‌گردند فقط و فقط می‌توانند به همان تکه‌های واقعی اشاره کنند. مستندات رسمی هم روی همین سه مزیت دست می‌گذارد: توکن خروجی کمتر، بازیابی و دقت بالاتر، و این تضمین که استناد جز به منبعِ داده‌شده به جای دیگری اشاره نمی‌کند. اگر پیش‌تر درس پرامپت منبع‌محور را خوانده باشی، این قابلیت را می‌توانی نسخهٔ تضمین‌شده و ساختاری همان ایده بدانی.

شکل درخواست: بلوک سند

تغییر اصلی در پیام کاربر اتفاق می‌افتد. به‌جای اینکه متن سند را داخل رشتهٔ پرسش بچسبانی، آن را به‌صورت یک بلوک جدا از نوع سند می‌فرستی و پرچم استناددهی را روشن می‌کنی. پرسش کاربر بلوک بعدی است.