RAG کاملاً آفلاین روی اسناد محرمانه

وقتی می‌خواهید یک سیستم RAG (Retrieval-Augmented Generation) روی اسناد محرمانه بسازید—قراردادهای حقوقی، پروندهٔ کارکنان، اسناد مالی داخلی—اولین چیزی که به ذهن می‌رسد این است: «مدل زبانی را محلی اجرا می‌کنم تا اطلاعات به بیرون نرود.» این جمله درست است، اما ناقص. یک پایپلاین RAG از چند مرحلهٔ متوالی تشکیل شده، و اگر فقط مرحلهٔ آخر (تولید پاسخ) محلی باشد ولی مراحل قبلی هنوز به سرویس‌های ابری متصل باشند، محتوای محرمانهٔ شما همچنان از در پشتی بیرون می‌رود. برای آشنایی با معماری کلی این نوع سیستم‌ها می‌توانید نقشهٔ راه ساخت چت‌بات تخصصی را ببینید؛ و برای نگاه امنیتی گسترده‌تر به این‌گونه پروژه‌ها، نقشهٔ راه امنیت هوش مصنوعی منبع خوبی است. در این مقاله دقیقاً همین نقطهٔ کور را باز می‌کنیم: چرا برای اسناد محرمانه، آفلاین‌بودن باید کل زنجیره را در بر بگیرد، نه فقط مدل نهایی.

چرا «فقط مدل محلی» کافی نیست

یک پایپلاین RAG معمولی این مراحل را طی می‌کند: اسناد شما parse و به قطعات کوچک‌تر (chunk) تقسیم می‌شوند، هر قطعه با یک مدل embedding به بردار عددی تبدیل می‌شود، این بردارها در یک پایگاه‌دادهٔ برداری ذخیره می‌شوند، و در زمان پرسش، پرسش کاربر هم embed شده و نزدیک‌ترین قطعات بازیابی می‌شوند تا در نهایت به مدل زبانی برای تولید پاسخ داده شوند. اگر مرحلهٔ تولید پاسخ محلی باشد اما مدل embedding از طریق یک API ابری فراخوانی شود، عملاً محتوای واقعی اسناد محرمانهٔ شما—همان متنی که قرار بود هیچ‌وقت از سازمان خارج نشود—به سرور آن سرویس ابری فرستاده می‌شود. از نظر امنیتی، این دقیقاً همان نشتی است که سعی داشتید با اجرای محلی مدل جلویش را بگیرید؛ فقط جای آن جابه‌جا شده است.