امنیت در عصر Opsless؛ Prompt Injection روی دادهٔ مشتری

در مدل Opsless، یک Agent مستقیماً پیام‌های خام مشتری را — از تیکت Helpdesk، از فرم تماس، از یک ایمیل — می‌خواند و بر اساس آن‌ها روی CRM یا سیستم حسابداری اقدام می‌کند. همین ویژگی که Opsless را قدرتمند می‌کند، یک سطح حملهٔ جدید هم باز می‌کند: هر متنی که از بیرون سازمان می‌آید، می‌تواند حاوی دستوراتی باشد که برای فریب دادن Agent نوشته شده‌اند، نه برای خواندن انسانی. این پدیده Prompt Injection نام دارد و چون Agent در Opsless مستقیم به داده‌های حساس مشتری دسترسی دارد، ریسک آن صرفاً فنی نیست — مستقیم مالی و اعتباری است. این مقاله فقط دربارهٔ فهمیدن ریسک و راه دفاع در برابر آن است.

چرا این ریسک مخصوص عصر Opsless است

در نرم‌افزار سنتی، متن ورودی مشتری فقط داده است — در یک فیلد ذخیره می‌شود و روی صفحه نمایش داده می‌شود. اما وقتی یک Agent مبتنی بر مدل زبانی همان متن را می‌خواند تا بفهمد چه کاری باید انجام دهد، مرز بین «داده» و «دستور» محو می‌شود. اگر متن ورودی طوری نوشته شده باشد که شبیه یک دستور سیستمی به نظر برسد، Agent ممکن است آن را به‌عنوان یک راهنمایی معتبر تفسیر کند، نه یک محتوای مشتری که فقط باید پردازش شود. در یک محیط CRMless که Agent اجازهٔ نوشتن در سیستم‌های واقعی را دارد، نتیجهٔ چنین اشتباهی می‌تواند از افشای اطلاعات یک مشتری به مشتری دیگر تا اجرای یک عملیات ناخواسته در Accounting باشد.