آبان
اخبار
بانک‌های آمریکا جلوی عامل‌های هوش مصنوعی را گرفتند؛ رمز بانکی را به ایجنت ندهید
بانک‌های بزرگ آمریکا، از جی‌پی‌مورگان تا چارلز شوآب، جلوی ورود عامل‌های هوش مصنوعی شخص ثالث به حساب مشتریان را گرفته‌اند. ماجرا از کجا شروع شد، خطر واقعی چیست و شما به‌عنوان کاربر باید چه کار کنید؟
لیست مطالب
۱. ماجرا از کجا شروع شد؟
در هفته‌ی گذشته خبری در رسانه‌های مالی آمریکا بالا گرفت که بسیاری از کاربران را غافلگیر کرد: بانک‌ها دیگر نمی‌خواهند هر عامل هوش مصنوعی‌ای که کاربر به آن اعتماد کرده، وارد حساب بانکی او شود. گزارش اولیه را وب‌سایت Axios در ۲۲ اکتبر منتشر کرد و شبکه‌ی CBS News یک روز بعد آن را بازتاب داد. طبق این گزارش‌ها، بانک‌های بزرگ آمریکایی فعالیت عامل‌هایی را در حساب‌های آنلاین مشتریان دیده‌اند که خود بانک آن‌ها را بررسی و تأیید نکرده است.
اما این اتفاق ناگهانی نبود. پیش از آن، جیمی دایمون در جریان نشست اعلام نتایج مالی سه‌ماههی سوم جی‌پی‌مورگان در ۱۳ اکتبر گفته بود بانک اجازه نمی‌دهد «هر عامل بیرونی‌ای» درون سیستم‌هایش کار کند. سه روز بعد، ریک ورستر، مدیرعامل شرکت چارلز شوآب، در مصاحبه با تلویزیون بلومبرگ همین مسیر را تأیید کرد. به این ترتیب، چند اتفاق پشت‌سرهم یک روند روشن ساخت: صنعت بانکداری آمریکا در برابر عامل‌های مستقل هوش مصنوعی موضع می‌گیرد.
۲. عامل هوش مصنوعی چیست و چرا مشتری‌ها رمز بانکی می‌دهند؟
عامل هوش مصنوعی، یا همان «ایجنت»، نرم‌افزاری است که فقط جواب نمی‌دهد، بلکه کار انجام می‌دهد: رزرو می‌کند، خرید می‌کند، چانه می‌زند و فرم پر می‌کند. اگر با مفهوم پایه‌ی این حوزه آشنا نیستید، پیشنهاد می‌کنیم ابتدا مقاله‌ی شرکت OpenAI چیست را بخوانید و بعد به همین بحث برگردید.
دلیل ساده‌ی این رفتار کاربران، راحتی است. وقتی یک ایجنت بتواند صورت‌حساب‌ها را بررسی کند، هزینه‌ها را دسته‌بندی کند و حتی با بانک تماس بگیرد، چرا کاربر رمزش را به او ندهد؟ مشکل اینجاست که برای ورود به حساب، ایجنت باید دقیقاً مثل خود مشتری عمل کند، یعنی با نام کاربری و رمز عبور وارد شود. از نگاه بانک، چنین ورودی را نمی‌توان از ورود واقعی مشتری تشخیص داد، مگر اینکه الگوی رفتاری مشکوک باشد.
طبق گزارش CBS News، در بعضی موارد ایجنت‌ها کارهایی کرده‌اند که صاحب حساب هرگز تأیید نکرده بود. نمونه‌اش تماس با بانک برای ثبت شکایت بدون مشورت با مشتری بود. نکته‌ی مهم اینکه گزارشگر Axios تأکید کرده این ایجنت‌ها حساب‌ها را هک نکرده‌اند و پولی هم برنداشته‌اند؛ بیشتر دستور کاربر را اجرا می‌کردند، اما بدون اجازه‌ی بانک.
۳. موضع جی‌پی‌مورگان: «عامل‌های سرکش ممکن است هزاران تا باشند»
جیمی دایمون در نشست درآمدی جی‌پی‌مورگان گفت: «شما عامل‌های سرکش نمی‌خواهید و ممکن است هزاران تا از آن‌ها باشند.» او افزود که بانک اجازه نمی‌دهد هر عامل بیرونی‌ای در سیستم‌هایش فعالیت کند، چون ریسک آن برای مشتریان و خود بانک زیاد است.
سخن‌گوی بانک به شبکه‌ی CNBC گفته بود جی‌پی‌مورگان به اشخاص ثالث اجازه نمی‌دهد با نام کاربری و رمز مشتری وارد حساب‌ها شوند. در عین حال، بعضی ابزارهای بیرونی می‌توانند داده‌های حساب را فقط به‌صورت خواندنی ببینند، اما اجازه‌ی ارسال پول یا پرداخت قبض ندارند. بانک چیس هم به CBS News گفته مشتریان هرگز نباید نام کاربری و رمز عبورشان را به کسی بدهند و از اشتراک‌گذاری داده‌ی مجاز از طریق ارائه‌دهندگان «بانکداری باز» پشتیبانی می‌کند.
۴. شوآب و Muse متا: هفته‌ای ۱۰ تا ۲۹ بار مسدودسازی
ریک ورستر در گفت‌وگو با بلومبرگ اعلام کرد شرکتش عامل‌های هوش مصنوعی بدون مجوز را که می‌خواهند پول مشتری را جابه‌جا کنند، مسدود می‌کند. یکی از نمونه‌هایی که نام برد، عامل شخصی Muse از شرکت متا بود؛ عاملی که قرار است برای کاربر رزرو کند، خرید کند و چانه بزند.
او گفت هر هفته گزارشی از این مسدودسازی‌ها دریافت می‌کند و عامل‌های بزرگ تقریباً ۱۰ تا ۲۹ بار در هفته متوقف می‌شوند. به باور او این عدد نشان می‌دهد مشتریان هنوز آماده نیستند به ایجنت‌ها اجازه‌ی دسترسی کامل به حساب بدهند. پرسش اصلی او هم این بود: «ما نمی‌توانیم کنترلش کنیم، مشتری هم نمی‌تواند؛ اگر مشکلی پیش بیاید، مسئولیت با کیست؟»
شوآب به‌جای اجازه‌ی ورود با رمز، قصد دارد سرورهای پروتکل MCP ارائه کند. با این سرورها، ابزارهای هوش مصنوعی بیرونی می‌توانند موجودی را ببینند و تحقیق کنند، اما نمی‌توانند پول جابه‌جا کنند. همچنین این شرکت از مشتریان می‌خواهد از دستیار خودش به نام Charley استفاده کنند که ۳۰ سپتامبر معرفی شد.
۵. نگاه دیگر: دیوید ساکس و بحث «شرایط استفاده»
همه‌ی ناظران ماجرا را بحران امنیتی نمی‌دانند. دیوید ساکس، مسئول هوش مصنوعی کاخ سفید، میان ایجنت‌هایی که کاربر خودش آن‌ها را مجاز کرده و ایجنت‌های واقعاً سرکش فرق گذاشته است. او گفته فعالیت‌های موضوع گزارش Axios بیشتر از نوع اول بوده و بحث بر سر نقض شرایط استفاده است، نه حمله‌ی سایبری. نام‌هایی مثل Muse، Instinct و Grokbot را هم او به‌عنوان نمونه‌های ایجنت مجاز کاربر مطرح کرده است.
پیشنهاد ساکس این است که بانک‌ها دسترسی «فقط‌خواندنی» را مجاز کنند تا ایجنت‌ها بتوانند خرج‌ها را ببینند اما کاری با آن‌ها نکنند. به نظر او دسترسی کامل نوشتنی با استفاده از رمز کاربر، رده‌ی پرخطرتری است. بانک مورگان استنلی هم گفته فعالیت غیرمجاز ایجنت‌ها را در پلتفرم‌هایش ندیده است.
۶. خطر واقعی کجاست؟ سه سناریو
برای اینکه بفهمیم چرا بانک‌ها نگران‌اند، سه سناریوی ساده را بررسی کنیم. سناریوی نخست، خطای خود ایجنت است. مدل‌های زبانی گاهی دستور را اشتباه می‌فهمند و اگر ایجنت اجازه‌ی حرکت پول داشته باشد، یک سوءبرداشت ساده می‌تواند به انتقال اشتباه ختم شود.
سناریوی دوم، نفوذ از طریق خود ابزار است. اگر ایجنتی که رمز بانک شما را در اختیار دارد دچار نشت اطلاعات شود یا کسی به آن نفوذ کند، مهاجم به‌جای یک رمز ساده، به قابلیت کار در حساب شما دسترسی پیدا می‌کند. در مقاله‌ی پتانسیل و محدودیت‌های هوش مصنوعی در دنیای واقعی هم توضیح داده‌ایم که این فناوری هنوز در شرایط مرزی قابل‌اتکا نیست.
سناریوی سوم، ابهام مسئولیت است. اگر ایجنت با رمز مشتری کاری انجام دهد که ضرر بسازد، بانک نمی‌تواند ثابت کند خود مشتری عمل نکرده، و مشتری هم ممکن است ادعا کند بانک نباید اجازه می‌داد. ورستر دقیقاً به همین نکته اشاره کرد. در کنگره‌ی آمریکا هنوز بحث مسئولیت حقوقی ایجنت‌های هوش مصنوعی ادامه دارد و پاسخ روشنی وجود ندارد.
۷. MCP و بانکداری باز؛ راه میانه چیست؟
پروتکل MCP یا «پروتکل زمینه‌ی مدل» راهی استاندارد است که ابزارهای هوش مصنوعی از طریق آن به داده‌ها و سرویس‌ها وصل می‌شوند. وقتی بانک خودش سرور MCP ارائه کند، می‌تواند دقیقاً تعیین کند ایجنت چه چیزی را ببیند و چه کاری مجاز است. این رویکرد به‌جای دادن رمز، یک «در کنترل‌شده» می‌سازد.
البته MCP هم بی‌ریسک نیست. گزارش‌ها می‌گویند یک آسیب‌پذیری مشترک در اتصال‌های MCP هم برای گوگل و هم برای جی‌پی‌مورگان وصله شده است. پس راه‌حل نهایی ترکیبی است از دسترسی محدود، توکن‌های موقت، تأیید انسانی برای کارهای حساس و ثبت کامل فعالیت. اگر می‌خواهید بدانید چطور از هوش مصنوعی در کسب‌وکار به‌شکل ایمن استفاده کنید، مقاله‌ی اهمیت هوش مصنوعی در کسب‌وکار را ببینید.
۸. شما چه کار کنید؟ راهنمای عملی برای کاربران
اگر از ایجنت‌های هوش مصنوعی استفاده می‌کنید، چند قاعده‌ی ساده خطر را به‌شدت کم می‌کند:
- رمز بانکی را به هیچ ایجنت یا افزونه‌ای ندهید؛ فقط از راه‌های رسمی و تأییدشده‌ی خود بانک استفاده کنید.
- هر جا امکان دارد دسترسی فقط‌خواندنی بخواهید و اجازه‌ی انجام تراکنش را به ایجنت ندهید.
- شرایط استفاده‌ی بانک را بخوانید؛ دادن رمز به شخص ثالث ممکن است تعهدات بانک را در قبال خسارت از بین ببرد.
- تراکنش‌ها و اعلان‌های بانک را مرتب بررسی کنید و ورود دومرحله‌ای را فعال نگه دارید.
- دستورهای ایجنت را دقیق و محدود بنویسید. برای یادگیری این مهارت، آموزش نوشتن پرامپت را ببینید.
در همین حال، پرونده‌ی خبری ما درباره‌ی ایجنت‌ها و مدل‌های جدید را در بخش اخبار هوش مصنوعی دنبال کنید، و برای آموزش کار با ابزارها به آموزش‌های چت‌جی‌پی‌تی سر بزنید.
۹. آینده‌ی ایجنت‌ها در دنیای مالی چه می‌شود؟
به نظر می‌رسد مسیر آینده نه ممنوعیت کامل، بلکه ساخت قواعد مشترک است. بانک‌ها احتمالاً به‌جای دادن رمز، رابط‌های رسمی با سطح دسترسی مشخص ارائه می‌کنند؛ رابط‌هایی که در آن‌ها هر ایجنت هویت جداگانه دارد، سقف تراکنش‌اش معلوم است و کارهای حساس به تأیید صریح مشتری نیاز دارند. چنین مدلی هم از حق انتخاب کاربر دفاع می‌کند و هم پاسخ روشنی برای پرسش مسئولیت می‌سازد.
از سوی دیگر، شرکت‌های سازنده‌ی ایجنت هم زیر فشار قرار می‌گیرند. اگر عاملی مثل Muse بخواهد در حوزه‌ی مالی جدی گرفته شود، باید با بانک‌ها همکاری کند، شفاف بگوید چه داده‌ای را نگه می‌دارد و گزارش کامل فعالیت‌هایش را در اختیار کاربر بگذارد. برای کسب‌وکارهای کوچک و تیم‌هایی که می‌خواهند از ایجنت‌ها در امور مالی استفاده کنند، این یعنی پیش از هر چیز باید سیاست دسترسی داخلی بنویسند و مرز کارهای مجاز را تعیین کنند. همین رویکرد در بحث مهندسی نیز صادق است؛ نمونه‌اش را در مقاله‌ی توهم هوش مصنوعی و برنامه‌نویس تنها می‌خوانید.
پرسش‌های متداول
آیا بانک‌ها استفاده از هوش مصنوعی را کلاً ممنوع کرده‌اند؟
خیر. موضوع ممنوعیت هوش مصنوعی نیست، بلکه ورود عامل‌های بیرونی با رمز مشتری است. خود بانک‌ها دستیار هوشمند ارائه می‌کنند، مثل Charley در شوآب.
آیا ایجنت‌ها حساب‌ها را هک کرده‌اند؟
طبق گزارش CBS News و سخنان ساکس، خیر. ایجنت‌ها بیشتر دستور کاربر را اجرا می‌کردند، ولی بدون مجوز بانک و با رمزی که مشتری داده بود.
دسترسی فقط‌خواندنی یعنی چه؟
یعنی ابزار می‌تواند موجودی و تراکنش‌ها را ببیند، اما نمی‌تواند پولی منتقل کند یا قبضی پرداخت کند.
آیا ماجرا به ایران یا کاربران فارسی‌زبان هم مربوط است؟
این اتفاق در بانک‌های آمریکایی رخ داده، اما درسش جهانی است: هیچ‌گاه رمز حساب مالی را به ابزار هوش مصنوعی ندهید.
مسئولیت خسارت با کیست؟
هنوز پاسخ حقوقی روشنی وجود ندارد و موضوع در کنگره‌ی آمریکا در حال بحث است. به همین دلیل بانک‌ها محتاط‌اند.
