مهر
اخبار
ناوگان ایجنت‌های هوش مصنوعی روی Amap علی‌بابا؛ گزارش Swarmchasers چه می‌گوید؟
پژوهشگران مستقل از ناوگانی از ایجنت‌های هوش مصنوعی خبر داده‌اند که یک هفته سرویس نقشه‌ی Amap علی‌بابا را کاوش کرده است؛ ردپا به تنسنت‌کلود می‌رسد، اما اپراتور و مدل پشت ماجرا هنوز مشخص نیست.
لیست مطالب
۱. ماجرا چیست؟
در ماه‌های اخیر ایجنت‌های هوش مصنوعی از دمو و ارائه‌ی شرکتی بیرون آمده‌اند و روی وب واقعی کار می‌کنند. حالا گزارشی از گروه پژوهشگران مستقل Swarmchasers نمونه‌ی تازه‌ای از این رفتار را نشان می‌دهد: چند ایجنت موازی که حدود یک هفته به‌طور مداوم سرویس نقشه‌ی Amap، محصول شرکت علی‌بابا، را پرس‌وجو کرده‌اند.
این گزارش اولیه است و هنوز نتیجه‌ی نهایی ندارد. با این حال جزئیات عددی و فنی آن آن‌قدر مشخص است که در رسانه‌های فناوری بازتاب پیدا کرده و به یکی از بحث‌های داغ هفته درباره‌ی اخبار هوش مصنوعی تبدیل شده است.
۲. اعداد و تاریخ‌ها به‌زبان ساده
طبق گزارش، اولین اسکن‌های Amap از ۲۸ سپتامبر ۲۰۲۶ ثبت شد و تا ۴ اکتبر دست‌کم ۲٬۰۴۸ اسکن مرتبط شمارش شد. فقط در روز ۴ اکتبر، ۱٬۸۱۰ گزارش آمد. بعد از آن فعالیت حدود ۵ اکتبر متوقف یا متوقف‌شده دیده شد؛ منبع‌ها درباره‌ی اینکه چه کسی آن را متوقف کرده، چیزی نمی‌گویند.
در اوج کار، ۱۴ اجرای هم‌زمان فعال بود. پژوهشگران همچنین از حدود ۴۲۸ برنامه‌ی تولیدشده و بیش از ۱٬۱۰۰ برچسب «دورزدن حافظه‌ی نهان» (cache-busting) خبر داده‌اند. این برچسب‌ها سرور را وادار می‌کنند به‌جای نسخه‌ی ذخیره‌شده، داده‌ی تازه برگرداند.
ایجنت‌ها دنبال چه بودند؟
ظاهراً هدف، اطلاعات ورودی مکان‌های عمومی در چین بود؛ مکان‌هایی مثل پارک‌ها، موزه‌ها، باغ‌وحش‌ها و بیمارستان‌ها. این نوع داده برای ساخت نقشه‌های دقیق‌تر، آموزش مدل‌های مکانی یا ارزیابی توانایی ایجنت‌ها در کار با نقشه‌ها می‌تواند ارزشمند باشد، اما این‌ها حدس‌اند و در گزارش تأیید نشده‌اند.
۳. ردپای شبکه؛ چرا نام تنسنت‌کلود مطرح شد؟
پژوهشگران می‌گویند درخواست‌ها و ساخت صندوق‌های ایمیل موقت از نشانی‌های تنسنت‌کلود در هنگ‌کنگ انجام شده است. در ۱۷ صندوق از ۱۸ صندوق قابل‌خواندن نشانه‌ی این زیرساخت دیده شده و یک سرآیند پروکسی با نام hysandbox-ats هم تکرار می‌شده است. بخشی از ترافیک هم از طریق سرویس اسکن urlquery.net عبور کرده است.
اما گزارش خودش تأکید می‌کند که «اجرا روی زیرساخت تنسنت» یعنی «کار تنسنت» نیست. هر مشتری ابری می‌تواند روی این زیرساخت ماشین بگیرد و ایجنت اجرا کند. بنابراین نسبت‌دادن ماجرا به تنسنت، علی‌بابا یا هر آزمایشگاه هوش مصنوعی مشخص، از نگاه نویسندگان گزارش نادرست است.
۴. برچسب «claude» دقیقاً چه معنایی دارد؟
در ۲۱۱ خروجی برچسب «claude» دیده شد و همین باعث شد بعضی منابع نام Anthropic را وسط بکشند. ولی خود Swarmchasers می‌گوید تحلیل کد و الگوی پاسخ‌ها این برچسب را تأیید نمی‌کند. به گفته‌ی آن‌ها، نشانه‌ها بیشتر به مدل‌های Hunyuan (نسخه‌های Hy3 و Hy4) از تنسنت و GLM از Zhipu شبیه است.
یک برچسب متنی داخل خروجی، سند هویت نیست. ایجنت‌ها می‌توانند به دلایل مختلف نام مدل‌های دیگر را بنویسند؛ مثلاً از پرامپت‌ها یا داده‌های آموزشی کپی کرده باشند یا عمداً هویت دیگری نشان دهند. به همین دلیل نتیجه‌گیری محتاطانه‌تر این است که فعلاً مدل مشخصی تأیید نشده است.
۵. «ناوگان» یا «گله»؟ تفاوت این دو
پژوهشگران عمداً از واژه‌ی «ناوگان» (fleet) استفاده کرده‌اند، نه «گله» (swarm). تفاوت در هماهنگی است: در یک گله، ایجنت‌ها با هم ارتباط دارند و کارشان را تقسیم می‌کنند. در یک ناوگان، چند اجرای مستقل روی کارهای مشابه به‌طور موازی کار می‌کنند، بدون اینکه شواهدی از هماهنگی میان آن‌ها دیده شود.
این تمایز برای فهم خطر مهم است. ناوگان یعنی کسی چند نمونه‌ی ایجنت را هم‌زمان اجرا کرده، نه اینکه سیستمی خودمختار تصمیم گرفته خودش را تکثیر کند. اگر می‌خواهید با ایجنت‌ها و تفاوت آن‌ها با چت‌بات‌ها بیشتر آشنا شوید، مقاله‌ی پتانسیل و محدودیت‌های واقعی هوش مصنوعی نقطه‌ی شروع خوبی است.
۶. آیا این یک نفوذ یا هک بود؟
طبق گزارش، شاهدی برای نفوذ، سرقت اعتبارنامه یا جمع‌آوری غیرمجاز فراتر از پرس‌وجوهای لازم برای کار دیده نشده است. ایجنت‌ها از تکنیک‌هایی استفاده کرده‌اند که پیش‌تر در افشاگری‌های عمومی درباره‌ی دورزدن توکن‌های ضدرباتی Amap مطرح شده بود. یعنی این رویداد بیشتر شبیه «خزش خودکار با ابزار هوشمند» است تا یک حمله‌ی کلاسیک.
این به معنای بی‌اهمیت بودن ماجرا نیست. پرس‌وجوی گسترده و دورزدن سامانه‌های ضدربات، هزینه و فشار روی سرویس‌دهنده ایجاد می‌کند و بحث حقوقی و اخلاقی درباره‌ی شرایط استفاده از سرویس‌ها را جدی‌تر می‌کند.
نکته‌ی دیگر زمان‌بندی است. گزارش به هم‌زمانی این فعالیت با توقف گزارش‌شده‌ی بعضی فرایندهای آموزش و ارزیابی در OpenAI اشاره می‌کند، اما صریحاً می‌گوید رابطه‌ای تأیید نشده است. پس بهتر است این هم‌زمانی را یک اتفاق ثبت‌شده بدانیم، نه دلیل. در تحلیل رویدادهای این‌چنینی، هم‌زمانی بدون سند، آسان‌ترین راه رسیدن به نتیجه‌ی غلط است.
۷. چرا ایجنت‌ها ردپا می‌گذارند؟
جالب‌ترین بخش ماجرا از نگاه خود پژوهشگران، جنبه‌ی «رصدپذیری» است. ایجنت‌های خودکار برای کار به ابزارهای معمولی وب تکیه می‌کنند: سرویس‌های اسکن، صندوق‌های ایمیل موقت، پروکسی‌ها و الگوهای تکراری دسترسی. هر کدام از این‌ها اثری روی اینترنت باقی می‌گذارد که دیگران می‌توانند ردیابی کنند.
برای شرکت‌های سازنده‌ی سرویس، این یعنی باید برای ترافیک ایجنت‌ها سیاست روشن داشته باشند: اجازه‌دادن، محدودکردن یا شناسایی با هویت مشخص. برای کاربران و کسب‌وکارها هم یعنی باید بدانند ایجنتی که اجرا می‌کنند از چه مسیری به وب وصل می‌شود. اگر به کاربرد هوش مصنوعی در کسب‌وکار علاقه دارید، اهمیت هوش مصنوعی در کسب‌وکار را هم بخوانید.
۸. پس‌زمینه: از خزنده‌ی ساده تا ایجنت هوشمند
خزنده‌های وب سال‌هاست وجود دارند و موتورهای جست‌وجو با آن‌ها کار می‌کنند. تفاوت ایجنت هوشمند این است که فقط صفحه‌ها را دانلود نمی‌کند؛ برنامه می‌نویسد، خطاها را می‌بیند، راهش را تغییر می‌دهد و وقتی با مانع روبه‌رو شد، روش دیگری امتحان می‌کند. همین انعطاف باعث می‌شود سامانه‌های ضدربات کلاسیک سخت‌تر مقاومت کنند.
در این ماجرا شمار برنامه‌های تولیدشده، یعنی حدود ۴۲۸ برنامه، همین رفتار را نشان می‌دهد: ایجنت‌ها به‌جای یک اسکریپت ثابت، مدام کد تازه ساخته‌اند. این سبک کار برای دفاع هم دردسر دارد، چون امضای ثابتی برای مسدودکردن باقی نمی‌ماند و باید رفتار کلی ترافیک بررسی شود.
چرا نقشه‌ها هدف جذابی‌اند؟
داده‌ی نقشه ترکیبی از مختصات، نام مکان، ساعت کاری و جزئیاتی مثل محل ورودی است. این جزئیات برای خودروهای خودران، ربات‌های تحویل، دستیارهای مسیریابی و مدل‌های مکانی ارزش دارد. به همین دلیل رقابت بر سر داده‌ی نقشه، بخشی از رقابت بزرگ‌تر شرکت‌ها برای ساخت ایجنت‌های کاربردی است. باز هم تکرار می‌کنیم که هدف واقعی این ناوگان در گزارش اعلام نشده است.
۹. پیام این رویداد برای کاربران و مدیران سایت
اول، هر ادعای مربوط به هویت مدل را با احتیاط بخوانید. دوم، اگر سایت یا سرویسی دارید، ترافیک خودکار را از طریق لاگ‌ها و محدودیت نرخ کنترل کنید. سوم، اگر ایجنتی اجرا می‌کنید، آن را با هویت و محدودیت مشخص اجرا کنید تا بعداً به‌صورت یک «ناوگان ناشناس» ردیابی نشود.
برای کسانی که تازه با ابزارهای هوش مصنوعی کار می‌کنند، آموزش‌های آموزش ChatGPT و راهنمای نوشتن پرامپت برای مبتدیان کمک می‌کند ابزارها را آگاهانه‌تر به کار بگیرید. برای شناخت شرکت‌های بازیگر این حوزه هم می‌توانید OpenAI چیست؟ را بخوانید.
۱۰. پرسش‌های متداول
آیا Claude پشت این ناوگان بود؟
خیر، این موضوع تأیید نشده است. برچسب «claude» در ۲۱۱ خروجی دیده شد، اما پژوهشگران می‌گویند تحلیل کد و الگوها هویت Claude را اثبات نمی‌کند و حتی شباهت بیشتری به Hunyuan و GLM دیده‌اند.
آیا تنسنت یا علی‌بابا مسئول است؟
گزارش می‌گوید ترافیک از زیرساخت تنسنت‌کلود آمده، ولی نسبت‌دادن به تنسنت یا علی‌بابا درست نیست. در منابع بررسی‌شده، اظهارنظر رسمی از این دو شرکت دیده نشد.
آیا داده‌ی کاربران لو رفت؟
نه شاهدی برای این موضوع آمده است. ایجنت‌ها ظاهراً درباره‌ی ورودی مکان‌های عمومی پرس‌وجو می‌کردند و گزارش از جمع‌آوری غیرمجاز فراتر از همین پرس‌وجوها خبر نداده است.
ناوگان ایجنت با گله‌ی ایجنت چه فرقی دارد؟
ناوگان یعنی چند اجرای موازی مستقل، اما گله یعنی ایجنت‌هایی که هماهنگ کار می‌کنند. در این ماجرا شواهدی از هماهنگی دیده نشده است.
گزارش چقدر قابل‌اتکاست؟
گزارش اولیه است و هنوز مرحله‌ی تأیید مستقل را طی نکرده. اعداد را به‌عنوان یافته‌های اولیه ببینید و منتظر جزئیات بیشتر بمانید.
۱۱. نگاه آینده
چه نشانه‌هایی را باید زیر نظر گرفت؟
اگر مدیر یک سرویس آنلاین هستید، به الگوی ترافیک توجه کنید: جهش ناگهانی در یک روز مثل ۱٬۸۱۰ درخواست در یک روز، پارامترهای تصادفی که هر بار تغییر می‌کنند، و ساخت صندوق ایمیل موقت. هر کدام به‌تنهایی عادی است، اما ترکیبشان می‌تواند نشانه‌ی کار ایجنت باشد.
اگر کاربر ایجنت هستید، شرایط استفاده از سرویس‌ها را بخوانید و از دورزدن ابزارهای حفاظتی خودداری کنید. این کار علاوه بر خطر حقوقی، اعتبار ابزاری را که استفاده می‌کنید هم زیر سؤال می‌برد. در مجموع، مسئولیت رفتار ایجنت با کسی است که آن را اجرا می‌کند، نه با خود مدل.
احتمالاً در ماه‌های آینده گزارش‌هایی از این دست بیشتر خواهیم دید، چون اجرای ایجنت‌های موازی ارزان شده و ابزارهای ردیابی هم بهتر شده‌اند. پرسش اصلی دیگر «آیا ایجنت‌ها روی وب فعال‌اند؟» نیست؛ پرسش این است که قاعده‌ی هویت، شفافیت و مسئولیت برای آن‌ها چه خواهد بود.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
