مهر
اخبار
آنتروپیک جلوی تقطیر کلود را گرفت؛ استخراج استدلال تا ۹۹ درصد کاهش یافت
شرکت Anthropic می‌گوید با لایه‌های دفاعی تازه، استخراج استدلال مدل‌های Claude را بین ۹۰ تا ۹۹ درصد کاهش داده و ده‌ها هزار حساب مرتبط با «تقطیر» را مسدود کرده است. این خبر نشان می‌دهد رقابت مدل‌های هوش مصنوعی از بنچمارک به میدان امنیت و ژئوپلیتیک رسیده است.
لیست مطالب
۱. ماجرا چیست؟ خلاصهٔ خبر
شرکت Anthropic، سازندهٔ Claude، در گزارشی که ۱۲ اکتبر ۲۰۲۶ منتشر شد اعلام کرد سامانه‌های دفاعی تازه‌اش جلوی بخش بزرگی از تلاش‌های «تقطیر» را گرفته‌اند. به نوشتهٔ رسانه‌هایی مانند Cryptonomist و The Decoder، میزان استخراج استدلال از مدل‌های این شرکت بین ۹۰ تا ۹۹ درصد کم شده است. به بیان ساده‌تر، آن چیزی که پیش‌تر ده‌ها هزار بار تکرار می‌شد تا مدلی دیگر از روی آن آموزش ببیند، حالا خیلی سخت‌تر به دست می‌آید.
آنتروپیک همچنین می‌گوید ده‌ها هزار حساب مرتبط با این کمپین‌ها را مسدود کرده و در برخی موارد این کار فقط دو ساعت پس از شروع کمپین انجام شده است. اگر تازه با این شرکت و مدل‌هایش آشنا شده‌اید، پیشنهاد می‌کنیم بخش اخبار هوش مصنوعی را هم دنبال کنید تا این خبر را در کنار رویدادهای دیگر ببینید.
۲. تقطیر مدل (Distillation) یعنی چه؟
تقطیر روشی مشروع و رایج در دنیای هوش مصنوعی است: یک مدل کوچک‌تر با خروجی‌های یک مدل بزرگ‌تر آموزش می‌بیند تا ارزان‌تر و سریع‌تر شود. شرکت‌ها این کار را روی مدل‌های خودشان انجام می‌دهند و مشکلی هم ندارد. مشکل زمانی شروع می‌شود که یک آزمایشگاه، بدون اجازه و پنهانی، از مدل رقیب میلیون‌ها پاسخ بگیرد و با آن‌ها مدل خودش را بسازد.
آنتروپیک این رفتار را «کمپین‌های غیرمجاز و پنهانی» می‌نامد. در این کمپین‌ها معمولاً هزاران حساب هم‌زمان ساخته می‌شود تا ترافیک عادی به نظر برسد. اگر می‌خواهید پایه‌ای را مرور کنید، مقالهٔ OpenAI چیست؟ نگاهی کلی به شرکت‌های بزرگ این حوزه دارد.
۳. چرا «استدلال» هدف اصلی است؟
در عمل، یک کمپین تقطیر معمولاً با پرسش‌های متنوع و ساختاریافته شروع می‌شود: مسئله‌های ریاضی، کدنویسی، تحلیل متن و سناریوهای امنیتی. خروجی هر پرسش ذخیره می‌شود و بعداً به‌عنوان داده‌ی آموزشی به کار می‌رود. چون هر درخواست به‌تنهایی عادی به نظر می‌رسد، شناسایی الگو فقط با تحلیل رفتار جمعی حساب‌ها ممکن است؛ کاری که طبقه‌بند آنتروپیک ادعا می‌کند انجام می‌دهد.
مدل‌های امروزی پیش از جواب نهایی، زنجیره‌ای از استدلال تولید می‌کنند. این زنجیره برای آموزش مدل دیگر بسیار ارزشمند است، چون فقط جواب را نشان نمی‌دهد؛ روش رسیدن به جواب را هم نشان می‌دهد. طبق گزارش‌ها، آزمایش‌های آنتروپیک نشان داده مدلی که با متن کامل استدلال‌ها آموزش ببیند در بنچمارک SWE-bench Verified حدود ۸۰٫۴ درصد می‌گیرد، اما با نسخهٔ خلاصه‌شده فقط حدود ۷۱٫۸ درصد.
این فاصله توضیح می‌دهد چرا محافظت از استدلال برای شرکت‌ها حیاتی است. دانشی که با هزینهٔ میلیاردی ساخته شده، اگر قابل کپی باشد، مزیت رقابتی را از بین می‌برد.
۴. لایه‌های دفاعی تازه چه هستند؟
بر اساس گزارش‌ها، دفاع آنتروپیک چند بخش دارد. نخست، محدودکردن دسترسی به استدلال: ویژگی «preserved thinking» که با مدل‌های تازه‌تر معرفی شده، اجازهٔ ویرایش بافت قبلی را برای حساب‌های ساخته‌شده از ۳۱ اوت ۲۰۲۶ به بعد نمی‌دهد. دوم، محدودکردن دسترسی به متن گفتگو به همان سازمانی که آن را تولید کرده است.
طبقه‌بند دومرحله‌ای
بخش سوم یک طبقه‌بند دومرحله‌ای است که روی مدل‌های جدید اجرا می‌شود. آنتروپیک می‌گوید همهٔ تکنیک‌های گزارش سپتامبر را شناسایی می‌کند و نرخ هشدار اشتباه آن کمتر از ۰٫۱ درصد است؛ یعنی کاربران عادی به‌ندرت به‌اشتباه مسدود می‌شوند.
جریمه و صورتحساب
استخراج مداوم به محدودیت سخت‌تر و مسدودشدن حساب می‌انجامد. از ۲۴ سپتامبر ۲۰۲۶ هم برای بعضی درخواست‌های مسدودشده پیش از پاسخ، هزینه گرفته می‌شود. این یعنی شرکت حاضر است بخشی از درآمد خود را فدای امنیت کند.
۵. روش‌های مهاجمان چه بود؟
به گفتهٔ گزارش، یکی از آزمایشگاه‌ها ۱۲ هزار درخواست متفاوت را آزمود تا ضعف سامانه را پیدا کند. شبکه‌های واسطه با هویت جعلی و کارت‌های دزدیده‌شده صدها هزار حساب ساختند و دسترسی را در کشورهایی که Claude رسماً در آن‌ها در دسترس نیست دوباره فروختند. شبکه‌ای که در گزارش فوریه توصیف شده بود، بیش از ۲۰ هزار حساب را هم‌زمان اداره می‌کرد.
این الگو آشناست: همان‌طور که در مقایسهٔ ChatGPT و DeepSeek دیدیم، مرز میان یادگیری از رقیب و کپی‌کردن او همیشه محل بحث بوده است.
این روش‌ها نشان می‌دهد تقطیر دیگر کار یک فرد کنجکاو نیست؛ نوعی عملیات صنعتی است. هزینه‌ی ساخت هزاران حساب جعلی در برابر سود دسترسی به دانش یک مدل پیشرو ناچیز است، و به همین دلیل دفاع باید فقط به یک روش تکیه نکند و چند لایه باشد.
۶. موارد نام‌برده: Zhipu و Moonshot
آنتروپیک دو آزمایشگاه چینی را نام برده است. دربارهٔ Zhipu گفته شده این شرکت تلاش کرد توانایی‌های سایبری را از یکی از مدل‌های Claude استخراج کند و پس از مسدودشدن، سراغ مدلی قدیمی‌تر و مدلی از آزمایشگاهی دیگر رفت. دربارهٔ Moonshot هم گزارش شده درخواست‌هایی به مدل‌های Kimi در پشت صحنه به Claude هدایت می‌شد.
مهم است که این‌ها ادعاهای خود آنتروپیک هستند و ما نسخهٔ اصلی گزارش را مستقیم بررسی نکرده‌ایم. تا زمانی که تأیید مستقل منتشر نشود، بهتر است آن‌ها را به‌عنوان ادعا بخوانیم، نه حکم نهایی.
۷. بعد امنیت ملی ماجرا
آنتروپیک استدلال می‌کند که تقطیر غیرمجاز فقط مسئلهٔ تجاری نیست. به گفتهٔ این شرکت، اگر توانایی‌های کپی‌شده به سامانه‌های نظامی، اطلاعاتی و نظارتی کشورهای رقیب برسد و مدل کپی‌شده محافظ‌های متناسب نداشته باشد، خطر امنیت ملی ایجاد می‌شود. این شرکت از رقبا، پلتفرم‌های ابری و ارائه‌دهندگان استنتاج می‌خواهد با هم همکاری کنند، چون تقطیرکنندگان ترافیک را بین چند سرویس پخش می‌کنند.
این بحث به گفت‌وگوی بزرگ‌تری وصل است که در مقالهٔ توانایی‌ها و محدودیت‌های واقعی هوش مصنوعی هم مطرح شده: هر پیشرفت بزرگ، هم فرصت می‌سازد و هم ریسک.
۸. این خبر برای کاربران و کسب‌وکارها چه معنایی دارد؟
برای کاربران عادی تغییر بزرگی رخ نمی‌دهد، اما آنتروپیک اشاره کرده که بعضی دفاع‌ها لازم کرده‌اند کاربران قانونی هم یکپارچه‌سازی‌هایشان را به‌روز کنند. توسعه‌دهندگانی که از API استفاده می‌کنند باید یادداشت‌های نسخه را دنبال کنند و ببینند ابزارهایشان با قوانین تازه سازگار است یا نه.
برای کسب‌وکارها، نکتهٔ اصلی این است که انتخاب مدل فقط به کیفیت و قیمت محدود نمی‌شود؛ شفافیت و امنیت تأمین‌کننده هم اهمیت دارد. مقالهٔ اهمیت هوش مصنوعی در کسب‌وکار نقطهٔ شروع خوبی برای تصمیم‌گیری است. اگر هم می‌خواهید بهتر با مدل‌ها کار کنید، آموزش پرامپت‌نویسی و دورهٔ آموزش ChatGPT را ببینید.
۹. پیامد برای رقابت جهانی هوش مصنوعی
اگر دفاع آنتروپیک واقعاً به همین اندازه مؤثر باشد، سد راه آزمایشگاه‌هایی می‌شود که می‌خواستند با هزینه‌ی کم به مدل‌های پیشرو نزدیک شوند. تا امروز یکی از راه‌های میان‌بُر برای رسیدن به کیفیت بالا، یادگرفتن از خروجی مدل‌های گران‌تر بود. وقتی این راه تنگ‌تر شود، آزمایشگاه‌ها یا باید سخت‌افزار و داده‌ی بیشتری بخرند، یا روش‌های آموزش مستقل‌تری پیدا کنند.
از طرف دیگر، تجربه نشان داده هر قفل جدیدی کلید جدیدی پیدا می‌کند. مهاجمان می‌توانند ترافیک را بین سرویس‌های بیشتری پخش کنند، حساب‌های تازه بسازند یا سراغ مدل‌های کم‌محافظ‌تر بروند؛ دقیقاً کاری که طبق گزارش‌ها Zhipu پس از مسدودشدن انجام داد. به همین دلیل آنتروپیک تأکید دارد که مقابله باید میان چند شرکت و پلتفرم هماهنگ شود و یک شرکت به‌تنهایی نمی‌تواند مسئله را حل کند.
نکته‌ی دیگر شفافیت است. وقتی شرکت‌ها اعداد و روش‌های خود را منتشر می‌کنند، بقیه می‌توانند آن‌ها را بسنجند؛ اما همان‌طور که در خبر دیگر این هفته دیدیم، گزارش‌های ایمنی گاهی از فیلتر خود شرکت‌ها می‌گذرد، پس بهتر است همیشه به ارزیابی مستقل هم توجه کنیم. تا زمانی که ارزیاب‌های بیرونی اعداد ۹۰ تا ۹۹ درصد را بررسی نکرده‌اند، این ارقام را باید «اعلام‌شده توسط شرکت» خواند.
چه چیزی را باید زیر نظر داشت؟
سه چیز ارزش دنبال‌کردن دارد: انتشار داده‌های مستقل درباره‌ی اثر این دفاع‌ها، واکنش رسمی آزمایشگاه‌های نام‌برده، و تغییر قوانین دسترسی به API در شرکت‌های دیگر. هر سه می‌تواند مسیر رقابت مدل‌ها در ماه‌های بعد را عوض کند.
۱۰. پرسش‌های متداول
تقطیر مدل غیرقانونی است؟
خود تقطیر یک تکنیک عادی است. مشکل، انجام آن روی مدل رقیب بدون اجازه و برخلاف شرایط استفاده است؛ بحث حقوقی این موضوع هنوز در حال شکل‌گیری است.
آیا حساب من هم ممکن است مسدود شود؟
آنتروپیک می‌گوید نرخ هشدار اشتباه کمتر از ۰٫۱ درصد است، پس برای استفادهٔ عادی خطر بسیار کم است.
آیا ادعای نام‌بردن Zhipu و Moonshot تأیید شده؟
فعلاً این ادعاها از سوی آنتروپیک مطرح شده‌اند و تأیید مستقل کامل منتشر نشده است.
آیا مدل‌های دیگر هم با این مشکل روبه‌رو هستند؟
بله؛ آنتروپیک خودش می‌گوید تقطیرکنندگان ترافیک را بین چند سرویس پخش می‌کنند و بقیهٔ ارائه‌دهندگان هم هدف‌اند. برای مرور مشکلات ایمنی مرتبط، این تحلیل دربارهٔ مهندسی واقعی هوش مصنوعی را بخوانید.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
