افزایش سقف درخواست API کلود از ۳۲ به ۱۲۸ مگابایت توسط Anthropic

سقف درخواست API کلود ۴ برابر شد؛ از ۳۲ به ۱۲۸ مگابایت

اخبار · هوش مصنوعی

شرکت Anthropic سقف اندازه‌ی درخواست در API کلود را از ۳۲ به ۱۲۸ مگابایت رساند؛ تغییری کوچک روی کاغذ که برای ایجنت‌های Computer Use و ابزارهای تحلیل PDF و تصویر، یک رفع گلوگاه واقعی است.

چکیده. بر پایه‌ی گزارش Startup Fortune در ۳۰ اکتبر ۲۰۲۶، شرکت Anthropic حداکثر حجم بدنه‌ی درخواست در Messages API و Token Counting را چهار برابر کرده است. این تغییر قیمت و پنجره‌ی زمینه (Context Window) را عوض نمی‌کند، اما مانع از شکست درخواست‌هایی می‌شود که به‌خاطر تصویر و PDF حجیم، پیش از رسیدن به سقف توکن رد می‌شدند.
افزایش سقف درخواست API کلود از ۳۲ به ۱۲۸ مگابایت توسط Anthropic

۱. دقیقاً چه چیزی تغییر کرد؟

بر اساس گزارش منتشرشده، شرکت Anthropic حداکثر اندازه‌ی درخواست برای Messages API و همچنین نقطه‌ی پایانی شمارش توکن را از ۳۲ مگابایت به ۱۲۸ مگابایت افزایش داده است. این یعنی چهار برابر شدن ظرفیت بدنه‌ی HTTP که توسعه‌دهندگان می‌توانند در یک فراخوانی برای مدل کلود بفرستند.

نکته‌ی جالب اینجاست که اعلام این تغییر در یک پست روی شبکه‌ی X انجام شده و نه در وبلاگ رسمی شرکت. طبق همان گزارش، مستندات API در زمان انتشار خبر هنوز عدد قدیمی ۳۲ مگابایت را نشان می‌داد. بنابراین پیش از تغییر معماری پروژه‌تان، بهتر است یک درخواست آزمایشی بفرستید و رفتار واقعی را بسنجید.

همچنین گزارش تأکید می‌کند که قیمت‌گذاری و اندازه‌ی پنجره‌ی زمینه تغییری نکرده است. به بیان ساده، مدل همان مدل است و هزینه‌ی هر توکن همان هزینه است؛ فقط «در ورودی» بزرگ‌تری باز شده است.

۲. تفاوت سقف حجم درخواست با سقف توکن

خیلی‌ها این دو مفهوم را با هم اشتباه می‌گیرند. پنجره‌ی زمینه مشخص می‌کند مدل چند توکن را می‌تواند همزمان «ببیند». اما سقف حجم درخواست یک محدودیت در لایه‌ی شبکه است و می‌گوید بدنه‌ی خام درخواست چند مگابایت می‌تواند باشد. ممکن است مدل هنوز جای زیادی برای تحلیل داشته باشد، ولی درخواست شما پیش از رسیدن به مدل رد شود.

مثال ساده: یک فایل PDF سی‌مگابایتی را در نظر بگیرید. حتی اگر محتوای متنی آن در پنجره‌ی زمینه جا شود، ارسال آن به‌صورت مستقیم در یک درخواست با سقف قدیمی امکان‌پذیر نبود. سقف تازه این مشکل را برای بسیاری از فایل‌های واقعی برطرف می‌کند.

۳. چرا کدگذاری Base64 ماجرا را سخت‌تر می‌کرد؟

برای ارسال تصویر و PDF در بدنه‌ی JSON معمولاً از کدگذاری Base64 استفاده می‌شود. این کدگذاری حجم فایل‌های باینری را حدود یک‌سوم افزایش می‌دهد. در نتیجه فایلی که روی دیسک ۲۴ مگابایت است، پس از کدگذاری به سقف ۳۲ مگابایتی نزدیک می‌شود، آن هم پیش از آنکه حتی یک خط متن یا دستور به درخواست اضافه کنید.

گزارش Startup Fortune دقیقاً به همین مثال اشاره می‌کند: یک PDF بیست‌وچهار مگابایتی از قبل به سقف قدیمی نزدیک بود. با سقف ۱۲۸ مگابایتی، همین فایل با فاصله‌ی زیادی در محدوده‌ی امن قرار می‌گیرد و جا برای پرامپت، تاریخچه‌ی گفتگو و چند فایل دیگر باقی می‌ماند.

اثر سقف ۱۲۸ مگابایتی بر ایجنت‌های Computer Use و اسکرین‌شات‌های حجیم

۴. بیشترین سود را ایجنت‌های Computer Use می‌برند

ایجنت‌هایی که کامپیوتر را کنترل می‌کنند، در هر مرحله یک تصویر از صفحه می‌گیرند و برای مدل می‌فرستند. وقتی گفتگو طولانی می‌شود، همه‌ی این تصاویر در تاریخچه‌ی درخواست انباشته می‌شوند. نتیجه این است که یک ایجنت می‌تواند وسط کار با خطای حجم درخواست متوقف شود، در حالی که هنوز «پنجره‌ی زمینه‌ی کافی» دارد.

طبق گزارش، توسعه‌دهندگان در ردیاب‌های عمومی مسائل شکایت کرده بودند که این خطا به‌جای آنکه به مدل اجازه‌ی بازیابی یا کوتاه‌سازی بدهد، کل گفتگو را به پایان می‌رساند. با سقف تازه، ایجنت‌ها تقریباً چهار برابر نوبت‌های پرتصویر بیشتری را پیش از رسیدن به محدودیت پشت‌سر می‌گذارند. اگر درباره‌ی این‌گونه ابزارها بیشتر می‌خواهید، مطالب اخبار هوش مصنوعی مرجع ChatGPT را دنبال کنید.

۵. تحلیل اسناد: دیگر لازم نیست فایل را تکه‌تکه کنید

ابزارهای تحلیل قرارداد، گزارش مالی، مقاله‌ی علمی و کتاب اسکن‌شده معمولاً با فایل‌های حجیم سروکار دارند. تا امروز برای عبور از سقف ۳۲ مگابایت مجبور بودند فایل را به چند بخش تقسیم کنند، هر بخش را جداگانه بفرستند و نتیجه را دوباره ترکیب کنند. این کار هم پیچیدگی کد را بالا می‌برد و هم کیفیت تحلیل را پایین می‌آورد، چون مدل ارتباط بین بخش‌ها را به‌طور کامل نمی‌بیند.

حالا بسیاری از این پروژه‌ها می‌توانند سند را یکجا ارسال کنند. این موضوع برای شرکت‌ها، حقوقدان‌ها و پژوهشگرانی که با آموزش‌های کاربردی هوش مصنوعی کار می‌کنند، یعنی کد کمتر، خطای کمتر و نتیجه‌ی منسجم‌تر.

۶. سقف‌های مرتبط دیگر

در همان گزارش به دو محدودیت دیگر هم اشاره شده است: ظرفیت Message Batches API برابر ۲۵۶ مگابایت و ظرفیت Files API برابر ۵۰۰ مگابایت است. تفاوت این دو در نوع استفاده است. دسته‌ای (Batch) برای پردازش حجم زیادی از درخواست‌های غیرفوری مناسب است و Files API برای فایل‌هایی که قرار است چندین بار در درخواست‌های مختلف استفاده شوند.

انتخاب درست بین این سه مسیر به الگوی مصرف شما بستگی دارد. اگر فایلی را فقط یک‌بار تحلیل می‌کنید، ارسال مستقیم با سقف تازه ساده‌ترین راه است. اگر همان سند را در ده گفتگوی مختلف استفاده می‌کنید، آپلود یک‌باره از طریق Files API هم از پهنای باند و هم از هزینه‌ی زمانی صرفه‌جویی می‌کند.

۷. توصیه‌های عملی برای توسعه‌دهندگان

پیش از هر چیز، سقف واقعی را بسنجید

چون مستندات در زمان انتشار خبر به‌روز نشده بود، یک درخواست آزمایشی با حجم بالای ۳۲ مگابایت بفرستید و مطمئن شوید حساب و منطقه‌ی شما هم از سقف تازه برخوردار است. اطلاعات اینجا بر پایه‌ی یک گزارش خبری است و باید با رفتار واقعی API تأیید شود.

سقف بزرگ‌تر یعنی مصرف توکن بالاتر نه

بزرگ شدن بدنه‌ی مجاز به معنای رایگان شدن محتوا نیست. هر تصویر و هر صفحه‌ی PDF همچنان توکن مصرف می‌کند و هزینه‌ی آن مطابق قیمت قبلی محاسبه می‌شود. از نقطه‌ی پایانی شمارش توکن، که آن هم سقف تازه را دارد، برای برآورد هزینه پیش از ارسال استفاده کنید.

فشرده‌سازی تصویر را کنار نگذارید

حتی با ۱۲۸ مگابایت، کاهش وضوح اسکرین‌شات‌ها و حذف صفحه‌های غیرضروری سند، سرعت پاسخ را بالا می‌برد و هزینه را پایین می‌آورد. سقف بالاتر باید حاشیه‌ی ایمنی باشد، نه بهانه‌ای برای ارسال بی‌حساب‌وکتاب.

ارسال PDF و تصویر حجیم در یک درخواست به API کلود بدون تقسیم فایل

۸. این خبر در چشم‌انداز رقابت مدل‌ها کجا قرار می‌گیرد؟

در ماه‌های اخیر رقابت میان شرکت‌های بزرگ هوش مصنوعی از «مدل بهتر» به «زیرساخت بهتر برای ایجنت‌ها» منتقل شده است. شرکت‌هایی مثل OpenAI و Google هم روی ابزارهای کدنویسی، Computer Use و کار با اسناد بلند سرمایه‌گذاری کرده‌اند. افزایش سقف درخواست در API کلود را باید در همین چارچوب دید: رفع موانع کوچک اما واقعی که توسعه‌دهندگان را در تولید اذیت می‌کنند.

اگر تازه با دنیای شرکت‌های بزرگ این حوزه آشنا می‌شوید، مطلب OpenAI چیست؟ و مقایسه‌ی ChatGPT و دیپ‌سیک نقطه‌ی شروع خوبی هستند.

۹. چه چیزی برای کاربران عادی تغییر می‌کند؟

کاربر عادی مستقیم با سقف API سروکار ندارد، اما به‌طور غیرمستقیم از آن سود می‌برد. اپلیکیشن‌ها و افزونه‌هایی که روی API کلود ساخته می‌شوند، در تحلیل فایل‌های بزرگ‌تر کمتر خطا می‌دهند و ایجنت‌ها کمتر وسط کار قطع می‌شوند. به همین دلیل پیگیری این‌گونه خبرهای ظاهراً فنی ارزش دارد، چون کیفیت محصولات روزمره را تغییر می‌دهد.

برای آنکه از این ابزارها بهتر استفاده کنید، یاد گرفتن نوشتن پرامپت درست هم مهم است؛ راهنمای نوشتن پرامپت برای مبتدی‌ها را ببینید. همچنین برای درک محدودیت‌های واقعی این فناوری، پتانسیل و محدودیت‌های هوش مصنوعی در دنیای واقعی را مطالعه کنید.

۱۰. پیامد برای کسب‌وکارها

شرکت‌هایی که فرایندهای خود را بر پایه‌ی اسناد بنا کرده‌اند، مثل بیمه، حقوقی، مالی و بازرگانی، از این تغییر بیشترین بهره را می‌برند. جزئیات بیشتر درباره‌ی نقش هوش مصنوعی در کسب‌وکار را در اهمیت هوش مصنوعی در کسب‌وکار بخوانید. در عین حال، باید به یاد داشت که ابزار قدرتمند جای مهندس باتجربه را نمی‌گیرد؛ این بحث در توهم توسعه‌دهنده‌ی تنها در برابر مهندس واقعی به‌خوبی بررسی شده است.

۱۱. پرسش‌های متداول

سقف جدید درخواست در API کلود چقدر است؟

بر اساس گزارش، حداکثر اندازه‌ی درخواست برای Messages API و Token Counting از ۳۲ مگابایت به ۱۲۸ مگابایت رسیده است.

آیا قیمت یا پنجره‌ی زمینه تغییر کرده است؟

خیر. طبق همان گزارش، این تغییر قیمت‌گذاری و اندازه‌ی پنجره‌ی زمینه را تغییر نمی‌دهد و فقط حجم مجاز بدنه‌ی درخواست را بالا می‌برد.

سقف Files API و Batches چقدر است؟

در گزارش آمده است که Message Batches API تا ۲۵۶ مگابایت و Files API تا ۵۰۰ مگابایت را پشتیبانی می‌کند.

آیا باید کد فعلی را تغییر بدهم؟

لزوماً نه. اگر پروژه‌تان تا امروز با ۳۲ مگابایت کار می‌کرده، همچنان کار می‌کند. اما اگر منطق تکه‌تکه‌کردن فایل داشتید، می‌توانید آن را ساده‌تر کنید. پیش از آن، سقف را با یک درخواست آزمایشی تأیید کنید.

این تغییر چه کسانی را بیشتر تحت‌تأثیر می‌گذارد؟

سازندگان ایجنت‌های Computer Use و ابزارهای تحلیل سند و تصویر، چون این دو گروه بیش از همه به محدودیت حجم برمی‌خوردند.

جمع‌بندی. افزایش سقف درخواست از ۳۲ به ۱۲۸ مگابایت شاید خبر پرزرق‌وبرقی نباشد، اما مانعی عملی را برای ایجنت‌ها و ابزارهای سندمحور برمی‌دارد، آن هم بدون تغییر قیمت. پیش از اتکا به آن، رفتار واقعی API را بسنجید و در عین حال بهینه‌سازی تصاویر را ادامه بدهید. برای دریافت داغ‌ترین اخبار هوش مصنوعی به فارسی، کانال تلگرام @MrChatGPT_IR را دنبال کنید.
— (0 رأی)

دیدگاهتان را بنویسید

نشانی ایمیل شما منتشر نخواهد شد. بخش‌های موردنیاز علامت‌گذاری شده‌اند *