شهریور
اخبار
گراک ۴.۶ روی پلتفرم سازمانی گوگل عرضه شد
دو شرکتی که در بازار مدلهای زبانی رقیب مستقیم یکدیگرند، حالا روی زیرساخت با هم همکاری میکنند. گراک ۴.۶ ساختهی ایکسایآی از این پس روی پلتفرم سازمانی گوگل هم در دسترس است؛ یعنی تیمهایی که تمام کارشان روی ابر گوگل میگذرد، دیگر برای استفاده از این مدل نیازی به تغییر سرویسدهنده ندارند. مدلی با پنجرهی زمینهی پانصد هزار توکنی که مشخصاً برای کارهای طولانی و کدنویسی طراحی شده است.
لیست مطالب
۱) چه اتفاقی افتاد؟
ایکسایآی اعلام کرد گراک ۴.۶ روی پلتفرم سازمانی گوگل در دسترس قرار گرفته است. توسعهدهندگان سازمانی میتوانند از طریق مدل گاردن و کارت مدل مربوطه به آن دسترسی پیدا کنند.
معنای عملی این خبر ساده است. تا پیش از این، تیمی که میخواست از گراک استفاده کند باید سراغ رابط برنامهنویسی خود ایکسایآی میرفت؛ یعنی یک قرارداد جدا، یک صورتحساب جدا و یک مسیر امنیتی جدا. حالا همان تیم میتواند این مدل را در کنار بقیهی مدلهایی که روی ابر گوگل استفاده میکند فراخوانی کند.
برای سازمانها، این نوع یکپارچگی اغلب مهمتر از چند درصد اختلاف در کارایی مدل است. مسیر تأیید امنیتی، مدیریت هزینه و کنترل دسترسی همگی روی یک بستر انجام میشود. روند مشابهی را در اخبار روزانهی هوش مصنوعی بارها در مورد مدلهای دیگر هم دیدهایم.
۲) مشخصات فنی گراک ۴.۶
مهمترین ویژگی اعلامشده، پنجرهی زمینهی پانصد هزار توکنی است. این عدد یعنی مدل میتواند حجم بسیار بزرگی از متن یا کد را یکجا در نظر بگیرد؛ چیزی معادل چند کتاب یا یک مخزن کد متوسط.
ویژگی دوم، پشتیبانی از سطوح قابلتنظیم تلاش استدلالی است. توسعهدهنده میتواند میان چهار سطح کم، متوسط، زیاد و بسیار زیاد انتخاب کند. این قابلیت مستقیماً به کنترل هزینه مربوط میشود: برای کارهای ساده سطح پایین کافی است و فقط برای مسائل پیچیده سراغ سطوح بالاتر میروید.
ویژگی سوم، طراحی مدل برای عاملهای طولانیمدت و کارهای بصری است. یعنی این مدل صرفاً برای پاسخهای کوتاه ساخته نشده، بلکه برای سناریوهایی طراحی شده که سامانه ساعتها روی یک وظیفه کار میکند.
۳) قیمتگذاری و اقتصاد استفاده
قیمت اعلامشده برای هر میلیون توکن ورودی ۲ دلار، برای ورودی کششده ۰.۵ دلار و برای هر میلیون توکن خروجی ۶ دلار است.
نکتهی کلیدی، همان ورودی کششده است. در بسیاری از کاربردهای واقعی، بخش بزرگی از ورودی در هر فراخوانی تکراری است؛ مثلاً دستورالعمل سامانه، مستندات پروژه یا بخش ثابتی از کدبیس. وقتی این بخش کش شود، هزینهی آن به یکچهارم کاهش پیدا میکند.
در عمل یعنی طراحی درست ساختار درخواست میتواند صورتحساب ماهانه را چند برابر کم یا زیاد کند. این دقیقاً همان جایی است که مهارت نوشتن دستور دقیق ارزش مالی مستقیم پیدا میکند؛ موضوعی که در راهنمای پرامپتنویسی پایههای آن را توضیح دادهایم.
۴) چرا دو رقیب با هم همکاری میکنند؟
در نگاه اول عجیب است که گوگل مدلی را روی پلتفرم خودش عرضه کند که با مدلهای خودش رقابت میکند. اما اقتصاد ابر منطق متفاوتی دارد.
گوگل از هر مدلی که روی زیرساختش اجرا شود درآمد میگیرد، فارغ از اینکه سازندهاش کیست. مهمتر از آن، اگر مشتری برای دسترسی به یک مدل خاص مجبور به ترک پلتفرم شود، ممکن است بقیهی بار کاریاش را هم با خود ببرد. عرضهی مدلهای رقیب در واقع سدی در برابر همین خطر است.
برای ایکسایآی هم منطق روشن است: دسترسی به بازار سازمانی بزرگی که همین حالا روی ابر گوگل مستقر است، بدون نیاز به ساختن کانال فروش از صفر. این وضعیت را میتوان «رقابت در لایهی مدل، همکاری در لایهی توزیع» نامید.
۵) این عرضه در نقشهی رقابت کجا میایستد؟
بازار مدلهای زبانی سازمانی امروز به چند اردوگاه تقسیم شده و هر ابر بزرگ تلاش میکند فهرست مدلهای متنوعتری عرضه کند. اضافهشدن گراک به این فهرست، تنوع انتخاب را برای مشتری بیشتر میکند و فشار قیمتی را افزایش میدهد.
برای توسعهدهنده، بیشترشدن گزینهها یعنی امکان جابهجایی راحتتر میان مدلها بر اساس نوع کار. مقایسهی عملکرد مدلهای مختلف در وظایف واقعی موضوعی است که در بررسیهایی مانند نبرد چتجیپیتی و دیپسیک به آن پرداختهایم.
در سطح کلانتر، این روند بخشی از تبدیلشدن مدل زبانی به یک کالای زیرساختی است؛ چیزی شبیه پایگاه داده یا سرویس ذخیرهسازی که سازمان بر اساس قیمت و کارایی انتخاب میکند، نه بر اساس وفاداری به یک برند.
۶) گسترش همزمان دستیار گروک بات
در کنار این عرضه، دسترسی به دستیار گروک بات هم گسترش پیدا کرده و اکنون برای مشترکان بیشتری در دسترس است. طبق گزارشها، دورهی آزمایشی هفتروزهای هم برای کاربران در نظر گرفته شده است.
این دو خبر با هم یک راهبرد واحد را نشان میدهند: ایکسایآی از یک سو مدل خود را به بازار سازمانی میبرد و از سوی دیگر لایهی محصول نهایی را برای کاربر حرفهای گسترش میدهد. یعنی همزمان روی «فروش موتور» و «فروش خودرو» کار میکند.
این الگو در صنعت هوش مصنوعی رایج شده است و دلیلش هم روشن است: درآمد رابط برنامهنویسی قابل پیشبینیتر است اما حاشیهی سود محصول نهایی بالاتر است.
۷) پنجرهی زمینهی بزرگ؛ فرصت یا تله؟
عدد پانصد هزار توکن چشمگیر است، اما استفادهی درست از آن بهسادگی پر کردن ظرفیت نیست. تجربهی کار با مدلهای زمینهبلند نشان میدهد که کیفیت پاسخ همیشه با افزایش حجم ورودی بهتر نمیشود؛ گاهی برعکس، اطلاعات نامرتبط باعث گمشدن نکتهی اصلی میشود.
قاعدهی عملی این است که زمینهی بزرگ را برای «دسترسی» به کار ببرید نه برای «انباشت». یعنی بهجای ریختن کل مخزن کد در ورودی، بخشهای مرتبط را انتخاب کنید و ساختار روشنی به آنها بدهید.
نکتهی دوم هزینه است. پنجرهی بزرگ به معنای امکان مصرف توکن بسیار زیاد در هر فراخوانی است و بدون کنترل، صورتحساب بهسرعت بالا میرود. اینجاست که ترکیب کش ورودی و انتخاب هوشمندانهی محتوا تفاوت اصلی را میسازد.
۸) نگاه راهبردی؛ مدل بهعنوان کالای زیرساختی
پنج سال پیش، انتخاب مدل زبانی یک تصمیم راهبردی بلندمدت بود. امروز بیشتر شبیه انتخاب سرویس ذخیرهسازی است: قابل جایگزینی، قابل مقایسه و وابسته به قیمت روز.
عرضهی مدلهای رقیب روی یک پلتفرم واحد دقیقاً همین تغییر را تسریع میکند. وقتی جابهجایی میان مدلها به تغییر یک پارامتر در کد تبدیل شود، قدرت چانهزنی از سازندهی مدل به سمت مشتری منتقل میشود.
پیامد این تغییر برای تیمهای فنی روشن است: معماری نرمافزار خود را طوری بسازید که به یک ارائهدهنده گره نخورد. لایهی انتزاعی سادهای که فراخوانی مدل را جدا نگه دارد، در بلندمدت هزینهی مهاجرت را به حداقل میرساند.
۹) برای چه کارهایی مناسب است؟
ترکیب پنجرهی زمینهی بزرگ و تلاش استدلالی قابلتنظیم، این مدل را برای چند دسته کار مشخص جذاب میکند. اول، تحلیل کدبیسهای بزرگ؛ جایی که باید دهها فایل همزمان در نظر گرفته شوند.
دوم، پردازش اسناد طولانی مثل قراردادها یا گزارشهای فنی که خلاصهسازی تکهتکه کیفیت را پایین میآورد. سوم، عاملهای خودکار که باید تاریخچهی طولانی گفتوگو و اقدامات قبلیشان را به خاطر بسپارند.
در مقابل، برای کارهای کوتاه و پرتکرار، مدلهای کوچکتر و ارزانتر معمولاً انتخاب منطقیتری هستند. درک این تفاوت بخشی از نگاه واقعبینانه به این فناوری است که در این تحلیل بیشتر باز شده است.
۱۰) نکتههای عملی برای تیمهای کوچک
اگر قصد استفاده از این مدل را دارید، سه نکته اهمیت دارد. اول، ساختار درخواست را طوری بچینید که بخش ثابت در ابتدا و بخش متغیر در انتها باشد تا کش مؤثر عمل کند.
دوم، سطح تلاش استدلالی را پیشفرض روی کمترین مقدار ممکن بگذارید و فقط در صورت نیاز بالا ببرید. سوم، پیش از تعهد به یک مدل، همان وظیفهی واقعی خودتان را روی دو یا سه گزینه بسنجید؛ نتایج آزمونهای عمومی لزوماً با تجربهی شما همخوانی ندارد.
برای آشنایی بیشتر با بازیگران این بازار و اهمیت راهبردی آن، معرفی اوپنایآی و اهمیت هوش مصنوعی در کسبوکار را ببینید.
پرسشهای پرتکرار دربارهی گراک ۴.۶ روی پلتفرم گوگل
پنجرهی زمینهی این مدل چقدر است؟
پانصد هزار توکن؛ حجمی که امکان تحلیل یکجای اسناد و کدبیسهای بزرگ را فراهم میکند.
هزینهی استفاده چقدر است؟
هر میلیون توکن ورودی ۲ دلار، ورودی کششده ۰.۵ دلار و هر میلیون توکن خروجی ۶ دلار.
چطور میتوان به آن دسترسی داشت؟
از طریق مدل گاردن روی پلتفرم سازمانی گوگل و با استفاده از کارت مدل گراک ۴.۶.
سطوح تلاش استدلالی به چه معناست؟
مدل از چهار سطح کم، متوسط، زیاد و بسیار زیاد پشتیبانی میکند؛ هرچه سطح بالاتر باشد، مدل زمان و توکن بیشتری صرف استدلال میکند.
چرا گوگل مدل رقیب را عرضه میکند؟
چون درآمد ابر از اجرای بار کاری به دست میآید، نه صرفاً از فروش مدل خودی؛ نگهداشتن مشتری روی پلتفرم اولویت بالاتری دارد.
