شهریور
اخبار
نکسوس پاینکن؛ لایهی دانشی که هزینهی ایجنتها را نصف کرد
شرکت پاینکن موتور دانش خود با نام نکسوس را بهطور کامل عرضه کرد؛ لایهای که دادههای سازمان را پیش از رسیدن به ایجنت، ساختاریافته و آماده میکند. نتیجه روی یک بنچمارک مستقل چشمگیر بود: هزینهی هر وظیفه تا حدود هشتاد درصد پایین آمد و شمار فراخوانی ابزارها بیش از نصف شد. جالبتر اینکه دقت نهتنها فدا نشد، بلکه در یکی از مدلها حدود دوازده درصد بالا رفت. پیام این خبر ساده است: شاید مسئلهی اصلی هوش مصنوعی سازمانی دیگر بزرگتر شدن مدل نباشد.
لیست مطالب
۱) مسئلهای که نکسوس میخواهد حل کند
ایجنتهای هوش مصنوعی در محیط واقعی سازمان با یک مشکل تکراری روبهرو هستند: دانش لازم برای انجام کار در دهها جای مختلف پخش است. بخشی در ویکی داخلی، بخشی در تیکتهای پشتیبانی، بخشی در فایلهای راهنما و بخشی هم در پایگاهداده. ایجنت برای پاسخدادن به یک پرسش ساده مجبور است چند بار جستوجو کند، اسناد را بخواند، بخشهای نامربوط را کنار بگذارد و دوباره تلاش کند.
هر یک از این رفتوبرگشتها هزینه دارد؛ هم به شکل توکن، هم به شکل زمان. مدیرعامل پاینکن این وضعیت را با تعبیری توصیف کرده که در صنعت سر زبانها افتاده است: ایجنتها بهجای درک اسناد، توکن میسوزانند. راهحل پیشنهادی هم روشن است: دانش را پیش از رسیدن به ایجنت آماده کنیم.
۲) نکسوس دقیقاً چه کار میکند؟
نکسوس یک لایهی دانش است که میان دادههای خام سازمان و ایجنت مینشیند. کار اصلی آن «کامپایلکردن» داده است: گرفتن تکههای پراکندهی متن و تبدیل آنها به مصنوعات دانشی ساختاریافته و قابل پرسوجو. تفاوت این رویکرد با جستوجوی برداری ساده در همینجاست؛ در روش سنتی، ایجنت تکههای شبیه به پرسش را دریافت میکند و خودش باید معنا بسازد، اما در نکسوس بخشی از این معناسازی از قبل انجام شده است.
برای پرسوجو هم زبان اعلانی مخصوصی به نام کنوکیوال طراحی شده که برای مصرف ایجنت ساخته شده، نه برای چشم انسان. نکتهی مهم دیگر برای سازمانها این است که نکسوس میتواند داخل زیرساخت ابری خود مشتری اجرا شود؛ یعنی داده لازم نیست از مرزهای سازمان بیرون برود.
تفاوت با بازیابی معمولی
در معماریهای رایج بازیابیمحور، کیفیت پاسخ تابع کیفیت جستوجوست و اگر جستوجو تکهی درست را برنگرداند، مدل مجبور میشود حدس بزند. نکسوس تلاش میکند این وابستگی را کم کند: وقتی دانش از پیش سازماندهی شده باشد، ایجنت به تعداد کمتری جستوجو نیاز دارد و احتمال گمشدن در اسناد نامربوط پایین میآید. آشنایی با مفاهیم پایهی این حوزه در توان و محدودیتهای واقعی هوش مصنوعی کمک میکند.
۳) نتایج روی بنچمارک تاو-نالج
مهمترین بخش خبر، اعداد است. آزمون روی تاو-نالج انجام شده؛ بنچمارکی متنباز از شرکت سیرا که توانایی ایجنتها در کار با دانش سازمانی را میسنجد.
برای مدل جیپیتی-۵٫۲، فراخوانی ابزار در هر وظیفه از حدود ۴۲٫۵ به ۱۷٫۷ کاهش یافت و فراخوانی مدل از حدود ۸۱٫۷ به ۴۲٫۶ رسید. هزینهی هر وظیفه از حدود ۱٫۴۵ دلار به ۰٫۵۳ دلار پایین آمد؛ یعنی حدود شصتوسه درصد صرفهجویی. مهمتر اینکه دقت هم حدود دوازده درصد بهتر شد.
برای مدل جیپیتی-۵٫۵، فراخوانی ابزار از حدود ۲۸٫۶ به ۱۶ و فراخوانی مدل از حدود ۶۰٫۹ به ۳۹٫۴ رسید. در این حالت دقت روی حدود هفتادوهفت درصد ثابت ماند، اما هزینه تا حدود هشتاد درصد کاهش یافت.
خواندن درست این اعداد مهم است: صرفهجویی از جای دیگری نیامده، از حذف رفتوبرگشتهای اضافه آمده است. وقتی ایجنت بهجای بیست جستوجو، پنج بار پرسوجو میکند، هم پول کمتری خرج میشود و هم فرصت کمتری برای اشتباه باقی میماند.
۴) آزمون داخلی روی صف پشتیبانی
پاینکن آماری هم از استفادهی داخلی خودش منتشر کرده است. در صف پشتیبانی این شرکت، نرخ حل خودکار درخواستها از حدود ۲۴٫۶ درصد به ۵۵٫۱ درصد رسیده، نرخ تخصیص درست تیکت از ۷۶٫۵ به ۹۴٫۲ درصد و نرخ کمککردن به کارشناس از ۶۰٫۵ به ۸۷٫۸ درصد.
این اعداد داخلیاند و طبق گزارشها توسط نهاد مستقلی راستیآزمایی نشدهاند؛ بنابراین باید آنها را بهعنوان نمونهی موردی خواند، نه معیار عمومی. با این حال جهتگیری آنها با نتایج بنچمارک همخوان است.
۵) مقیاس واقعی؛ چه حجمی پردازش شده است؟
در دورهی پیشنمایش عمومی، طبق اعلام پاینکن حدود سیصد زمینهی دانشی ساخته شده که در مجموع نزدیک به سهونیم میلیون تکهی منبع را به حدود بیستوشش هزار مصنوع دانشی ساختاریافته تبدیل کردهاند.
این نسبت بهخودیخود گویاست: تقریباً هر صد و سی تکهی خام به یک واحد دانشی فشرده شده است. فشردهسازی معنایی همان چیزی است که باعث میشود ایجنت بهجای خواندن انبوهی از متن، مستقیم سراغ چیزی برود که به آن نیاز دارد.
۶) چرا این خبر فراتر از یک محصول است؟
سالها روایت غالب این بود که برای بهتر شدن نتیجه باید مدل بزرگتر و گرانتری انتخاب کرد. نتایج نکسوس روایت دیگری را پیش میگذارد: با همان مدل، اما با دانش بهتر آمادهشده، میشود هم ارزانتر و هم دقیقتر کار کرد.
این تغییر نگاه برای سازمانهایی که بودجهی محدود دارند اهمیت زیادی دارد. بهجای مسابقهی هزینهبر ارتقای مدل، میتوان روی کیفیت داده و ساختار دانش سرمایهگذاری کرد. برای درک بهتر اینکه چرا این موضوع در کسبوکار حیاتی است، مقالهی چرا هوش مصنوعی برای کسبوکار مهم است را ببینید و برای دنبالکردن روند کلی بازار هم بخش اخبار هوش مصنوعی بهروز میماند.
۷) نکات احتیاطی که باید در نظر گرفت
سه نکته اینجا اهمیت دارد. نخست، منبع اعداد. بخش مهمی از ارقام منتشرشده از سوی خود پاینکن اعلام شدهاند؛ حتی وقتی بنچمارک متنباز باشد، انتخاب سناریوها و پیکربندی میتواند بر نتیجه اثر بگذارد.
دوم، تعمیمپذیری. عملکرد روی یک بنچمارک لزوماً همان عملکرد روی دادههای آشفتهی یک سازمان واقعی نیست؛ کیفیت اسناد ورودی همچنان تعیینکننده است.
سوم، هزینهی پنهان. ساختن لایهی دانش خودش هزینهی پردازش و نگهداری دارد و باید در محاسبهی صرفهجویی لحاظ شود؛ بهویژه وقتی دادهها مدام تغییر میکنند و مصنوعات دانشی باید بازسازی شوند.
۸) این خبر برای تیمهای کوچک چه معنایی دارد؟
لازم نیست سازمان بزرگی باشید تا از منطق این خبر استفاده کنید. اصل ماجرا این است: پیش از آنکه از مدل بخواهید در انبوه اطلاعات بگردد، خودتان اطلاعات را مرتب کنید. یک سند خلاصهی تمیز از قواعد کسبوکارتان، یک فهرست پرسشهای پرتکرار با پاسخهای کوتاه و یک واژهنامهی داخلی، اغلب بیشتر از ارتقای مدل جواب میدهد.
گام دوم، دقیقتر کردن درخواست است. هرچه پرسش شفافتر باشد، مدل کمتر مجبور به حدسزدن میشود؛ همان چیزی که در راهنمای سادهی پرامپتنویسی توضیح داده شده است. برای تمرین عملی هم آموزشهای چتجیپیتی مسیر مناسبی است. اگر میخواهید ببینید مدلهای مختلف در شرایط یکسان چطور رفتار میکنند، مقایسهی چتجیپیتی و دیپسیک نمونهی خوبی است. آشنایی با بازیگران اصلی این بازار هم در اوپنایآی چیست آمده است.
۹) کنوکیوال؛ زبانی که برای ماشین نوشته شده است
یکی از تصمیمهای فنی جالب پاینکن، طراحی یک زبان پرسوجوی اعلانی مخصوص ایجنت است. در زبان اعلانی، شما توصیف میکنید چه چیزی میخواهید، نه اینکه چطور باید آن را پیدا کرد؛ درست مثل تفاوت میان سفارشدادن یک غذا و نوشتن دستور پخت آن.
چرا این موضوع اهمیت دارد؟ چون ایجنتها در پرسوجوی متن آزاد ضعیف عمل میکنند. اگر لازم باشد ایجنت خودش تصمیم بگیرد چه عبارتی را جستوجو کند، هر بار احتمال انتخاب اشتباه وجود دارد. اما وقتی میتواند نیازش را در قالبی ساختاریافته بیان کند، فضای خطا بهشدت کوچک میشود و همین یکی از دلایل کاهش تعداد فراخوانی ابزار است.
این طراحی، شباهت جالبی به مسیری دارد که پایگاههای دادهی رابطهای دههها پیش طی کردند: بهجای آنکه هر برنامهنویس روش خواندن داده را از نو بنویسد، یک زبان مشترک تعریف شد تا موتور پایگاهداده بهینهسازی را بر عهده بگیرد.
۱۰) جایگاه پاینکن در بازار زیرساخت هوش مصنوعی
شرکت پاینکن سالهاست بهعنوان یکی از نامهای شناختهشدهی پایگاهدادهی برداری شناخته میشود؛ همان فناوریای که موج نخست برنامههای مبتنی بر بازیابی را ممکن کرد. اما با بالغشدن بازار، صرف ذخیرهسازی و جستوجوی بردار دیگر مزیت رقابتی پایداری نیست، چون بسیاری از ارائهدهندگان ابری همان قابلیت را بهصورت داخلی عرضه میکنند.
حرکت به سمت لایهی دانش، پاسخ راهبردی پاینکن به این وضعیت است: بالا رفتن در زنجیرهی ارزش، از «جایی که بردارها را نگه میداریم» به «جایی که دانش سازمان ساخته میشود». اگر این جابهجایی موفق باشد، جایگزینی آن برای مشتری بسیار دشوارتر از تعویض یک پایگاهداده خواهد بود.
از سوی دیگر، رقابت در این لایه هم کم نیست. بسیاری از سازمانها ترجیح میدهند لایهی دانش خود را داخلی بسازند تا وابستگی به یک فروشنده ایجاد نشود. انتخاب میان ساختن و خریدن، همان معادلهی همیشگی مهندسی است: سرعت در برابر کنترل.
پرسشهای پرتکرار دربارهی نکسوس پاینکن
نکسوس دقیقاً چه چیزی است؟
یک لایه یا موتور دانش که دادههای پراکندهی سازمان را به مصنوعات دانشی ساختاریافته و قابل پرسوجو تبدیل میکند تا ایجنتهای هوش مصنوعی مصرفکنندهی دانش آماده باشند، نه جستوجوگر خام.
ادعای کاهش هشتاد درصدی هزینه از کجا آمده است؟
از آزمون روی بنچمارک متنباز تاو-نالج شرکت سیرا. برای مدل جیپیتی-۵٫۵ کاهش هزینه حدود هشتاد درصد و برای جیپیتی-۵٫۲ حدود شصتوسه درصد گزارش شده است.
آیا دقت فدای کاهش هزینه شده است؟
طبق ارقام منتشرشده خیر. دقت مدل جیپیتی-۵٫۲ حدود دوازده درصد بهبود یافت و مدل جیپیتی-۵٫۵ دقت حدود هفتادوهفت درصدی خود را با هزینهی بسیار کمتر حفظ کرد.
دادهی سازمان کجا پردازش میشود؟
طبق اعلام پاینکن، نکسوس میتواند داخل زیرساخت ابری خود مشتری اجرا شود؛ نکتهای که برای سازمانهای حساس به حاکمیت داده اهمیت دارد.
شروع کار چقدر هزینه دارد؟
طبق اعلام شرکت، یک سطح رایگان برای شروع در نظر گرفته شده و پس از آن مدل پرداخت بهازای مصرف اعمال میشود؛ خرید سازمانی هم از مسیر معمول در دسترس است.
