دستهبندی نشده
ارزیابی دوسوکور هوش مصنوعی؛ ابتکار تازهی گوگل دیپمایند برای اعتمادسازی در بنچمارکها
گوگل دیپمایند برای اولین بار یک مدل هوش مصنوعی پیشرفته را با روشی دوسوکور و رمزنگاریشده ارزیابی کرد؛ روشی که در آن نه ارزیاب به وزنهای مدل دسترسی دارد و نه سازنده از سوالات آزمون خبردار میشود.
لیست مطالب
۱. چرا صنعت هوش مصنوعی به روش ارزیابی تازه نیاز داشت؟
رشد سریع مدلهای زبانی بزرگ در سالهای اخیر، رقابتی شدید میان آزمایشگاههای بزرگ هوش مصنوعی بهراه انداخته است؛ رقابتی که در آن هر شرکت تلاش میکند مدل خود را در صدر جدول رتبهبندی بنچمارکهای معتبر قرار دهد. اما همین رقابت شدید، اعتماد عمومی به خود این رتبهبندیها را زیر سوال برده است. وقتی نمرهی یک مدل در یک آزمون استاندارد، بدون شفافیت کافی دربارهی روش سنجش منتشر میشود، کاربران و پژوهشگران راهی برای اطمینان از صحت آن ندارند.
گوگل دیپمایند در توضیح این ابتکار تازه اشاره کرده که «اگر مدلی بهطور تصادفی یا عمدی به سوالات آزمون دسترسی پیدا کند، رسیدن به نمرهی کامل دیگر دستاورد معناداری نیست». این دقیقاً همان مشکلی است که در ادبیات فنی به آن «آلودگی بنچمارک» یا Benchmark Contamination گفته میشود.
۲. آلودگی بنچمارک؛ مشکلی که نمرهها را بیمعنا میکند
آلودگی بنچمارک زمانی رخ میدهد که دادههای آموزشی یک مدل، بهطور کامل یا بخشی از آن، شامل سوالات همان آزمونی باشد که قرار است عملکرد مدل را بسنجد. از آنجا که مدلهای زبانی بزرگ روی حجم عظیمی از دادههای اینترنتی آموزش میبینند، احتمال اینکه سوالات یک بنچمارک معروف بهطور تصادفی در این دادهها ظاهر شده باشد، کم نیست.
در چنین شرایطی، نمرهی بالای یک مدل دیگر نشانهی توانایی واقعی آن در استدلال یا حل مسئله نیست، بلکه صرفاً بازتاب حفظکردن پاسخهاست. این موضوع میتواند تصمیمگیری شرکتها، پژوهشگران و حتی سیاستگذاران دربارهی انتخاب و استفاده از یک مدل خاص را به اشتباه بیندازد.
مشکل دوم: بنبست اعتماد میان سازنده و ارزیاب
در کنار آلودگی بنچمارک، یک مشکل ساختاری دیگر هم صنعت را درگیر کرده بود. شرکتهای سازندهی مدل معمولاً تمایلی به افشای وزنهای داخلی مدل خود ندارند، چون این وزنها یکی از مهمترین داراییهای مالکیت فکری آنهاست. از سوی دیگر، نهادهای ارزیاب مستقل هم نمیخواهند سوالات محرمانهی آزمون خود را که سالها روی طراحی آنها کار کردهاند، در اختیار شرکتهای سازندهی مدل قرار دهند. نتیجه، یک مصالحهی همیشگی و ناخوشایند میان دو طرف بود.
۳. راهحل دیپمایند: جعبهی رمزنگاریشدهی Confidential Computing
برای عبور از این بنبست، تیم گوگل دیپمایند از زیرساخت Confidential Computing گوگل کلاود و بهطور مشخص از سرویس Confidential Space استفاده کرده است. این فناوری یک محیط اجرایی ایزوله و رمزنگاریشده میسازد که هیچیک از دو طرف نمیتواند به دادهی محرمانهی طرف مقابل دسترسی پیدا کند.
در عمل، ارزیاب مستقل نمیتواند وزنهای مدل جمینای را ببیند یا کپی کند، و در مقابل، گوگل هم از محتوای دقیق پرامپتها و سوالات آزمون بیخبر میماند. در پایان فرآیند ارزیابی، هر دو طرف یک گواهی رمزنگاریشده دریافت میکنند که بهصورت قابلاثبات نشان میدهد دادههایشان دستنخورده و بدون هیچگونه نشتی پردازش شده است. به بیان دیگر، دو طرفی که پیشتر مجبور بودند یا اعتماد کورکورانه کنند یا اصلا همکاری نکنند، اکنون میتوانند بدون افشای داراییهای حساس خود، یک ارزیابی مشترک و قابلاعتماد انجام دهند.
۴. جزئیات فنی: چگونه این جعبهی امن کار میکند
پلتفرم Confidential Computing با تکیه بر سختافزارهای مجهز به رمزنگاری حافظه، محیطی میسازد که حتی خود ارائهدهندهی زیرساخت ابری هم به دادههای در حال پردازش دسترسی ندارد. این یعنی نه گوگل بهعنوان صاحب زیرساخت، نه ارزیاب و نه هیچ شخص ثالثی نمیتواند در میانهی فرآیند وارد شود و دادههای خام را ببیند.
این رویکرد شبیه به مفهوم «اتاق شیشهای دوطرفه» در دنیای فیزیکی است؛ جایی که هر دو طرف میتوانند نتیجهی نهایی آزمایش را ببینند، اما هیچکدام به جزئیات داخلی محرمانهی طرف مقابل دسترسی ندارند. برای صنعتی که تا امروز روی اعتماد شفاهی و توافقنامههای محرمانگی تکیه میکرد، این یک تغییر ساختاری واقعی محسوب میشود.
۵. اولین آزمایش: چه کسانی و چگونه همکاری کردند؟
نخستین اجرای این پایلوت با همکاری چند نهاد مستقل و شناختهشده در حوزهی ایمنی هوش مصنوعی انجام شد؛ از جمله مؤسسه ایمنی هوش مصنوعی سنگاپور، سازمان غیرانتفاعی OpenMined که در زمینهی محاسبات حافظ حریم خصوصی فعالیت میکند، گروه پژوهشی AVERI و کنسرسیوم استانداردسازی MLCommons که پیش از این هم در تدوین بنچمارکهای صنعتی نقش داشته است.
مدلی که در این دور آزمایشی مورد سنجش قرار گرفت، نسخهی سبک و کمهزینهی خانوادهی جمینای یعنی Gemini Flash Lite بود؛ انتخابی که احتمالاً به این دلیل صورت گرفته که ریسک آزمایش روی یک مدل کوچکتر و کمهزینهتر، پیش از گسترش به مدلهای اصلی و پرهزینهتر، کنترلشدهتر است.
۶. چرا این اتفاق برای کل صنعت هوش مصنوعی مهم است
اهمیت این ابتکار را باید در بافت گستردهتری از رقابت میان آزمایشگاههای بزرگ هوش مصنوعی دید. همانطور که در مقالهی مقایسهی مدلهای هوش مصنوعی هم بررسی شده، نمرات بنچمارک اغلب مهمترین ابزار بازاریابی و اثبات برتری فنی یک شرکت در برابر رقبا هستند. وقتی این نمرات قابلاعتماد نباشند، کل اکوسیستم ارزیابی صنعت هوش مصنوعی دچار بحران مشروعیت میشود.
از سوی دیگر، همانطور که در تحلیل پتانسیلها و محدودیتهای واقعی هوش مصنوعی اشاره شده، سنجش دقیق توانایی واقعی مدلها برای تصمیمگیریهای کسبوکاری، سیاستگذاری و حتی ایمنی عمومی اهمیت حیاتی دارد. روش دوسوکور میتواند این سنجش را قابلاعتمادتر کند.
۷. واکنش احتمالی رقبا: اوپنایآی و انتروپیک
با توجه به رقابت شدید میان گوگل، اوپنایآی و انتروپیک بر سر رهبری بازار هوش مصنوعی، احتمال زیادی وجود دارد که این دو رقیب هم تحت فشار کاربران و پژوهشگران قرار بگیرند تا مکانیزمهای مشابهی برای ارزیابی مستقل و رمزنگاریشدهی مدلهای خود ارائه دهند. اگر ارزیابی دوسوکور به یک استاندارد پذیرفتهشده در صنعت تبدیل شود، شرکتی که از پذیرش آن سر باز بزند، ممکن است در نگاه کاربران حرفهای و سازمانی، شفافیت کمتری داشته باشد.
این موضوع بهویژه برای کسبوکارهایی که میخواهند از هوش مصنوعی در فرایندهای حساس خود استفاده کنند اهمیت دارد؛ موضوعی که در یادداشت اهمیت هوش مصنوعی در کسبوکار هم به آن پرداخته شده است.
۸. مسیر پیش رو: از پایلوت تا استاندارد صنعتی
گوگل دیپمایند این پروژه را هنوز در مرحلهی پایلوت توصیف میکند، به این معنا که مدل مورد آزمایش (Gemini Flash Lite) کوچکتر از مدلهای اصلی و پرچمدار این شرکت بوده است. مسیر طبیعی بعدی، گسترش این روش به مدلهای سطح بالاتر خانوادهی جمینای و دعوت از نهادهای ارزیاب بیشتری در کشورهای دیگر خواهد بود.
اگر این گسترش با موفقیت انجام شود، ممکن است شاهد شکلگیری یک نهاد یا پروتکل مشترک صنعتی برای ارزیابی دوسوکور باشیم؛ پروتکلی که تمام آزمایشگاههای بزرگ هوش مصنوعی، فارغ از رقابتشان، ملزم به رعایت آن باشند. چنین استانداردی میتواند در بلندمدت به کاربران عادی، توسعهدهندگان و حتی سیاستگذاران کمک کند تا با اطمینان بیشتری دربارهی توانایی واقعی مدلهای هوش مصنوعی قضاوت کنند.
۹. چرا این خبر برای کاربران و توسعهدهندگان فارسیزبان هم مهم است
بسیاری از کاربران فارسیزبان ابزارهای هوش مصنوعی را از طریق نمرات بنچمارک و مقایسههای آنلاین انتخاب میکنند؛ همانطور که در آموزشهای ChatGPT هم بارها به این نکته اشاره شده که انتخاب درست ابزار، مستقیماً روی کیفیت کار روزمره تأثیر میگذارد. اگر نمرات بنچمارک قابلاعتماد نباشند، این انتخاب هم ممکن است اشتباه از آب دربیاید.
از سوی دیگر، توسعهدهندگانی که برای نوشتن پرامپت یا ساخت اپلیکیشنهای خود از مدلهای زبانی بزرگ استفاده میکنند، معمولاً بر اساس همین رتبهبندیها تصمیم میگیرند کدام مدل را انتخاب کنند. آموزشهایی مثل راهنمای نوشتن پرامپت برای مبتدیان نشان میدهد که کیفیت خروجی یک مدل تا چه اندازه به توانایی واقعی آن در فهم و استدلال بستگی دارد؛ تواناییای که فقط با یک ارزیابی سالم و بدون آلودگی قابل سنجش است.
این بحث همچنین به گفتوگوی گستردهتری دربارهی شکاف میان توسعهدهندگان واقعی و ابزارهای خودکار مرتبط میشود؛ موضوعی که در یادداشت توهم هوش مصنوعی در برابر مهندسی واقعی بررسی شده است. وقتی نمرات بنچمارک قابلاعتماد باشند، فاصلهی میان تبلیغات یک مدل و عملکرد واقعی آن هم شفافتر میشود و کاربران راحتتر میتوانند انتظارات درستی از ابزارهای هوش مصنوعی داشته باشند.
برای پیگیری تازهترین تحولات این حوزه و خبرهای مشابه دربارهی مدلهای بزرگ زبانی، صفحهی اخبار هوش مصنوعی سایت Mr ChatGPT بهصورت مرتب بهروزرسانی میشود.
۱۰. سوالات متداول
ارزیابی دوسوکور دقیقاً چیست؟ روشی است که در آن نه ارزیاب به جزئیات داخلی مدل (مانند وزنها) دسترسی دارد و نه سازندهی مدل از محتوای دقیق سوالات آزمون باخبر میشود؛ درست مانند آزمایشهای دوسوکور در پزشکی که نه بیمار و نه پزشک از نوع دارو خبر ندارند.
چرا آلودگی بنچمارک مشکل بزرگی است؟ چون اگر مدل از قبل پاسخ سوالات آزمون را دیده باشد، نمرهی بالای آن دیگر نشاندهندهی توانایی واقعی استدلال یا حل مسئله نیست.
کدام مدل در این پایلوت آزمایش شد؟ نسخهی سبک خانوادهی جمینای یعنی Gemini Flash Lite، با همکاری نهادهایی مانند مؤسسه ایمنی سنگاپور و MLCommons.
آیا این روش برای مدلهای اصلی جمینای هم اجرا میشود؟ گوگل دیپمایند این پروژه را در مرحلهی پایلوت توصیف کرده و گسترش آن به مدلهای بزرگتر، گام بعدی طبیعی بهشمار میرود.
