میسترال از شیلدسترال رونمایی کرد؛ نگهبان هوش مصنوعی در قامت یک مدل سه میلیاردی

شرکت فرانسوی میسترال یک مدل تازه و سبک برای فیلتر و نظارت بر محتوا منتشر کرده که با وجود اندازه‌ی کوچکش، عملکردی هم‌تراز یا حتی بهتر از مدل‌های چند برابر بزرگ‌تر دارد.

۱. میسترال چه چیزی معرفی کرد؟

شرکت فرانسوی میسترال که یکی از شناخته‌شده‌ترین آزمایشگاه‌های اروپایی در حوزه‌ی هوش مصنوعی است، این هفته از مدل تازه‌ای به نام Shieldstral رونمایی کرد. برخلاف بیشتر مدل‌هایی که برای تولید متن، تصویر یا کد ساخته می‌شوند، شیلدسترال یک مدل «نگهبان» است؛ یعنی وظیفه‌ی اصلی‌اش تولید محتوا نیست، بلکه بررسی و ارزیابی محتوایی است که سایر مدل‌های هوش مصنوعی تولید می‌کنند یا کاربران وارد می‌کنند. این مدل روی پلتفرم داخلی میسترال به نام Forge آموزش دیده و برای عرضه‌ی عمومی، به‌طور کامل روی هاگینگ‌فیس منتشر شده است. برای آشنایی بیشتر با اکوسیستم شرکت‌های سازنده‌ی این مدل‌ها می‌توانید سری به معرفی کامل شرکت OpenAI بزنید تا تفاوت رویکردهای مختلف را بهتر درک کنید.

میسترال در سال‌های اخیر همواره تلاش کرده تا در برابر غول‌های آمریکایی این صنعت، یعنی شرکت‌هایی مانند OpenAI، گوگل و آنتروپیک، جایگاه خود را با تمرکز بر مدل‌های متن‌باز و کارآمد حفظ کند. عرضه‌ی شیلدسترال دقیقاً در همین راستا قرار می‌گیرد؛ به‌جای رقابت مستقیم در ساخت بزرگ‌ترین مدل زبانی، این شرکت به سراغ حل یک مشکل واقعی و روزمره برای توسعه‌دهندگان رفته است: نظارت ارزان، سریع و قابل‌اعتماد بر محتوای تولیدشده توسط هوش مصنوعی.

۲. شیلدسترال دقیقاً چیست؟

شیلدسترال یک مدل سه‌میلیارد پارامتری و چندوجهی (multimodal) است؛ به این معنا که می‌تواند هم متن و هم تصویر را تحلیل کند. کاربرد اصلی آن، طبقه‌بندی محتوا بر اساس معیارهای ایمنی از پیش‌تعیین‌شده است؛ مثلاً تشخیص اینکه آیا یک پیام حاوی خشونت است، آیا یک پاسخ هوش مصنوعی محتوای نامناسب تولید کرده، یا آیا یک تصویر خلاف سیاست‌های یک پلتفرم است. این نوع مدل‌ها معمولاً «مدل نگهبان» یا Guard Model نامیده می‌شوند و در پشت صحنه‌ی بسیاری از چت‌بات‌ها و ابزارهای تولید محتوا فعال هستند.

شیلدسترال می‌تواند سه نوع محتوا را بررسی کند: پیام ورودی کاربر پیش از رسیدن به مدل اصلی، پاسخ خروجی مدل پیش از نمایش به کاربر، و ترکیب پرسش و پاسخ به‌صورت هم‌زمان. این پوشش سه‌گانه باعث می‌شود شرکت‌ها بتوانند در چند نقطه از مسیر پردازش، یک لایه‌ی نظارتی یکسان قرار دهند؛ بدون آنکه نیاز به ساخت چند مدل جداگانه برای هر مرحله داشته باشند. همچنین توانایی این مدل در پردازش هم‌زمان تصویر و متن، آن را برای پلتفرم‌هایی که محتوای بصری تولید یا میزبانی می‌کنند نیز مناسب می‌کند؛ از شبکه‌های اجتماعی گرفته تا ابزارهای تولید تصویر با هوش مصنوعی.

۳. چگونه کار می‌کند؟

نکته‌ی جالب توجه در طراحی شیلدسترال، تبدیل فرایند نظارت به یک پرسش ساده‌ی بله یا خیر است. توسعه‌دهنده سه چیز به مدل می‌دهد: یک دستورالعمل یا زمینه‌ی ارزیابی، یک پرسش بله/خیر مانند «آیا این محتوا ترویج‌دهنده‌ی خشونت است؟»، و خود محتوای مورد بررسی که می‌تواند یک پیام کاربر، پاسخ مدل یا یک تصویر باشد. مدل در نهایت یک امتیاز ایمنی بین صفر تا یک برمی‌گرداند که بر اساس آن می‌توان تصمیم گرفت محتوا مسدود شود، هشدار داده شود یا بدون تغییر باقی بماند.

مزیت این روش چیست؟

از آنجا که سیاست‌های نظارتی در قالب متن به مدل داده می‌شوند نه در وزن‌های آن، یک نسخه‌ی واحد از شیلدسترال می‌تواند برای پلتفرم‌های مختلف با قوانین متفاوت بازتنظیم شود؛ بدون آنکه نیاز به آموزش مجدد یا نسخه‌های جداگانه باشد. این ویژگی هزینه‌ی نگهداری و به‌روزرسانی سیاست‌های محتوایی را برای شرکت‌ها به‌شدت کاهش می‌دهد.

۴. مقایسه با مدل‌های نگهبان دیگر

بر اساس اعلام رسمی میسترال، شیلدسترال در آزمون‌های ایمنی متن، تشخیص امتناع (refusal detection) و ارزیابی چندرسانه‌ای، عملکردی هم‌تراز یا حتی بهتر از مدل‌های نگهبان تا هفت برابر بزرگ‌تر از خودش داشته است. این یعنی یک مدل سه‌میلیارد پارامتری توانسته با مدل‌هایی که بیست میلیارد پارامتر یا بیشتر دارند رقابت کند. چنین دستاوردی نشان می‌دهد که در حوزه‌ی مدل‌های نظارتی، معماری و روش آموزش می‌تواند اهمیتی به‌مراتب بیشتر از صرفاً بزرگ‌تر بودن مدل داشته باشد. اگر به تفاوت رویکرد مدل‌های مختلف در وظایف تخصصی علاقه دارید، مقاله‌ی مقایسه‌ی چت‌جی‌پی‌تی و دیپ‌سیک در یک بازی تخصصی نمونه‌ی خوبی از همین موضوع در حوزه‌ای دیگر است.

برای ساخت چنین مدلی، میسترال از ترکیب چند روش آموزشی استفاده کرده است؛ از جمله تنظیم دقیق با روش LoRA و ترکیب وزن‌های چند نسخه‌ی آموزش‌دیده با روش SLERP. داده‌های آموزشی این مدل نیز ترکیبی از داده‌های واقعی و داده‌های مصنوعی (synthetic) بوده تا مدل بتواند طیف گسترده‌ای از سناریوهای واقعی و لبه‌ای (edge case) را پوشش دهد. نتایج ارزیابی نیز روی داده‌هایی انجام شده که در فرایند آموزش مدل استفاده نشده‌اند تا از اعتبار واقعی‌تر نتایج اطمینان حاصل شود.

۵. چه کسانی باید نگران باشند؟

مدل‌های نگهبان مانند شیلدسترال معمولاً برای دو گروه اصلی جذاب هستند: شرکت‌هایی که محصولات مبتنی بر هوش مصنوعی می‌سازند و باید در برابر قوانین و مقررات محلی پاسخ‌گو باشند، و پلتفرم‌های بزرگی که حجم بالایی از محتوای تولیدشده توسط کاربران یا هوش مصنوعی را مدیریت می‌کنند. با افزایش فشار نهادهای نظارتی در کشورهای مختلف برای مسئولیت‌پذیری بیشتر شرکت‌های هوش مصنوعی، داشتن یک لایه‌ی نظارتی قابل تنظیم و قابل اعتماد به یک نیاز جدی تبدیل شده است، نه یک گزینه‌ی لوکس.

۶. چرا اندازه‌ی کوچک اهمیت دارد؟

یکی از بزرگ‌ترین موانع استفاده از مدل‌های نظارتی برای شرکت‌های کوچک و توسعه‌دهندگان مستقل، هزینه‌ی محاسباتی بالای آن‌هاست. بسیاری از مدل‌های نگهبان قدرتمند به سرورهای گران‌قیمت با چندین کارت گرافیک نیاز دارند. شیلدسترال اما تنها به یک کارت گرافیک شانزده‌گیگابایتی نیاز دارد که آن را حتی روی یک لپ‌تاپ قدرتمند یا یک سرور معمولی نیز قابل اجرا می‌کند. این موضوع می‌تواند دسترسی به ابزارهای ایمنی هوش مصنوعی را برای طیف گسترده‌تری از توسعه‌دهندگان و کسب‌وکارها فراهم کند و همان چیزی است که در مقاله‌ی اهمیت هوش مصنوعی برای کسب‌وکارها نیز به آن اشاره شده است.

۷. مجوز متن‌باز و دسترسی روی هاگینگ‌فیس

میسترال شیلدسترال را با مجوز کاملاً متن‌باز Apache 2.0 روی پلتفرم هاگینگ‌فیس منتشر کرده است. این یعنی هر توسعه‌دهنده یا شرکتی می‌تواند بدون محدودیت خاصی از این مدل استفاده کند، آن را در محصولات تجاری خود به‌کار ببرد و حتی نسخه‌های سفارشی‌شده از آن بسازد. این رویکرد متن‌باز در تضاد با سیاست بسته‌ی برخی رقبا در عرضه‌ی مدل‌های نظارتی قرار دارد و بار دیگر بر تعهد میسترال به اکوسیستم متن‌باز هوش مصنوعی تاکید می‌کند. برای درک بهتر تفاوت مدل‌های متن‌باز و بسته، مقاله‌ی پتانسیل واقعی و محدودیت‌های هوش مصنوعی را هم می‌توانید بخوانید.

۸. کاربردهای عملی برای کسب‌وکارها و توسعه‌دهندگان

شرکت‌هایی که چت‌بات، ابزار تولید محتوا یا پلتفرم‌های مبتنی بر هوش مصنوعی می‌سازند، می‌توانند از شیلدسترال برای فیلتر کردن ورودی کاربران و خروجی مدل‌های خود استفاده کنند. این مدل می‌تواند به‌عنوان یک لایه‌ی امنیتی میانی بین کاربر و مدل اصلی عمل کند؛ پیش از آنکه یک درخواست خطرناک به مدل اصلی برسد یا پیش از آنکه یک پاسخ نامناسب به کاربر نمایش داده شود. توسعه‌دهندگانی که به‌تازگی وارد این حوزه شده‌اند و می‌خواهند با نحوه‌ی نوشتن دستورهای دقیق برای مدل‌های هوش مصنوعی آشنا شوند، می‌توانند از آموزش نوشتن پرامپت برای مبتدیان شروع کنند.

۹. جایگاه شیلدسترال در رقابت هوش مصنوعی

انتشار شیلدسترال هم‌زمان با نگرانی‌های فزاینده درباره‌ی رفتار غیرقابل‌پیش‌بینی مدل‌های هوش مصنوعی و حوادث امنیتی مرتبط با عامل‌های هوشمند (AI agents) صورت گرفته است. در چنین فضایی، ابزارهایی مانند شیلدسترال اهمیت روزافزونی پیدا می‌کنند؛ چراکه به شرکت‌ها کمک می‌کنند محصولات هوش مصنوعی خود را مسئولانه‌تر و ایمن‌تر عرضه کنند. این حرکت میسترال همچنین نشان می‌دهد که رقابت در دنیای هوش مصنوعی دیگر محدود به ساخت بزرگ‌ترین مدل‌های زبانی نیست؛ ابزارهای تخصصی، سبک و کاربردی نیز نقش مهمی در این اکوسیستم پیدا کرده‌اند. برای پیگیری این دسته از تحولات و درک تفاوت کار واقعی مهندسان با تصورات رایج درباره‌ی توسعه‌ی هوش مصنوعی، مطالعه‌ی توهم توسعه‌دهنده‌ی تنها در برابر مهندس واقعی خالی از لطف نیست.

در ماه‌های اخیر شاهد موج فزاینده‌ای از خبرهای مربوط به رفتارهای غیرمنتظره‌ی عامل‌های هوش مصنوعی، از دسترسی غیرمجاز به سیستم‌ها گرفته تا خروجی‌های نامناسب در محیط‌های واقعی، بوده‌ایم. در چنین شرایطی، وجود یک لایه‌ی نظارتی سبک، ارزان و قابل تنظیم می‌تواند تفاوت میان یک حادثه‌ی امنیتی پرهزینه و یک سیستم پایدار و قابل اعتماد باشد. به همین دلیل، بسیاری از تحلیلگران این حوزه، عرضه‌ی مدل‌هایی مانند شیلدسترال را نه یک محصول جانبی، بلکه بخشی جدایی‌ناپذیر از زیرساخت آینده‌ی هوش مصنوعی می‌دانند؛ زیرساختی که باید هم‌زمان با رشد قابلیت‌های مدل‌های اصلی، توسعه پیدا کند.

پرسش‌های متداول

شیلدسترال چیست؟
شیلدسترال یک مدل هوش مصنوعی سه‌میلیارد پارامتری از شرکت میسترال است که برای نظارت و فیلتر کردن محتوای متنی و تصویری طراحی شده است.

آیا شیلدسترال رایگان است؟
بله، این مدل با مجوز کاملاً متن‌باز Apache 2.0 روی هاگینگ‌فیس منتشر شده و هر توسعه‌دهنده‌ای می‌تواند به‌رایگان از آن استفاده کند.

چه سخت‌افزاری برای اجرای آن لازم است؟
شیلدسترال تنها به یک کارت گرافیک شانزده‌گیگابایتی نیاز دارد و روی سیستم‌های شخصی نسبتاً قدرتمند نیز قابل اجراست.

تفاوت آن با سایر مدل‌های نگهبان چیست؟
مهم‌ترین تفاوت، نسبت کارایی به اندازه است؛ شیلدسترال با وجود کوچک بودن، در بسیاری از آزمون‌ها عملکردی هم‌تراز مدل‌های هفت برابر بزرگ‌تر داشته است.