مهر
اخبار
جدایی ناگهانی متا از تیم امنیت هوش مصنوعی Virtue AI؛ فقط چهار ماه بعد از استخدام
متا فقط چهار ماه پس از استخدام گروهی سه بنیان‌گذار استارتاپ امنیت هوش مصنوعی Virtue AI، همکاری با این تیم را به‌طور ناگهانی پایان داده؛ گزارشی که بار دیگر ثبات آزمایشگاه ابرهوش این شرکت را زیر سؤال می‌برد.
لیست مطالب
چه اتفاقی میان متا و Virtue AI افتاد؟
بر اساس گزارش اختصاصی سمافور که ایشلی گلد آن را دوم اکتبر منتشر کرد، متا همکاری با سه بنیان‌گذار استارتاپ امنیت هوش مصنوعی Virtue AI را به‌طور ناگهانی پایان داده است. این سه نفر، یعنی بو لی، داون سانگ و سانمی کویجو، بیست‌وپنجم ژوئن ۲۰۲۶ به‌همراه چند همکار دیگر از طریق روشی به نام استخدام گروهی یا acqui-hire وارد آزمایشگاه ابرهوش متا شده بودند. حالا، درست چهار ماه بعد، دیگر نامی از آن‌ها در فهرست کارمندان این شرکت دیده نمی‌شود. گزارش تأکید دارد که هنوز معلوم نیست این اتفاق به شکل استعفای فردی رخ داده یا متا به‌طور یک‌جا تصمیم به پایان دادن به این همکاری گرفته است، و هیچ‌کدام از طرفین هم تا این لحظه پاسخی به درخواست توضیح نداده‌اند. برای پیگیری روزانه‌ی چنین خبرهایی، صفحه‌ی اخبار سایت بهترین نقطه‌ی شروع است.
استارتاپی به نام Virtue AI؛ از تأسیس تا فروش به فورتینت
شرکت Virtue AI سال ۲۰۲۴ با تمرکز بر سه حوزه‌ی مشخص تأسیس شد: ردتیمینگ خودکار برای کشف نقاط ضعف مدل‌های هوش مصنوعی، گاردریل‌های زمان اجرا برای فیلتر کردن خروجی‌های خطرناک در لحظه، و ابزارهای حاکمیت هوش مصنوعی برای سازمان‌هایی که باید پاسخ‌گوی نهادهای ناظر باشند. این استارتاپ تا پیش از ماجرای اخیر حدود سی میلیون دلار سرمایه جذب کرده بود و مشتریانی مثل اوبر و گلین از خدماتش استفاده می‌کردند. نکته‌ی مهم این‌جاست که متا خودِ شرکت Virtue AI را نخرید، بلکه تنها تیم بنیان‌گذار و چند عضو کلیدی را به استخدام خود درآورد؛ الگویی که این روزها در صنعت هوش مصنوعی باب شده و شرکت‌های بزرگ از آن برای دورزدن فرایندهای طولانی ادغام و تملک استفاده می‌کنند. سرنوشت باقی‌مانده‌ی این استارتاپ هم جالب توجه است: بدنه‌ی فنی و محصولات امنیت سایبری Virtue AI، مرداد امسال توسط شرکت فورتینت خریداری شد. به این ترتیب، این شرکت دیگر به‌عنوان یک استارتاپ مستقل وجود ندارد؛ هم تیم بنیان‌گذارش مسیرش را از متا جدا کرده و هم بدنه‌ی اصلی شرکت در دل یک غول امنیت سایبری دیگر حل شده است. این پایان نسبتاً سریع برای استارتاپی که فقط دو سال پیش با وعده‌ی حل یکی از مهم‌ترین چالش‌های صنعت هوش مصنوعی راه‌اندازی شده بود، نشان می‌دهد بازار امنیت هوش مصنوعی هنوز چقدر بی‌ثبات و در حال شکل‌گیری است.
سه بنیان‌گذار؛ از دانشگاه تا آزمایشگاه ابرهوش متا
بو لی و داون سانگ هر دو از چهره‌های شناخته‌شده‌ی پژوهش امنیت هوش مصنوعی در دانشگاه‌های آمریکا بودند و سانمی کویجو نیز پیشینه‌ای مشابه در حوزه‌ی یادگیری ماشین و ارزیابی مدل‌ها داشت. هر سه به‌همراه کارلوس گستر این استارتاپ را بنیان گذاشته بودند. وقتی متا این تیم را جذب کرد، دو مسیر برای آن‌ها در نظر گرفته شد: بو لی و داون سانگ مستقیماً به آزمایشگاه ابرهوش متا پیوستند و سانمی کویجو به بخش پژوهش بنیادین هوش مصنوعی این شرکت، یعنی FAIR، رفت. این چیدمان به‌خوبی نشان می‌داد متا چقدر برای تقویت همزمان دو جبهه‌ی امنیت عملیاتی و پژوهش بنیادین عجله داشت.
وظیفه‌ی این تیم در متا چه بود؟
این سه نفر زیر نظر چهره‌هایی مثل نت فریدمن، که مسئولیت محصول را بر عهده دارد، و راب فرگوس، رئیس بخش FAIR، کار می‌کردند. هدف اصلی‌شان ساخت سازوکارهایی بود که بتوانند حمله‌های سیستماتیک و هدفمند به مدل‌های متا را پیش از انتشار عمومی شناسایی کنند، خروجی‌های مخرب را در لحظه‌ی اجرا متوقف کنند و چارچوب‌هایی برای حاکمیت مسئولانه‌ی مدل‌ها طراحی کنند. در دوره‌ای که عامل‌های خودمختار هوش مصنوعی بیش از پیش وارد محصولات واقعی می‌شوند، دقیقاً همین مهارت‌ها هستند که به گفته‌ی بسیاری از پژوهشگران، مرز میان یک محصول قابل‌اعتماد و یک ریسک بزرگ را تعیین می‌کنند. برای آشنایی بیشتر با محدودیت‌های واقعی این فناوری، مقاله‌ی پتانسیل و محدودیت‌های هوش مصنوعی را هم بخوانید.
چرا این جدایی فقط بعد از چهار ماه رخ داد؟
سمافور در گزارش خود صراحتاً می‌نویسد که دلیل دقیق این جدایی روشن نیست. نه متا بیانیه‌ای صادر کرده و نه بو لی، داون سانگ یا سانمی کویجو درباره‌ی این تصمیم چیزی گفته‌اند. همین سکوت دوطرفه گمانه‌زنی‌ها را دامن زده؛ از احتمال اختلاف درباره‌ی اولویت‌های ایمنی در برابر سرعت انتشار محصول، تا فرضیه‌ی ساده‌تر یک جابه‌جایی سازمانی در پی تغییرات مدیریتی گسترده‌تر در آزمایشگاه ابرهوش متا. آنچه مشخص است این است که بازه‌ی چهار ماهه برای یک تیم ارشد امنیتی که با عنوان راهبردی معرفی شده بود، بازه‌ی کوتاهی است و همین کوتاهی خودش بخشی از خبر محسوب می‌شود.
این جدایی یک الگوی تکراری در متاست
این اولین‌بار نیست که آزمایشگاه ابرهوش متا دستخوش تغییرات ناگهانی می‌شود. در ژانویه همین سال، متا نزدیک به ۶۰۰ نفر از نیروهای همین بخش را اخراج کرد؛ تعدیلی که تنها چند ماه پس از یک موج استخدام چندمیلیارد دلاری برای جذب بهترین پژوهشگران هوش مصنوعی دنیا رخ داد. متا همزمان میلیاردها دلار، چیزی در بازه‌ی صد و سی تا صد و چهل و پنج میلیارد دلار در سال، روی زیرساخت هوش مصنوعی سرمایه‌گذاری می‌کند، درحالی‌که در داخل همان آزمایشگاه بارها ساختار تیم‌ها و اولویت‌ها جابه‌جا شده است. این رفت‌وآمدهای پرسرعت، سؤالی مهم برای کسب‌وکارهایی که به هوش مصنوعی متا تکیه می‌کنند ایجاد می‌کند؛ موضوعی که در مقاله‌ی چرا هوش مصنوعی برای کسب‌وکارها مهم است هم به آن پرداخته‌ایم.
اجرای عملیِ وعده‌ها در برابر ثبات تیم‌ها
یکی از نکته‌های مهمی که این داستان روشن می‌کند، فاصله‌ی میان وعده‌های بزرگ و ثبات واقعی تیم‌هاست. استخدام چند چهره‌ی سرشناس برای عنوان‌های جذاب رسانه‌ای آسان است، اما نگه‌داشتن آن‌ها در یک ساختار پایدار و مؤثر، کاری به‌مراتب دشوارتر است؛ همان شکافی که در مقاله‌ی توهم هوش مصنوعی در برابر مهندسی واقعی به‌تفصیل بررسی شده است.
رقبا در ایمنی هوش مصنوعی چه مسیر دیگری رفته‌اند؟
در مقایسه، شرکت‌هایی مثل اوپن‌ای‌آی و آنتروپیک هم این روزها با چالش‌های مشابهی درباره‌ی ایمنی عامل‌های خودمختار دست‌وپنجه نرم می‌کنند، هرچند مسیرشان متفاوت بوده است. برای آشنایی با رویکرد کلی اوپن‌ای‌آی به ساخت و توسعه‌ی مدل‌هایش، مقاله‌ی اوپن‌ای‌آی چیست را بخوانید. نکته‌ی مشترک میان همه‌ی این آزمایشگاه‌ها این است که رقابت فشرده بر سر عرضه‌ی سریع‌تر مدل‌های قدرتمندتر، فشار زیادی به تیم‌های ایمنی وارد می‌کند؛ فشاری که گاهی به تغییرات مدیریتی پی‌درپی و گاهی، مثل مورد متا، به جدایی ناگهانی از افراد کلیدی ختم می‌شود. برای درک بهتر این رقابت از زاویه‌ی عملکرد مدل‌ها، مقاله‌ی چت‌جی‌پی‌تی در برابر دیپ‌سیک هم خواندنی است.
این ماجرا برای کاربران و کسب‌وکارها چه معنایی دارد؟
برای کاربران عادی، این خبر شاید در نگاه اول بی‌ربط به نظر برسد، اما همین تیم‌های پشت‌صحنه هستند که تعیین می‌کنند یک دستیار هوش مصنوعی تا چه حد ایمن، قابل‌اعتماد و پاسخ‌گو عمل کند. برای کسب‌وکارهایی که محصولات خود را روی زیرساخت متا یا هر آزمایشگاه بزرگ دیگری می‌سازند، ثبات تیم‌های ایمنی و حاکمیت مدل یک فاکتور ریسک واقعی است، نه صرفاً یک جزئیات فنی. وقتی تیمی که مسئول کشف آسیب‌پذیری‌ها و فیلترکردن خروجی‌های خطرناک بوده به‌یک‌باره از شرکت خارج می‌شود، هر تصمیمی که بر پایه‌ی اعتماد به آن زیرساخت گرفته شده، باید دوباره ارزیابی شود؛ از ادغام دستیارهای هوش مصنوعی در اپلیکیشن‌های داخلی سازمان تا استفاده از آن در جریان‌های کاری حساس و مشتری‌محور. کسانی که می‌خواهند از ابزارهای هوش مصنوعی به‌شکل مسئولانه و مؤثر استفاده کنند، می‌توانند با مطالعه‌ی راهنمای نوشتن پرامپت برای مبتدیان نقطه‌ی شروع خوبی برای کار دقیق‌تر با این ابزارها پیدا کنند.
پرسش‌های پرتکرار درباره‌ی جدایی متا و Virtue AI
آیا متا این افراد را اخراج کرده یا خودشان استعفا داده‌اند؟
گزارش سمافور هیچ‌کدام از این دو گزینه را به‌طور قطعی تأیید نمی‌کند و تنها می‌گوید همکاری به پایان رسیده است؛ نه متا و نه خود افراد تا این لحظه توضیحی منتشر نکرده‌اند.
Virtue AI الان متعلق به کیست؟
بدنه‌ی اصلی این استارتاپ، یعنی محصولات امنیت سایبری‌اش، مرداد امسال توسط فورتینت خریداری شد؛ درحالی‌که تیم بنیان‌گذار پیش از آن راهی متا شده بود.
این جدایی چه تأثیری روی محصولات متا دارد؟
هنوز گزارش رسمی درباره‌ی تأثیر مستقیم بر محصولات منتشر نشده، اما از دست رفتن تیم اصلی ردتیمینگ و حاکمیت می‌تواند روند بررسی ایمنی مدل‌های آینده‌ی متا را کند یا دستخوش بازآرایی کند.
آیا این الگو در شرکت‌های دیگر هوش مصنوعی هم دیده شده؟
بله، تغییرات پرسرعت در تیم‌های ایمنی هوش مصنوعی این روزها در بیشتر آزمایشگاه‌های بزرگ دیده می‌شود و نشان‌دهنده‌ی فشار رقابتی شدید بر سر سرعت عرضه‌ی محصول است.
چرا شرکت‌های بزرگ به‌جای خرید کامل، فقط تیم بنیان‌گذار یک استارتاپ را استخدام می‌کنند؟
روش استخدام گروهی معمولاً سریع‌تر و کم‌دردسرتر از خرید کامل یک شرکت است، چون فرایندهای پیچیده‌ی ادغام، تعهدات مالی و بررسی‌های حقوقی خرید کامل را ندارد؛ هرچند همین سادگی باعث می‌شود پایان دادن به همکاری هم به همان اندازه ساده و سریع باشد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
