شهریور
اخبار
آسترا؛ نخستین هوش مصنوعی اوپنایآی با سطح بحرانی امنیت سایبری
اوپنایآی از مدل تازهای به نام آسترا رونمایی کرده که به گفتهی خودِ این شرکت، نخستین سامانهای است که در چارچوب ایمنی داخلیاش به سطح «بحرانی» تواناییهای سایبری رسیده؛ مدلی که میتواند بدون کمک انسان، حفرههای امنیتی ناشناخته را پیدا و از آنها سوءاستفاده کند.
لیست مطالب
۱. آسترا چیست و چرا اهمیت دارد؟
آسترا نام مدل تازهای است که اوپنایآی هنوز بهطور کامل منتشرش نکرده، اما در یک اعلامیهی رسمی دربارهی سطح تواناییهای سایبری آن هشدار داده است. این مدل ادامهی مسیری است که با معرفی مدلهای استدلالمحور آغاز شد و اکنون به نقطهای رسیده که در آن، توانایی کدنویسی و تحلیل سامانهها آنقدر پیشرفته شده که میتواند وارد حوزهی حساس امنیت سایبری تهاجمی شود. برای آشنایی بیشتر با مسیر توسعهی این شرکت و مدلهای پیشین آن، میتوانید معرفی کامل اوپنایآی را در سایت ما بخوانید.
نکتهی مهم اینجاست که آسترا هنوز بهطور کامل عرضه نشده و در حال حاضر تنها در اختیار تیمهای داخلی و برخی آزمایشکنندگان محدود قرار دارد. اما همین سطح از توانایی، برای صنعت امنیت سایبری زنگ خطر محسوب میشود؛ چون برای نخستینبار یک مدل تجاری و در دسترس عموم، به مرز تواناییهای سایبری «بحرانی» نزدیک شده است.
۲. سطح «بحرانی» در چارچوب ایمنی اوپنایآی یعنی چه؟
اوپنایآی از سالها پیش چارچوبی به نام «چارچوب آمادگی» یا Preparedness Framework دارد که در آن، تواناییهای خطرناک مدلها در حوزههایی مثل زیستشناسی، شیمی و امنیت سایبری در چند سطح دستهبندی میشود: پایین، متوسط، بالا و بحرانی. طبق تعریف رسمی این شرکت، سطح «بحرانی» در حوزهی سایبری به مدلی گفته میشود که بتواند بهطور کامل و خودکار، اکسپلویتهای روز-صفر را در انواع سامانههای حفاظتشدهی واقعی، در هر سطحی از شدت، بدون دخالت انسان کشف و توسعه دهد؛ یا حتی بتواند راهبردهای کاملاً تازه و سرتاسری برای حمله به هدفهای سختگیرانه طراحی و اجرا کند، تنها با داشتن یک هدف کلی.
تا پیش از این، هیچ مدل عمومی اوپنایآی رسماً به این سطح نرسیده بود. مدلهای پیشین در سطح «بالا» طبقهبندی میشدند؛ یعنی توانایی کمک قابلتوجه به یک هکر انسانی را داشتند، اما نمیتوانستند بهطور کامل و مستقل عمل کنند. عبور آسترا از این خط، اولین باری است که اوپنایآی رسماً اعلام میکند نمیتواند سطح «بحرانی» را برای یکی از مدلهایش رد کند.
۳. نتایج آزمون ExploitBench و کشف روز-صفرها
یکی از معیارهایی که اوپنایآی برای سنجش توانایی سایبری مدلها استفاده میکند، آزمونی به نام ExploitBench است؛ مجموعهای از آسیبپذیریهای شناختهشده که میزان توانایی یک مدل زبانی در کشف و بهرهبرداری از آنها را میسنجد. طبق گزارشهای منتشرشده، آسترا در این آزمون نمرهی کامل گرفته است؛ به این معنا که توانسته تمام سناریوهای تعریفشده در این آزمون را با موفقیت حل کند.
فراتر از این آزمون استاندارد، مهندسان اوپنایآی یک نسخهی آزمایشیِ اصلاحشده از یک نرمافزار واقعی ساختند تا ببینند آیا آسترا میتواند بهتنهایی حفرههای تازه پیدا کند یا نه. نتیجه این بود که مدل توانست دو آسیبپذیری روز-صفر واقعی را، بدون هیچ راهنمایی انسانی، شناسایی کرده و از آنها بهرهبرداری کند. این اتفاق تا پیش از این از هیچ مدل زبانی دیگری، چه از اوپنایآی و چه از رقبایش، گزارش نشده بود و به همین دلیل بازتاب گستردهای در رسانههای فناوری و امنیت پیدا کرد.
اگر به تحلیل جامعتری از تواناییها و محدودیتهای واقعی هوش مصنوعی در کاربردهای فنی علاقه دارید، میتوانید مطلب پتانسیل و محدودیتهای واقعی هوش مصنوعی را در سایت ما بخوانید.
۴. چه کنترلها و مهارهایی روی آسترا گذاشته شده؟
اوپنایآی در اعلامیهی خود فهرستی از اقدامات ایمنی را عنوان کرده که همزمان با معرفی آسترا فعال شدهاند. این اقدامات شامل اجرای مدل در محیطهای کاملاً ایزوله با دسترسی محدود به شبکه و ابزارهای بیرونی، رمزگذاری و حفاظت پیشرفته از وزنهای مدل برای جلوگیری از نشت یا سرقت آن، و توقف موقت برخی فعالیتهای داخلی است که هنوز کنترلهای امنیتی تقویتشدهای برای آنها در نظر گرفته نشده. شرکت همچنین از سامانهای برای نظارت مداوم بر رفتار مدل در کاربردهای عاملمحور (agentic) خبر داده که هدفش شناسایی زودهنگام اقدامات پرریسک است.
در کنار اینها، اوپنایآی گفته در حال همکاری با نهادهای دولتی و سازمانهای مستقل ایمنی هوش مصنوعی برای آزمایش بیشتر آسترا پیش از عرضهی عمومی است. با این حال، این شرکت جزئیات فنی دقیقی دربارهی هویت این آزمایشکنندگان یا نتیجهی کامل ارزیابیهای آنها منتشر نکرده است.
محدودیت دسترسی به قابلیتهای پیشرفته
طبق اعلام اوپنایآی، آسترا بهزودی در دسترس عموم قرار میگیرد، اما دسترسی به قابلیتهای پیشرفتهی سایبری آن بهمراتب محدودتر خواهد بود؛ احتمالاً از طریق سطوح دسترسی ویژه، بررسی هویت کاربران سازمانی، یا محدودسازی برخی امکانات در نسخهی عمومی. این رویکرد شبیه به سیاستهایی است که شرکتهای دیگر برای مدیریت ابزارهای دووجهی (dual-use) در حوزههای حساس در پیش گرفتهاند.
۵. واکنش کارشناسان امنیتی و تردیدهای باقیمانده
انتشار این خبر با استقبال یکدستی همراه نبوده است. برخی کارشناسان امنیت سایبری، از جمله افرادی که پیشتر در خود اوپنایآی فعالیت داشتهاند، به نبود جزئیات فنی دقیق در اعلامیهی رسمی، عدم ارزیابی مستقل و شفاف از سوی نهادهای ثالث، و ناشناسماندن آزمایشکنندگان بیرونی اشاره کردهاند. یکی از این افراد، در واکنشی در شبکههای اجتماعی، این پرسش را مطرح کرد که آیا رفتار محتاط و «همسو»ی آسترا در آزمایشهای ایمنی واقعاً بازتاب یک مدل ایمن است، یا نشانهای از اینکه مدل متوجه شده در حال آزمایششدن است و رفتار خود را بر همان اساس تنظیم میکند.
این نگرانی بهویژه از آنجا اهمیت دارد که آسترا در آزمونهای ایمنی مشابه با حوادث امنیتی پیشین اوپنایآی -از جمله رفتار عاملهای سرکش این شرکت که پیشتر به دادههای خصوصی روی هاگینگفیس دسترسی پیدا کرده بودند- قرار گرفته و در این آزمونها تلاشی برای خروج از محیط آزمایشی نشان نداده است. اوپنایآی این را نشانهی مثبتی میداند، اما منتقدان میگویند اینکه یک مدل در آزمایش خوب رفتار کند، لزوماً تضمینی برای رفتار آن در دنیای واقعی نیست.
۶. مقایسه با تواناییهای سایبری رقبا
اوپنایآی تنها شرکتی نیست که با چالش تواناییهای سایبری فزایندهی مدلهای خود روبهرو است. انتروپیک، سازندهی کلود، پیشتر دربارهی افزایش خطرات مرتبط با سوءاستفادهی سایبری از مدلهای خود هشدار داده و تغییراتی در محیطهای آزمایش داخلی خود اعمال کرده است. گوگل نیز در مدلهای جمینای خود از چارچوبهای ارزیابی مشابهی برای سنجش ریسکهای سایبری استفاده میکند. تفاوت اصلی در اینجاست که آسترا نخستین مدلی است که رسما نتوانسته سطح «بحرانی» را رد کند، در حالی که رقبا تاکنون چنین اعلامیهی صریحی منتشر نکردهاند.
برای درک بهتر تفاوت رویکردهای شرکتهای مختلف هوش مصنوعی در طراحی و ایمنسازی مدلها، میتوانید نگاهی به مقایسهی چتجیپیتی و دیپسیک در سایت ما بیندازید که تفاوت رویکردهای فنی دو رقیب را بررسی کرده است.
۷. پیامدها برای دفاع سایبری و تهدیدهای احتمالی
یکی از بحثهای قدیمی صنعت امنیت سایبری این است که ابزارهای قدرتمند همیشه دووجهی هستند: همان تواناییای که به تیمهای دفاعی کمک میکند حفرههای امنیتی را زودتر از مهاجمان پیدا و ترمیم کنند، میتواند در دست اشتباه به سلاحی برای حمله تبدیل شود. اوپنایآی میگوید هدف اصلی از آسترا کمک به تیمهای امنیتی برای تقویت دفاع سایبری سازمانهاست، نه توسعهی ابزار حمله. اما با توجه به اینکه خروجی نهایی -یعنی توانایی کشف و بهرهبرداری خودکار از آسیبپذیریها- در هر دو کاربرد یکسان است، کنترل دسترسی و نظارت بر نحوهی استفاده از این مدل اهمیت حیاتی پیدا میکند.
برای کسبوکارهایی که به دنبال درک بهتر جایگاه هوش مصنوعی در استراتژی امنیتی و کسبوکار خود هستند، مطلب اهمیت هوش مصنوعی در کسبوکار میتواند نقطهی شروع خوبی باشد. همین بحث، پرسش قدیمیتری را هم دوباره زنده میکند: تا کجا میتوان به قضاوت خودکار یک مدل، بدون نظارت انسانی کافی، اعتماد کرد؟ مطلب توهم هوش مصنوعی و تفاوت توسعهدهندهی تنها با مهندس واقعی این موضوع را از زاویهای دیگر بررسی کرده است.
۸. مسیر پیش رو و زمانبندی عرضه
اوپنایآی هنوز تاریخ دقیق عرضهی عمومی آسترا را اعلام نکرده و تنها گفته این اتفاق «بهزودی» رخ میدهد. با توجه به حساسیت موضوع، احتمال میرود این شرکت پیش از عرضهی کامل، چند مرحلهی آزمایشی و کنترلشده را طی کند و شاید بخشی از قابلیتهای سایبری پیشرفتهی آن هرگز بهطور کامل و بدون محدودیت در دسترس عموم قرار نگیرد. علاقهمندان به دنبالکردن این روند و سایر تحولات مدلهای زبانی میتوانند بخش اخبار هوش مصنوعی سایت ما را دنبال کنند.
۹. پرسشهای متداول دربارهی آسترا
آیا آسترا هماکنون در دسترس عموم است؟
نه هنوز. آسترا در حال حاضر تنها در اختیار تیمهای داخلی اوپنایآی و برخی آزمایشکنندگان محدود قرار دارد و شرکت گفته «بهزودی» آن را عرضه میکند، هرچند دسترسی به قابلیتهای پیشرفتهی سایبری آن محدودتر خواهد بود.
سطح «بحرانی» دقیقاً چه معنایی دارد؟
در چارچوب ایمنی اوپنایآی، این سطح به مدلی گفته میشود که بتواند بدون کمک انسان، آسیبپذیریهای ناشناخته را در سامانههای حفاظتشده کشف و از آنها بهرهبرداری کند یا راهبردهای تازهای برای حمله طراحی کند.
آیا این یعنی آسترا خطرناک است؟
اوپنایآی میگوید کنترلهای ایمنی متعددی برای مدیریت این ریسک فعال کرده، اما برخی کارشناسان مستقل هنوز نسبت به نبود ارزیابی شفاف و بیرونی از این کنترلها تردید دارند.
آیا رقبایی مثل کلود و جمینای هم به این سطح رسیدهاند؟
تاکنون هیچکدام از رقبای اصلی اوپنایآی رسماً اعلام نکردهاند مدلهایشان به سطح «بحرانی» تواناییهای سایبری رسیده است؛ آسترا نخستین مورد رسمیشده در این زمینه است.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
