مرداد
اخبار
توقف توسعه‌ی مدل آسترای OpenAI به‌دلیل خطر سایبری بحرانی
شرکت OpenAI توسعه‌ی بخشی از مدل جدید و بسیار قدرتمند خود با نام رمز «آسترا» را متوقف کرده است؛ دلیل این تصمیم، هشدار درباره‌ی قابلیت‌های بحرانی سایبری این مدل و خطر سوءاستفاده از آن در حملات هکری پیچیده است.
لیست مطالب
۱. آسترا چیست و چرا این‌قدر مهم است؟
مدل آسترا، پروژه‌ای است که OpenAI آن را به‌عنوان نسل بعدی مدل‌های زبانی بزرگ خود در حال توسعه دارد. برخلاف نسخه‌های قبلی که عمدتاً روی مکالمه، نوشتن و استدلال منطقی تمرکز داشتند، آسترا از ابتدا با هدف افزایش توانایی‌های عاملی (Agentic) طراحی شده؛ یعنی مدلی که می‌تواند به‌جای پاسخ‌دادن صرف، وظایف پیچیده را به‌صورت خودکار در محیط‌های واقعی انجام دهد. همین ویژگی، آن را هم بسیار جذاب و هم بسیار پرخطر کرده است.
پیش از این هشدار امنیتی، آسترا بیشتر به خاطر دستاوردهایش در حوزه‌ی ریاضیات سر زبان‌ها افتاده بود؛ OpenAI چند روز پیش از این ماجرا، اعلام کرده بود که این مدل توانسته چند مسئله‌ی حل‌نشده‌ی ریاضی را پاسخ دهد، اتفاقی که آن را به یکی از قوی‌ترین مدل‌های استدلالی تاریخ این شرکت تبدیل کرد. حالا همان قدرت استدلالی که برای حل مسائل پیچیده‌ی ریاضی به کار رفته، در حوزه‌ی امنیت سایبری هم خودش را نشان داده و همین موضوع نگرانی تیم ایمنی را برانگیخته است. کاربران علاقه‌مند به شناخت بهتر این شرکت می‌توانند نگاهی به معرفی کامل OpenAI در سایت ما بیندازند.
۲. اعلامیه‌ی رسمی: توقف بخشی از توسعه
روز جمعه، OpenAI طی یک پست رسمی با عنوان «واکنش به مرز جدید قابلیت‌های بحرانی سایبری» اعلام کرد که توسعه‌ی بخشی از آسترا را متوقف کرده است. شرکت در این اعلامیه نوشته که تیم ایمنی داخلی، در جریان ارزیابی‌های دوره‌ای، متوجه شده که مدل به سطحی از مهارت در شبیه‌سازی و اجرای حملات سایبری رسیده که دیگر نمی‌توان با اطمینان کامل، خطر «بحرانی» بودن آن را رد کرد.
نکته‌ی جالب این‌جاست که خود OpenAI تأکید کرده این تصمیم، به معنای کنارگذاشتن کامل پروژه نیست، بلکه یک توقف هدفمند و موقت برای بازبینی مسیر توسعه است. به گفته‌ی این شرکت، بخش‌های غیرمرتبط با قابلیت‌های سایبری همچنان در حال پیشرفت هستند و تنها آن بخش از آموزش مدل که به‌طور مستقیم توانایی‌های تهاجمی سایبری را تقویت می‌کند، متوقف شده است.
۳. یعنی چه؟ منظور از «قابلیت بحرانی سایبری» چیست
در چارچوب آمادگی OpenAI، قابلیت‌ها بر اساس میزان خطر بالقوه‌شان دسته‌بندی می‌شوند. سطح «بحرانی» به توانایی‌هایی اشاره دارد که در صورت خروج از کنترل یا سوءاستفاده عمدی، می‌توانند خسارت‌های گسترده و جبران‌ناپذیر ایجاد کنند؛ مثل کشف و بهره‌برداری خودکار از آسیب‌پذیری‌های نرم‌افزاری در مقیاس بزرگ، یا طراحی حملات سایبری چندمرحله‌ای بدون نیاز به دخالت انسانی. به بیان ساده، نگرانی اصلی این است که آسترا می‌تواند نقش یک هکر حرفه‌ای را در سرعتی بسیار بالاتر از انسان ایفا کند.
چرا این هشدار حالا مطرح شده؟
مدل‌های هوش مصنوعی هر نسل که پیشرفته‌تر می‌شوند، در کدنویسی و تحلیل سیستم‌های پیچیده هم قوی‌تر عمل می‌کنند. این پیشرفت طبیعی، همان مهارتی است که در حملات سایبری هم کاربرد دارد. کارشناسان امنیت پیش‌تر هم هشدار داده بودند که فاصله‌ی میان «مدل مفید برای برنامه‌نویسی» و «مدل خطرناک برای هک» دارد کمتر می‌شود؛ موضوعی که در تحلیل ما از توانمندی‌ها و محدودیت‌های واقعی هوش مصنوعی هم به آن پرداخته‌ایم.
برخی تحلیلگران امنیتی معتقدند این هشدار می‌تواند نقطه‌عطفی در تاریخ صنعت هوش مصنوعی باشد؛ اولین‌بار است که یکی از بزرگ‌ترین شرکت‌های این حوزه، به‌طور علنی و مستند اعلام می‌کند مدلش از یک خط قرمز مشخص عبور کرده است. این شفافیت، هرچند نگران‌کننده به نظر می‌رسد، اما از منظر بسیاری از کارشناسان، نشانه‌ی مثبتی از جدی‌گرفتن مسئولیت‌پذیری در توسعه‌ی هوش مصنوعی تلقی می‌شود.
۴. چارچوب آمادگی OpenAI دقیقاً چه می‌گوید؟
چارچوب آمادگی (Preparedness Framework) سندی داخلی در OpenAی است که پیش از هر عرضه‌ی عمومی، ریسک‌های احتمالی هر مدل را در حوزه‌هایی مثل زیست‌شناسی، امنیت سایبری و متقاعدسازی ارزیابی می‌کند. طبق این چارچوب، اگر مدلی در یکی از این حوزه‌ها به سطح «بحرانی» برسد، شرکت موظف است پیش از عرضه، اقدامات ایمنی اضافی اجرا کند. آسترا اولین مدلی است که به‌طور رسمی چنین هشداری را در حوزه‌ی سایبری دریافت کرده است.
۵. واکنش رسانه‌ها: از Axios تا بلومبرگ
این خبر ابتدا به‌صورت اختصاصی توسط رسانه‌ی Axios منتشر شد و به‌سرعت توسط بلومبرگ، یاهو فایننس و چند رسانه‌ی معتبر دیگر تأیید و پوشش داده شد. بر اساس این گزارش‌ها، OpenAI اعلام کرده که عرضه‌ی نهایی آسترا کندتر از برنامه‌ی اولیه پیش خواهد رفت و شرکت زمان بیشتری را صرف آزمایش‌های ایمنی خواهد کرد. برخی از این گزارش‌ها همزمان به رقابت فشرده‌ی این شرکت با رقبایی مثل DeepSeek اشاره کرده‌اند که فشار زیادی برای عرضه‌ی سریع‌تر مدل‌های جدید ایجاد می‌کند.
۶. راهکار OpenAI: آزمایش ایزوله و همکاری با نهادهای دولتی
شرکت OpenAI اعلام کرده برای مدیریت این ریسک، سه اقدام اصلی را در دستور کار قرار داده است: نخست، آزمایش آسترا در محیط‌های کاملاً ایزوله که امکان دسترسی مدل به شبکه‌های واقعی را از بین می‌برد. دوم، نظارت پیوسته و خودکار بر رفتار عامل‌های هوشمند مدل در سناریوهای شبیه‌سازی‌شده. سوم، همکاری مستقیم با نهادهای دولتی و سازمان‌های تخصصی امنیت سایبری برای آزمایش مستقل قابلیت‌های این مدل پیش از هرگونه عرضه‌ی عمومی.
این رویکرد نشان می‌دهد که ایمنی هوش مصنوعی دیگر صرفاً یک شعار بازاریابی نیست، بلکه به بخشی جدی از فرایند توسعه تبدیل شده است؛ نکته‌ای که در اهمیت هوش مصنوعی برای کسب‌وکارها در سال ۲۰۲۵ هم به آن اشاره کرده‌ایم. به‌گفته‌ی OpenAI، خروجی این ارزیابی‌های مشترک نه‌تنها بر عرضه‌ی آسترا، بلکه بر سیاست‌های ایمنی مدل‌های بعدی این شرکت هم تأثیر خواهد گذاشت؛ یعنی این ماجرا می‌تواند نقطه‌ی شروع یک استاندارد تازه برای عرضه‌ی مدل‌های بسیار قدرتمند در سال‌های آینده باشد.
۷. زمینه‌ی گسترده‌تر: موج نگرانی از هک مدل‌های هوش مصنوعی
این اعلامیه همزمان با افزایش نگرانی عمومی درباره‌ی سوءاستفاده از هوش مصنوعی در حملات سایبری منتشر شده است. در ماه‌های اخیر، چند مورد از سوءاستفاده از ابزارهای هوش مصنوعی برای طراحی بدافزار و اجرای حملات فیشینگ پیشرفته گزارش شده که بحث ایمنی هوش مصنوعی را به یکی از مهم‌ترین موضوعات صنعت تبدیل کرده است. این روند نشان می‌دهد که توسعه‌دهندگان مدل‌های بزرگ زبانی باید همزمان با افزایش قدرت مدل‌ها، سرمایه‌گذاری بیشتری هم روی زیرساخت‌های ایمنی انجام دهند.
در همین راستا، سازمان‌های امنیت سایبری در چند کشور هم اعلام آمادگی کرده‌اند تا در کنار شرکت‌های سازنده‌ی مدل‌های زبانی، چارچوب‌های ارزیابی مستقل ایجاد کنند. هدف از این همکاری‌ها، جلوگیری از وضعیتی است که در آن هر شرکت به‌تنهایی تصمیم بگیرد چه سطحی از ریسک قابل‌قبول است؛ رویکردی که می‌تواند در بلندمدت به شکل‌گیری استانداردهای بین‌المللی برای عرضه‌ی مدل‌های فوق‌پیشرفته هوش مصنوعی منجر شود.
۸. مقایسه با رویکرد رقبا: Gemini، Claude و Grok
شرکت OpenAI تنها نهادی نیست که با این چالش روبه‌رو است. گوگل با مدل‌های Gemini، آنتروپیک با Claude و xAI با Grok نیز چارچوب‌های ایمنی مشابهی برای ارزیابی ریسک مدل‌های خود دارند. تفاوت اصلی در این ماجرا، شفافیتی است که OpenAI با انتشار عمومی این هشدار از خود نشان داده؛ رویکردی که می‌تواند استاندارد جدیدی برای صنعت هوش مصنوعی ایجاد کند و رقبا را هم به شفافیت بیشتر درباره‌ی ریسک‌های مدل‌هایشان ترغیب کند.
۹. این خبر برای کاربران و توسعه‌دهندگان ایرانی چه معنایی دارد؟
برای کاربران عادی، این خبر یادآوری مهمی است که ابزارهای هوش مصنوعی، هرچه قدرتمندتر می‌شوند، باید با آگاهی و مسئولیت بیشتری استفاده شوند. برای توسعه‌دهندگان و علاقه‌مندان به ساخت اپلیکیشن‌های مبتنی بر هوش مصنوعی هم، این رویداد نشان می‌دهد که طراحی درست پرامپت و رعایت اصول ایمنی از ابتدای پروژه اهمیت زیادی دارد؛ موضوعی که در آموزش نوشتن پرامپت برای مبتدیان به‌طور کامل توضیح داده‌ایم. همچنین برای درک بهتر تفاوت میان توسعه‌ی مسئولانه و شتاب‌زده، مطالعه‌ی این مقاله درباره‌ی توهم توسعه‌دهنده‌ی تنها در برابر مهندس واقعی هم خالی از لطف نیست.
سوالات متداول
آیا آسترا به‌طور کامل متوقف شده است؟
خیر. OpenAI فقط بخشی از توسعه را متوقف کرده تا آزمایش‌های ایمنی بیشتری روی قابلیت‌های سایبری این مدل انجام شود؛ پروژه در مسیر کندتر و با نظارت بیشتر ادامه دارد.
چه زمانی آسترا عرضه می‌شود؟
تاریخ دقیقی اعلام نشده است. OpenAI گفته عرضه‌ی نهایی تنها پس از تکمیل موفق آزمایش‌های امنیتی گسترده و همکاری با نهادهای دولتی انجام خواهد شد.
منظور از «قابلیت بحرانی سایبری» دقیقاً چیست؟
بالاترین سطح ریسک در چارچوب آمادگی OpenAI که به توانایی مدل در اجرای حملات سایبری پیچیده و خودکار بدون دخالت انسانی اشاره دارد.
آیا این تصمیم روی محصولات فعلی OpenAI مثل ChatGPT تأثیر می‌گذارد؟
خیر، این توقف مربوط به بخشی از توسعه‌ی داخلی مدل نسل بعد است و تأثیری بر عملکرد فعلی ChatGPT و مدل‌های موجود ندارد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
