حوثی‌ها و کلود؛ گزارش آنتروپیک درباره تلاش برای ساخت سامانه هدایت موشک با هوش مصنوعی

آنتروپیک در تازه‌ترین گزارش امنیتی خود فاش کرد که یک سلول عملیاتی در یمن تلاش کرده با هوش مصنوعی کلود سامانه هدایت موشک بسازد؛ ماجرایی که مرز میان دستیار هوشمند و ابزار خطرناک را به چالش کشیده است.

۱. گزارش تازه آنتروپیک دقیقاً چه می‌گوید؟

هفته گذشته، شرکت آنتروپیک نسخه تازه گزارش دوره‌ای خود درباره سوءاستفاده از هوش مصنوعی کلود را منتشر کرد؛ سندی که هر چند وقت یک‌بار موارد واقعی تلاش برای دور زدن قوانین استفاده از این مدل را مستند می‌کند. بخش عمده رسانه‌ها روی یک مورد خاص در این گزارش متمرکز شدند: تلاش یک گروه در شمال یمن برای استفاده از کلود در طراحی سامانه هدایت تسلیحات. این بخش از گزارش، که آنتروپیک آن را زیر عنوان «سلاح‌های متعارف» دسته‌بندی کرده، جزو نگران‌کننده‌ترین مواردی است که تا امروز از سوی این شرکت منتشر شده است.

نکته مهم این‌جاست که آنتروپیک این اطلاعات را نه به‌صورت اتفاقی، بلکه از طریق نظارت مستمر بر الگوهای مشکوک استفاده از کلود کشف کرده است. به گفته این شرکت، فرآیند شناسایی این سلول از ماه‌ها پیش آغاز شده و در نهایت با مسدود کردن حساب‌های مرتبط و اطلاع‌رسانی به نهادهای دولتی همراه بوده است. برای آشنایی با روند کلی چنین گزارش‌هایی و دیگر اخبار روز حوزه هوش مصنوعی می‌توانید بخش اخبار سایت را دنبال کنید.

۲. سلول یمنی؛ از ایده تا تلاش برای ساخت سامانه هدایت

بر اساس جزئیات منتشرشده، این عملیات در شمال یمن ردیابی شده و هدف اصلی آن، طراحی نرم‌افزار هدایت برای راکت‌های هدایت‌شونده و در سطحی بلندپروازانه‌تر، موشک‌های بالستیک بوده است. چندین رسانه بین‌المللی از جمله بلومبرگ، الجزیره و شبکه ترکیه‌ای TRT World، با استناد به همین گزارش، این سلول را به گروه حوثی نسبت داده‌اند؛ گروهی که پیش‌تر هم بارها متهم به دریافت حمایت فنی و تسلیحاتی از ایران شده بود.

گزارش آنتروپیک وارد جزئیات دقیق هویتی افراد یا محل فیزیکی این عملیات نشده و عمداً روی رفتار مشاهده‌شده در سطح مدل متمرکز مانده است؛ رویکردی که این شرکت در بیشتر افشاگری‌های امنیتی خود دنبال می‌کند تا از افشای اطلاعاتی که می‌تواند به تکرار روش توسط گروه‌های دیگر کمک کند، خودداری شود. با این حال، همین سطح از جزئیات فنی کافی بود تا رسانه‌های امنیتی و نظامی متعددی این پرونده را یکی از جدی‌ترین نمونه‌های مستندشده از تلاش برای «هوش مصنوعی‌سازی» توسعه تسلیحات توصیف کنند.

چرا این پروژه از نظر امنیتی اهمیت دارد؟

ساخت سامانه هدایت دقیق برای موشک یا راکت، به‌طور سنتی نیازمند تیمی از مهندسان مجرب مکانیک، الکترونیک و نرم‌افزار است. چیزی که این پرونده را متفاوت می‌کند، تلاش برای جایگزین کردن بخشی از این دانش تخصصی انسانی با یک مدل زبانی عمومی است؛ رویکردی که اگر حتی تا حدی موفق شود، می‌تواند هزینه و زمان دسترسی گروه‌های غیردولتی به تسلیحات پیشرفته را به‌طرز خطرناکی کاهش دهد.

۳. وقتی کلود جای مهندس نرم‌افزار واقعی می‌نشیند

جزئیات فنی گزارش نشان می‌دهد اپراتورهای این پروژه، به‌جای استخدام مهندسان نرم‌افزار واقعی، از چندین نمونه جداگانه کلود مانند اعضای یک تیم فنی استفاده کرده‌اند. به هر نمونه، نقش مشخصی مثل طراحی معماری کد، اشکال‌زدایی یا مستندسازی سپرده شده بود؛ ساختاری که دقیقاً یادآور یک تیم توسعه نرم‌افزار واقعی است، با این تفاوت که همه اعضای آن یک مدل هوش مصنوعی بوده‌اند. آنتروپیک در گزارش خود صراحتاً نوشته که کلود «به‌جای مهندسان نرم‌افزار انسانی» به کار گرفته شده است.

این الگو دقیقاً همان چیزی است که پیش‌تر در مطلب توهم مهندسی؛ تفاوت توسعه‌دهنده تنها با مهندس واقعی در سایت ما بررسی شده بود: هوش مصنوعی می‌تواند سرعت و حجم تولید کد را چند برابر کند، اما جایگزین دانش عمیق فنی و تجربه واقعی مهندسی نمی‌شود؛ نکته‌ای که در این پرونده هم به‌روشنی دیده می‌شود، چون نتیجه نهایی پروژه، به گفته آنتروپیک، به یک سلاح کاملاً کارآمد نرسیده است.

۴. لایه‌های ایمنی کلود و روشی که دور زده شد

کلود، مانند بیشتر مدل‌های زبانی پیشرفته، مجهز به چند لایه فیلتر ایمنی است که باید درخواست‌های مرتبط با ساخت تسلیحات را شناسایی و رد کنند. آنتروپیک تأکید کرده که این سامانه‌ها در این پرونده هم عملکرد قابل قبولی داشتند و بخش بزرگی از درخواست‌های مستقیم و آشکار را مسدود کردند. مشکل از جایی آغاز شد که اپراتورها به‌جای درخواست‌های صریح، هدف نهایی خود را پنهان کردند و کار را به وظایف کوچک و به‌ظاهر بی‌خطر در جلسات کاملاً جداگانه تقسیم کردند.

این روش، که در ادبیات امنیت هوش مصنوعی گاهی «تجزیه وظیفه» نامیده می‌شود، یکی از چالش‌های شناخته‌شده برای تمام مدل‌های زبانی بزرگ است؛ چون هر مدل تنها بخشی از تصویر کلی را در هر گفت‌وگو می‌بیند و تشخیص هدف نهایی کاربر از پشت سر هم چیدن چند درخواست به‌ظاهر بی‌ربط، دشوارتر است. اگر می‌خواهید بدانید چگونه یک پرامپت اصولی و مسئولانه بنویسید و از ظرفیت واقعی این ابزارها بدون سوءاستفاده استفاده کنید، راهنمای پرامپت‌نویسی برای مبتدیان نقطه شروع خوبی است.

۵. نتیجه نهایی؛ چرا هیچ موشکی کامل نشد

با وجود دور زدن بخشی از سامانه‌های ایمنی، آنتروپیک به‌صراحت اعلام کرده که هیچ مدرکی از تکمیل یا استقرار موفق یک سلاح واقعی در این پرونده پیدا نشده است. تنها شواهد موجود، نشان‌دهنده یک آزمایش پرتاب بوده که به گفته این شرکت، ناموفق بوده است. به بیان دیگر، فاصله میان تولید کد و مستندات فنی توسط هوش مصنوعی تا ساخت یک سامانه نظامی واقعی و کارآمد، همچنان فاصله‌ای بزرگ است؛ فاصله‌ای که دانش عملی، آزمایش میدانی و تخصص چندرشته‌ای انسانی در پر کردن آن نقش کلیدی دارد.

همین نکته یک بار دیگر محدودیت‌های واقعی هوش مصنوعی امروزی را در کنار قابلیت‌های چشمگیر آن یادآوری می‌کند؛ موضوعی که به‌طور مفصل در مطلب ظرفیت واقعی و محدودیت‌های هوش مصنوعی در دنیای واقعی در سایت ما بررسی شده است.

۶. بخش دیگر گزارش؛ حساب‌های نفوذ مرتبط با ایران

پرونده یمن تنها بخش نگران‌کننده این گزارش نبود. آنتروپیک همچنین از شناسایی و مسدودسازی سه حساب کاربری مرتبط با نهادهای تبلیغاتی دولت ایران، از جمله سازمان فرهنگ و ارتباطات اسلامی، خبر داد. به گفته این شرکت، این حساب‌ها برای اجرای کمپین‌های نفوذ پنهان و تولید محتوای تبلیغاتی هماهنگ استفاده می‌شده‌اند؛ فعالیتی که با قوانین استفاده از کلود در تضاد کامل قرار دارد و به محض شناسایی، متوقف شده است.

۷. تفاوت این افشاگری با گزارش قبلی درباره حملات سایبری

در چند روز اخیر، بخش دیگری از همین گزارش امنیتی آنتروپیک درباره عملیات سایبری گروه‌های مرتبط با روسیه و چین در کانال ما پوشش داده شده بود؛ مواردی که بیشتر حول هک زیرساخت‌ها و شکار آسیب‌پذیری‌های امنیتی می‌چرخید، نه ساخت تسلیحات فیزیکی. پرونده یمن، اما، یک لایه کاملاً متفاوت و ملموس‌تر از خطر را نشان می‌دهد: تلاش مستقیم برای تبدیل یک مدل زبانی به ابزار طراحی سلاح. این تفاوت نشان می‌دهد دامنه سوءاستفاده احتمالی از هوش مصنوعی، از جاسوسی دیجیتال گرفته تا تلاش برای ساخت تسلیحات، چقدر می‌تواند گسترده باشد؛ موضوعی که پیگیری روزانه آن را در بخش اخبار هوش مصنوعی سایت ادامه خواهیم داد.

برای کسب‌وکارها و توسعه‌دهندگانی که به‌صورت قانونی و مسئولانه از این فناوری استفاده می‌کنند، چنین گزارش‌هایی یادآور اهمیت شفافیت و کنترل‌های ایمنی در طراحی محصولات مبتنی بر هوش مصنوعی است؛ نکته‌ای که در مطلب چرا هوش مصنوعی برای کسب‌وکارها در سال ۲۰۲۵ مهم است هم به آن پرداخته‌ایم.

۸. واکنش آنتروپیک و مسیر پیش رو

آنتروپیک اعلام کرده نتایج کامل این تحقیقات را با نهادهای دولتی و امنیتی مرتبط به اشتراک گذاشته و در حال تقویت سامانه‌های تشخیص الگوهای مشکوک در گفت‌وگوهای چندمرحله‌ای است تا بتواند حملات مبتنی بر «تجزیه وظیفه» را سریع‌تر شناسایی کند. این شرکت همچنین تأکید کرده که انتشار عمومی چنین مواردی، بخشی از سیاست شفافیت آن است تا هم کاربران عادی و هم سایر شرکت‌های هوش مصنوعی از این الگوهای سوءاستفاده آگاه شوند و بتوانند سامانه‌های خود را در برابر آن مقاوم‌تر کنند.

رقابت میان آنتروپیک، اوپن‌ای‌آی، گوگل و دیگر توسعه‌دهندگان بزرگ هوش مصنوعی تنها بر سر قدرت و سرعت مدل‌ها نیست، بلکه بر سر همین توانایی در شناسایی و مهار سوءاستفاده‌ها هم هست؛ رقابتی که در مطلب اوپن‌ای‌آی چیست و چه تفاوتی با آنتروپیک دارد از زاویه دیگری بررسی شده است.

کارشناسان حوزه امنیت سایبری معتقدند این‌گونه گزارش‌های دوره‌ای، به‌مرور به یک استاندارد صنعتی تبدیل می‌شوند؛ یعنی شرکت‌های بزرگ هوش مصنوعی موظف خواهند بود در فواصل زمانی مشخص، موارد جدی سوءاستفاده از مدل‌های خود را به‌صورت عمومی گزارش دهند. چنین شفافیتی، ضمن ایجاد فشار رقابتی برای بهبود مستمر سامانه‌های ایمنی، به پژوهشگران مستقل و نهادهای قانون‌گذار هم امکان می‌دهد روند تحول تهدیدهای مبتنی بر هوش مصنوعی را از نزدیک دنبال کنند و پیش از تبدیل شدن یک الگوی سوءاستفاده به یک روند فراگیر، واکنش نشان دهند.

پرسش‌های متداول درباره این گزارش

پرسش: آیا موشک یا سلاحی با استفاده از کلود واقعاً ساخته شده است؟
پاسخ: خیر. آنتروپیک تأکید کرده هیچ مدرکی از تکمیل یا استقرار موفق یک سلاح واقعی پیدا نشده و تنها یک آزمایش پرتاب ناموفق ثبت شده است.

پرسش: چرا سامانه‌های ایمنی کلود نتوانستند همه درخواست‌ها را مسدود کنند؟
پاسخ: چون اپراتورها هدف نهایی را پنهان کردند و کار را به وظایف کوچک در جلسات جداگانه تقسیم کردند، به‌طوری‌که هیچ درخواست منفردی به‌تنهایی مشکوک به نظر نمی‌رسید.

پرسش: آیا این گزارش همان افشاگری قبلی درباره حملات سایبری روسیه و چین است؟
پاسخ: نه دقیقاً. هر دو بخش از یک گزارش امنیتی بزرگ‌تر آنتروپیک هستند، اما پرونده یمن به‌طور مشخص به تلاش برای ساخت تسلیحات فیزیکی مربوط است، نه عملیات سایبری صرف.

پرسش: کاربران عادی کلود چه باید بدانند؟
پاسخ: این ماجرا مربوط به سوءاستفاده هدفمند و سازمان‌یافته از مدل بوده، نه یک خطر برای کاربران معمولی؛ اما نشان می‌دهد چرا رعایت قوانین استفاده و گزارش رفتار مشکوک اهمیت دارد.