شهریور
اخبار
گزارش آنتروپیک: سوءاستفاده روسیه و چین از هوش مصنوعی کلود برای جاسوسی و سلاح
آنتروپیک، سازندهٔ هوش مصنوعی کلود، در گزارشی تازه فاش کرد که چگونه هکرهای وابسته به دولتهای روسیه و چین، گروههای مجرم مالی و شبکههای نفوذ رسانهای از این مدلها برای جاسوسی، جنگ سایبری، کلاهبرداری و حتی پژوهش تسلیحاتی سوءاستفاده کردهاند.
لیست مطالب
۱. گزارش تهدیدات آنتروپیک دقیقاً چیست؟
هر چند وقت یکبار، آنتروپیک گزارشی با عنوان «مقابله با سوءاستفاده از هوش مصنوعی» منتشر میکند که در آن، پروندههای واقعیِ کشفشده توسط تیم اطلاعات تهدید این شرکت را با جزییات فنی شرح میدهد. نسخهٔ سپتامبر ۲۰۲۶ این گزارش، بازهٔ زمانی دسامبر ۲۰۲۵ تا اوت ۲۰۲۶ را پوشش میدهد و فعالیتها را در هفت دستهٔ کلی تقسیمبندی کرده است: عملیات سایبری، عملیات جاسوسی و نظارتی، عملیات نفوذ و تبلیغاتی، جنگافزارهای متعارف، سوءاستفادهٔ زیستی، کلاهبرداریهای مالی و در نهایت تلاش برای دور زدن مجوزهای استفاده از مدلها. نکتهٔ قابلتوجه این است که برخلاف گزارشهای عمومی امنیت سایبری که معمولاً کلی و مبهم هستند، آنتروپیک نامهای رمز، تکنیکها، ابزارها و حتی نمونهای از دستورهای واقعی دادهشده به کلود را منتشر کرده است. این سطح از شفافیت، این گزارش را به یکی از مهمترین اسناد سال ۲۰۲۶ در حوزهٔ ایمنی هوش مصنوعی تبدیل کرده است. برای آشنایی بیشتر با ماهیت این فناوری و اینکه اصلاً چرا شرکتهایی مثل OpenAI و آنتروپیک اینقدر روی ایمنی مدلها حساساند، میتوانید مقالهٔ معرفی جامع ما را هم بخوانید.
۲. پروندهٔ GTG-20006؛ عملیات جاسوسی روسیه با کمک کلود
بخش شاید ترسناکترین بخش گزارش، به گروهی روسی با نام رمز GTG-20006 اختصاص دارد که آنتروپیک آن را با درجهٔ اطمینان بالا به عملیات جاسوسی دولتی معروف به Midnight Blizzard مرتبط میداند؛ همان گروهی که پیش از این به نفوذ در مایکروسافت و نهادهای دولتی غربی متهم شده بود. طبق گزارش، این گروه از کلود برای خودکارسازی کمپینهای چندقربانی استفاده کرد و به بیش از بیست سازمان دولتی، نظامی و دیپلماتیک در اروپا و اوکراین نفوذ کرد. تمرکز ویژهٔ این عملیات روی شرکتهای سازندهٔ پهپاد و زنجیرهٔ تأمین قطعات آنها بوده است؛ موضوعی که با توجه به نقش پهپادها در جنگ اوکراین، اهمیت راهبردی بالایی دارد.
در میان یافتههای این پرونده، آنتروپیک به خانوادهای از بدافزارهای جدید اشاره میکند که برای ویندوز، اندروید و حتی آیفون طراحی شده بودند و برخی از آنها قابلیت دورزدن خودکار سیستمهای تشخیص را داشتند؛ یعنی وقتی بدافزار شناسایی میشد، عامل هوش مصنوعی بهصورت خودکار کد را تغییر میداد تا دوباره شناسایی نشود. این گروه همچنین با فیشینگ از طریق کد دستگاه (device code phishing)، سیستمهای ایمیل دولتی را هدف گرفت، حسابهای واتساپ مقامهای ارشد اوکراینی را تصرف کرد و با آلودهکردن شبکههای وایفای هتلها، مسافران دولتی و کارکنان شرکتهای پهپادساز را ردیابی کرد. نتیجهٔ نهایی این عملیات، سرقت اطلاعات هویتی بیش از سیصد هزار نفر از یک کشور آفریقایی بود.
۳. پروندهٔ GTG-10007؛ کارخانهٔ خودکار کشف حفرهٔ امنیتی در چین
گروه دوم که آنتروپیک با نام رمز GTG-10007 معرفی میکند، احتمالاً از استان هونان چین فعالیت میکند و ترکیبی عجیب از اعضا دارد: از دانشجویان کارشناسی علوم کامپیوتر گرفته تا کارآموزان شرکتهای امنیتی. برخلاف تصور رایج از «هکر دولتی حرفهای»، این گروه نشان داد که با کمک کلود، حتی افراد کمتجربه هم میتوانند برنامهای در سطح صنعتی برای پژوهش امنیتی بسازند. این گروه یک سامانهٔ کاملاً خودکار برای کشف آسیبپذیری روز-صفر در محصولات امنیتی معروف طراحی کرد که بدون نیاز به نظارت مداوم انسانی، شبانهروزی اجرا میشد.
طبق آمار گزارش، این سامانه تنها در یک ماه بیش از ده حفرهٔ امنیتی احتمالاً تازه (روز-صفر) در محصولاتی که میلیونها سازمان در جهان از آنها استفاده میکنند پیدا کرد. فرایند کار شامل مهندسی معکوس فریمور و باینری تجهیزات امنیتی، و سپس تست عملی حملات در آزمایشگاه بود. این گروه همزمان نزدیک به پنجاه سازمان مختلف در سراسر جهان را هدف قرار داده بود. آنتروپیک تأکید میکند این اولین باری است که چنین برنامهٔ پژوهش آسیبپذیری «بهصورت خودمختار و پیوسته» در طبیعت مشاهده شده است، نه صرفاً یک حملهٔ نقطهای.
۴. سیزده عامل هوش مصنوعی برای جمعآوری اطلاعات نظامی
جدا از دو پروندهٔ اصلی، گزارش به ناوگانی از سیزده عامل هوش مصنوعی خودمختار اشاره میکند که بهطور مداوم سایتهای نظامی و دولتی را برای جمعآوری اطلاعات جارو میکردند. این عاملها بهطور خاص روی آگهیهای قراردادهای نظامی آمریکا و انتشارات رسمی دولتی متمرکز بودند و الگوی جمعآوری دادههای آنها، با اولویتهای اطلاعاتی سطح دولتی همراستا بود. به بیان ساده، هوش مصنوعی دیگر فقط ابزار حمله نیست؛ به یک لایهٔ کامل جمعآوری اطلاعات تبدیل شده که هزینهٔ آن نسبت به روشهای سنتی جاسوسی بهشدت پایینتر است.
۵. باجافزار، سرقت داده و بازار سیاه؛ وقتی هوش مصنوعی وارد جرم مالی میشود
گزارش آنتروپیک تنها به بازیگران دولتی محدود نمیماند. گروهی مرتبط با شبکهٔ مجرمانهٔ ShinyHunters با نام رمز GTG-50014، با کمک کلود ۱٫۸ میلیون اپلیکیشن اندرویدی را برای استخراج اطلاعات ورود کاربران دیکامپایل و اسکن کرد. در یکی از موارد، بیش از یک ترابایت داده شامل صدها هزار شناسهٔ ملی و میلیونها شمارهٔ کارت بانکی از یک سازمان به سرقت رفت؛ فرایندی که از ورود اولیه تا استخراج انبوه داده، تنها چند ساعت طول کشید. همین گروه با نفوذ به یک تأمینکنندهٔ نرمافزار سازمانی، به حدود دویست سازمان مشتریِ آن دسترسی پیدا کرد و دهها میلیون رکورد مسافر یک خط هوایی را نیز ربود.
در پروندهٔ دیگری با نام رمز GTG-50020، مجرمان روسیزبان محیطهای آزمایش ارزیابی هوش مصنوعی چند شرکت را هدف قرار دادند و کلیدهای API تولیدی چندین سرویسدهندهٔ هوش مصنوعی را سرقت کردند؛ آنها در عرض تنها چهار روز به نزدیک سی شرکت هوش مصنوعی مختلف حمله کردند. یک هکتیویست تنها با نام رمز GTG-50029 هم توانست بهتنهایی و صرفاً با کمک کلود، به دستکم چهارده سازمان از میان چهلودو هدف نفوذ کند و پلتفرمی برای افشای دادههای شخصی میلیونها نفر راهاندازی کند؛ کاری که پیشتر تصور میشد تنها از عهدهٔ تیمهای حرفهای برمیآید.
۶. عملیات نفوذ رسانهای؛ از آفریقای مرکزی تا مالزی
بخش دیگری از گزارش به نُه عملیات نفوذ رسانهای اختصاص دارد که منشأ آنها روسیه، ایران، ترکیه و چند منطقهٔ دیگر بوده و مخاطبانی در شش قارهٔ جهان را هدف گرفتهاند. برای نمونه، یک ایستگاه رادیویی در جمهوری آفریقای مرکزی که با رسانههای دولتی روسی مانند RT، اسپوتنیک و تاس هماهنگ بود و به گروه واگنر و سرویس اطلاعات خارجی روسیه مرتبط دانسته میشود، از کلود برای تولید قراردادهای استخدامی کارکنانش استفاده کرد؛ قراردادهایی که بهگفتهٔ آنتروپیک، بهشکلی طراحی شده بودند که «وفاداری تحریریه» را در کارکنان نهادینه کنند.
در پروندهٔ دیگری، یک آژانس تبلیغاتی فرانسوی نزدیک به هفتاد وبسایت خبری جعلی را در بیش از بیست زبان مختلف اداره میکرد که در مجموع بیش از هشتهزار و نهصد مقاله منتشر کرده بودند، همراه با هفتاد حساب توییتر/ایکس هماهنگ و دویستوپنجاه حساب جعلی برای کامنتگذاری. یک شرکت مستقر در استانبول هم نزدیک به هزار حساب جعلی ایکس ساخته بود تا نتایج انتخابات مالزی را دستکاری کند و خودش این ابزار را «اکوسیستم عملیات سیاسی نظامی-درجهٔ مبتنی بر هوش مصنوعی» معرفی میکرد.
۷. چرا هوش مصنوعی فاصلهٔ بین هکر حرفهای و آماتور را از بین میبرد؟
جمعبندی آنتروپیک از همهٔ این پروندهها یک جملهٔ کلیدی است: «حملات پیچیده دیگر نیازمند مهاجم پیچیده نیستند.» به بیان دیگر، هوش مصنوعی شکاف نیروی انسانی و ابزار را از بین برده است؛ عملیاتی که پیشتر به تیمی از متخصصان باتجربه نیاز داشت، امروز با یک اپراتور و چند دستور درست به مدلهایی مثل کلود قابل اجراست. چند عامل هوش مصنوعی بهصورت همزمان میتوانند شناسایی، نفوذ و استخراج داده را با حداقل دخالت انسانی انجام دهند. این موضوع نهتنها هزینهٔ حمله را کاهش میدهد، بلکه اهدافی را که پیشتر «کماهمیت» تلقی میشدند نیز اقتصادی و قابلحمله میکند؛ روندی که آنتروپیک از آن با عنوان «انتشار عملیات سایبری مبتنی بر هوش مصنوعی» یاد میکند. اگر میخواهید بدانید این نوع قابلیتهای نوظهور هوش مصنوعی در کنار مزایای بزرگش چه محدودیتها و خطرهایی هم دارد، مقالهٔ ما دربارهٔ پتانسیل و محدودیتهای واقعی هوش مصنوعی را از دست ندهید.
۸. واکنش آنتروپیک؛ مسدودسازی حسابها و تقویت ایمنی مدلها
آنتروپیک در گزارش خود تأکید میکند که در تمام پروندههای شناساییشده، حساب و سازمان پشت آن فعالیت را مسدود کرده، شواهد و اطلاعات فنی را با نهادهای امنیتی، قربانیان و شرکای صنعتی به اشتراک گذاشته و بر اساس الگوهای رفتاری کشفشده، سامانههای تشخیص خودکار تازهای ساخته است. بهگفتهٔ این شرکت، مدلهای نسل جدید کلود از جمله Fable و Mythos «مجموعهای از تدابیر ایمنی دارند که توانایی انجام وظایف سایبری خطرناک را بهشدت کاهش میدهد». با اینحال، خودِ انتشار این گزارش نشان میدهد که رقابت میان توسعهدهندگان هوش مصنوعی و سوءاستفادهگران، یک بازی همیشگی و بیپایان است؛ به همین دلیل چنین گزارشهایی معمولاً هر چند ماه یکبار با پروندههای تازه منتشر میشوند. اگر برای کسبوکارتان دنبال جمعبندی از اهمیت و کاربردهای مثبت همین فناوری هستید، مقالهٔ چرا هوش مصنوعی برای کسبوکار ۲۰۲۵ مهم است میتواند دیدی متعادلتر بدهد.
۹. این گزارش برای کاربران عادی هوش مصنوعی چه معنایی دارد؟
شاید فکر کنید این گزارش فقط به دولتها و شرکتهای بزرگ مربوط است، اما واقعیت اینطور نیست. اول اینکه، همان تکنیکهای خودکارسازی که هکرهای دولتی از آنها استفاده کردند، بهمرور در سطح پایینتر و در دسترس مجرمان معمولی هم قرار میگیرند؛ یعنی فیشینگ هوشمندتر، بدافزار سازگارشونده و کلاهبرداریهای مالی پیچیدهتر را باید بیشتر از قبل جدی بگیریم. دوم، این گزارش نشان میدهد چرا یادگیری اصولی نحوهٔ کار با هوش مصنوعی و درک محدودیتهای آن، امروز یک مهارت امنیتی هم محسوب میشود؛ اگر تازهکار هستید، آموزش نوشتن پرامپت برای مبتدیان نقطهٔ شروع خوبی است. سوم، مرز میان «توسعهدهندهٔ واقعی» و کسی که صرفاً از هوش مصنوعی برای کپیکاری استفاده میکند هم دارد کمرنگتر میشود؛ موضوعی که در مقالهٔ توهم توسعهدهندهٔ تنها در برابر مهندس واقعی به آن پرداختهایم.
۱۰. پرسشهای متداول
آیا استفادهٔ روزمرهٔ من از کلود یا چتجیپیتی خطرناک است؟
خیر. این گزارش دربارهٔ سوءاستفادهٔ هدفمند و سازمانیافتهٔ گروههای دولتی و مجرمانه از هوش مصنوعی است، نه استفادهٔ عادی کاربران برای کار، تحصیل یا کسبوکار.
آیا این مشکل فقط مخصوص کلود است؟
نه. آنتروپیک بهدلیل شفافیتش این گزارش را منتشر کرده، اما کارشناسان امنیت سایبری هشدار میدهند مدلهای رقیب مانند جمینای گوگل، چتجیپیتی و مدلهای چینی هم بهطور بالقوه در معرض همین نوع سوءاستفاده قرار دارند.
آنتروپیک چه اقدامی برای جلوگیری از تکرار این موارد انجام داده؟
مسدودسازی فوری حسابهای شناساییشده، همکاری با نهادهای امنیتی و توسعهٔ سامانههای تشخیص رفتاری تازه برای مدلهای جدید کلود از جمله راهکارهای اعلامشده در گزارش هستند.
برای دنبالکردن اخبار دقیقتر هوش مصنوعی چه کنم؟
میتوانید بخش اخبار هوش مصنوعی سایت Mr ChatGPT و آموزشهای عملی در بخش آموزش چتجیپیتی را دنبال کنید.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
