سرقت افکار ChatGPT؛ ماجرای حمله تقطیر مدل به OpenAI چه بود؟

چکیده. در گزارشی که روز سی‌ام سپتامبر منتشر شد، OpenAI اعلام کرد یک شبکه‌ی بیش از پانزده‌هزار حسابی را که در حال انجام نوعی حمله‌ی «تقطیر مدل» بودند شناسایی و متوقف کرده است. مهاجمان تلاش می‌کردند با ترفندهای فنی، زنجیره‌ی تفکر پنهان مدل‌های OpenAI را استخراج کنند تا از آن برای آموزش یک مدل رقیب استفاده شود. بخشی از این فعالیت به افرادی مرتبط با Moonshot AI، سازنده‌ی مدل Kimi، نسبت داده شده است. هیچ داده‌ی خصوصی کاربری در این حمله لو نرفته، اما این ماجرا بار دیگر نشان داد رقابت میان آزمایشگاه‌های هوش مصنوعی تا چه اندازه شدید شده است.

۱. چه اتفاقی برای ChatGPT افتاد؟

اواخر سپتامبر ۲۰۲۶، تیم امنیتی OpenAI گزارشی منتشر کرد که از کشف و متوقف‌کردن یک کمپین هماهنگ برای سرقت خروجی‌های پنهان مدل‌های این شرکت خبر می‌داد. طبق این گزارش، مهاجمان از طریق مهندسی دقیق گفتگوها، تلاش می‌کردند بخش‌هایی از «تفکر» داخلی مدل را که معمولاً برای کاربر نمایش داده نمی‌شود، بیرون بکشند. این داده‌ها می‌توانست مستقیماً برای آموزش یک مدل زبانی دیگر استفاده شود؛ کاری که OpenAI آن را نقض آشکار شرایط استفاده از خدماتش می‌داند.

نکته‌ی مهم این است که این حمله یک نفوذ کلاسیک هک نبود. به گفته‌ی OpenAI، مهاجمان «رمزنگاری را نشکستند، به پایگاه‌داده‌ای نفوذ نکردند و به گفتگوهای ذخیره‌شده‌ی کاربران دسترسی مستقیم پیدا نکردند». در عوض، آن‌ها از رابط عادی ChatGPT، اما به شیوه‌ای غیرمتعارف و تکرارشونده، برای استخراج تدریجی اطلاعات استفاده کردند. برای آشنایی بیشتر با این شرکت و فعالیت‌هایش، می‌توانید نگاهی به مقاله‌ی معرفی OpenAI در سایت ما بیندازید.

۲. تقطیر مدل یا Model Distillation دقیقاً چیست؟

برای درک اهمیت این خبر، باید ابتدا بدانیم «تقطیر مدل» چه معنایی دارد. در دنیای هوش مصنوعی، تقطیر به فرآیندی گفته می‌شود که در آن خروجی‌های یک مدل بزرگ و قدرتمند، برای آموزش مدلی کوچک‌تر یا جدیدتر استفاده می‌شود. این روش به‌خودی‌خود کاملاً قانونی است و بسیاری از شرکت‌ها از آن برای فشرده‌سازی مدل‌های خودشان بهره می‌برند.

اما مشکل از جایی شروع می‌شود که این فرآیند بدون اجازه و روی مدل شرکتی دیگر انجام شود. در چنین حالتی، عملاً یک رقیب بدون صرف هزینه‌های هنگفت تحقیق و توسعه، می‌تواند بخش بزرگی از توانایی‌های یک مدل پیشرفته را «کپی» کند. چنین کاری هم از نظر قانونی مسئله‌ساز است و هم از نظر امنیتی خطرناک، چون ممکن است سازوکارهای ایمنی مدل اصلی در نسخه‌ی کپی‌شده رعایت نشود.

۳. جدول زمانی حمله؛ از اول ژوئیه تا توقف کامل

بر اساس جزئیاتی که OpenAI منتشر کرده، این فعالیت مشکوک برای اولین بار در هفته‌ی اول ژوئیه و با حجمی پایین آغاز شد. اما به‌تدریج شدت گرفت تا جایی که در روزهای بیست‌وچهارم و بیست‌وپنجم همان ماه، یک جهش بزرگ در تعداد درخواست‌ها ثبت شد؛ در این دو روز به‌تنهایی، بیش از شانزده‌هزار درخواست استخراج از سوی بیش از چهار هزار حساب کاربری مجزا شناسایی شد.

تیم امنیتی OpenAI پس از شناسایی این الگو، وارد عمل شد و سرانجام در بیست‌وهشتم ژوئیه موفق شد فعالیت کل شبکه‌ی مرتبط را که دامنه‌ی آن به بیش از پانزده‌هزار حساب کاربری می‌رسید، به‌طور کامل متوقف کند. این یعنی از زمان شروع فعالیت تا توقف کامل آن، کمتر از یک ماه زمان صرف شده است؛ بازه‌ای که نشان می‌دهد سیستم‌های پایش OpenAI توانسته‌اند نسبتاً سریع این الگوی غیرعادی را تشخیص دهند.

۴. مهاجمان چگونه سعی کردند افکار پنهان مدل را بدزدند؟

یکی از جالب‌توجه‌ترین بخش‌های این گزارش، روش فنی مهاجمان برای دور زدن محافظت‌های OpenAI است. طبق توضیحات این شرکت، مهاجمان بخش رمزنگاری‌شده‌ی مربوط به زنجیره‌ی تفکر مدل را از یک گفتگو کپی می‌کردند و سپس در یک گفتگوی کاملاً جداگانه، از مدل می‌خواستند آن بخش را رمزگشایی و بازنویسی کند. به بیان ساده، آن‌ها سعی می‌کردند مدل را فریب دهند تا خودش محتوای پنهان‌شده را برایشان آشکار کند.

این یک روش نسبتاً خلاقانه و پیچیده بود که نشان می‌دهد مهاجمان شناخت فنی قابل‌توجهی از نحوه‌ی عملکرد مدل‌های استدلالی داشته‌اند. OpenAI اعلام کرده پس از شناسایی این ترفند، مسیری را که امکان «بازپخش» زنجیره‌ی تفکر رمزنگاری‌شده را فراهم می‌کرد، به‌طور کامل مسدود کرده است. اگر می‌خواهید بیشتر درباره‌ی تفاوت نحوه‌ی استدلال مدل‌های مختلف بدانید، مقاله‌ی مقایسه‌ی ChatGPT و DeepSeek در نبرد هوش مصنوعی می‌تواند دیدگاه خوبی به شما بدهد.

۵. ردپای Moonshot AI و مدل Kimi در این ماجرا

بخشی که این خبر را به یکی از داغ‌ترین اخبار هفته تبدیل کرد، اتهامی است که OpenAI درباره‌ی منشأ این حمله مطرح کرده. به گفته‌ی این شرکت، بخش قابل‌توجهی از فعالیت مشکوک، به افرادی مرتبط با شرکت چینی Moonshot AI نسبت داده شده است؛ همان شرکتی که مدل زبانی نسبتاً شناخته‌شده‌ی Kimi را توسعه داده و در ماه‌های اخیر توانسته توجه زیادی را در صنعت هوش مصنوعی به خود جلب کند.

با این حال، OpenAI محتاطانه تأکید کرده که هنوز قطعیت کاملی درباره‌ی یکپارچه‌بودن منبع این حمله وجود ندارد و ممکن است چند عامل مختلف، به‌صورت مستقل یا هماهنگ، در این فعالیت دخیل بوده باشند. تحقیقات در این زمینه همچنان ادامه دارد و احتمال دارد در هفته‌ها و ماه‌های آینده، جزئیات بیشتری از سوی OpenAI یا نهادهای ناظر منتشر شود.

چرا این اتهام اهمیت دارد؟

رقابت میان شرکت‌های آمریکایی و چینی در حوزه‌ی هوش مصنوعی، در سال‌های اخیر به یکی از محورهای اصلی گفت‌وگوهای فناوری و حتی سیاسی تبدیل شده است. اگر این اتهام نهایی و اثبات شود، می‌تواند به یکی از واضح‌ترین نمونه‌های تلاش سازمان‌یافته برای کپی‌برداری فنی از یک مدل پیشرفته‌ی غربی تبدیل شود؛ موضوعی که احتمالاً در ماه‌های آینده بازتاب سیاسی و رسانه‌ای زیادی خواهد داشت.

۶. چرا OpenAI این حمله را یک تهدید امنیت ملی می‌داند؟

شاید در نگاه اول، سرقت خروجی یک مدل هوش مصنوعی صرفاً یک اختلاف تجاری بین دو شرکت به نظر برسد؛ اما OpenAI در گزارش خود تأکید کرده که ماجرا فراتر از این است. به گفته‌ی این شرکت، «تقطیر خصمانه» می‌تواند توانایی‌های پیشرفته‌ی یک مدل را بدون انتقال سازوکارهای ایمنی طراحی‌شده برای آن توانایی‌ها، به مدلی دیگر منتقل کند.

به بیان دیگر، اگر یک مدل رقیب بتواند قدرت استدلال یک مدل پیشرفته را کپی کند اما فیلترها، محدودیت‌های اخلاقی و لایه‌های ایمنی آن را نداشته باشد، نتیجه می‌تواند مدلی قدرتمند اما بدون کنترل کافی باشد. دقیقاً به همین دلیل است که OpenAI از عباراتی مانند «ریسک امنیت ملی» برای توصیف این نوع حملات استفاده می‌کند، نه صرفاً «رقابت ناعادلانه». برای درک بهتر پیامدهای گسترده‌تر چنین فناوری‌هایی در زندگی روزمره، مطالعه‌ی مقاله‌ی پتانسیل‌ها و محدودیت‌های واقعی هوش مصنوعی خالی از لطف نیست.

۷. واکنش OpenAI؛ چه اقداماتی برای مقابله انجام شد؟

OpenAI در گزارش خود فهرستی از اقدامات فنی و سازمانی را که برای مقابله با این حمله انجام داده، منتشر کرده است. از جمله‌ی این اقدامات می‌توان به مسدودکردن یا محدودکردن حساب‌های متخلف، تقویت کنترل‌های مربوط به ثبت‌نام کاربران جدید، و گسترش سامانه‌های پایش برای شناسایی شبکه‌های مشابه اشاره کرد.

در کنار این موارد، این شرکت مسیر فنی‌ای را که امکان بازپخش زنجیره‌ی تفکر رمزنگاری‌شده را فراهم می‌کرد به‌طور کامل مسدود کرده و بررسی‌های جدیدی برای شناسایی و توقف پاسخ‌های جریانی که ممکن است به‌طور ناخواسته محتوای پنهان را افشا کنند، اضافه کرده است. همچنین OpenAI با چند سرویس شخص‌ثالث همکاری کرده تا حساب‌های مرتبط با این فعالیت در پلتفرم‌های دیگر نیز شناسایی و مسدود شوند.

از نظر همکاری صنعتی، OpenAI یافته‌های خود را با نهادهایی مانند Frontier Model Forum به اشتراک گذاشته و کانال‌های اطلاع‌رسانی دولتی مرتبط را نیز در جریان این ماجرا قرار داده است. این شرکت همچنین از همکاری پژوهشگران امنیتی مستقلی که برخی از این آسیب‌پذیری‌ها را شناسایی کرده بودند، قدردانی کرده است. اگر برای کسب‌وکار خود به دنبال استفاده‌ی ایمن و اصولی از ابزارهای هوش مصنوعی هستید، پیشنهاد می‌کنیم نگاهی به مقاله‌ی اهمیت هوش مصنوعی برای کسب‌وکارها در سال ۲۰۲۵ بیندازید.

۸. تأثیر این رویداد بر آینده‌ی رقابت جهانی هوش مصنوعی

این اتفاق را می‌توان نشانه‌ای از ورود رقابت هوش مصنوعی به مرحله‌ای جدید و جدی‌تر دانست. تا چند سال پیش، رقابت اصلی میان شرکت‌های بزرگ بیشتر حول محور سرعت توسعه و کیفیت مدل‌ها بود؛ اما حالا به‌وضوح بُعد امنیتی و حفاظت از دارایی‌های فکری نیز به یک جبهه‌ی جدی تبدیل شده است. شرکت‌هایی که میلیاردها دلار برای آموزش مدل‌های خود هزینه می‌کنند، طبیعتاً نمی‌خواهند ثمره‌ی این سرمایه‌گذاری با چند ترفند فنی توسط رقبا کپی‌برداری شود.

از سوی دیگر، این خبر می‌تواند زنگ خطری برای کاربران و توسعه‌دهندگانی باشد که به مدل‌های زبانی وابسته‌اند؛ چرا که نشان می‌دهد حتی زیرساخت‌های امنیتی شرکت‌های بزرگ هم همیشه در برابر روش‌های خلاقانه‌ی سوءاستفاده مصون نیستند. به همین دلیل، آشنایی با نحوه‌ی درست تعامل با این مدل‌ها و نوشتن درخواست‌های امن و مؤثر، اهمیت بیشتری پیدا می‌کند. برای شروع این مسیر، مقاله‌ی آموزش نوشتن پرامپت برای مبتدیان منبع خوبی است. همچنین اگر به تفاوت میان توسعه‌دهندگان واقعی و استفاده‌ی سطحی از هوش مصنوعی علاقه دارید، مقاله‌ی توهم هوش مصنوعی؛ توسعه‌دهنده‌ی تنها در برابر مهندس واقعی را از دست ندهید.

در نهایت، باید منتظر ماند و دید آیا OpenAI جزئیات بیشتری درباره‌ی هویت دقیق مهاجمان منتشر خواهد کرد یا خیر، و آیا این ماجرا تبعات حقوقی یا سیاسی گسترده‌تری نیز به‌دنبال خواهد داشت. برای دنبال‌کردن آخرین تحولات این پرونده و سایر اخبار داغ هوش مصنوعی، سری به بخش اخبار سایت بزنید.

۹. سوالات متداول درباره‌ی حمله‌ی تقطیر مدل به OpenAI

آیا اطلاعات کاربران ChatGPT در این حمله لو رفته است؟
خیر. طبق اعلام رسمی OpenAI، این حمله به رمزنگاری سیستم آسیبی نرسانده و به پایگاه‌داده یا گفتگوهای خصوصی کاربران دسترسی مستقیمی پیدا نکرده است. تمرکز مهاجمان صرفاً روی استخراج زنجیره‌ی تفکر مدل بوده، نه داده‌های شخصی کاربران.

تقطیر مدل همیشه کار غیرقانونی است؟
خیر، تقطیر مدل به‌خودی‌خود یک روش رایج و قانونی در آموزش هوش مصنوعی است. مشکل زمانی پیش می‌آید که این کار بدون اجازه و با نقض شرایط استفاده، روی مدل شرکتی دیگر انجام شود.

آیا ارتباط Moonshot AI با این حمله قطعی اعلام شده است؟
نه به‌طور کامل. OpenAI گفته بخشی از فعالیت‌ها به افراد مرتبط با این شرکت نسبت داده شده، اما تأکید کرده که هنوز مشخص نیست همه‌ی مهاجمان از یک منبع واحد بوده‌اند یا خیر و تحقیقات ادامه دارد.

OpenAI برای جلوگیری از تکرار چنین حملاتی چه کرده است؟
این شرکت کنترل‌های ثبت‌نام را تقویت کرده، مسیر بازپخش زنجیره‌ی تفکر رمزنگاری‌شده را مسدود کرده، نظارت بر شبکه‌های مشابه را گسترش داده و یافته‌های خود را با نهادهای صنعتی و دولتی به اشتراک گذاشته است.