مرداد
اخبار
آپلود مخفیانه کد کاربران توسط گراک بیلد؛ ۵.۱ گیگابایت نشت
تصور کنید یک ابزار هوش مصنوعی بیسروصدا کل مخزن کد شما را بردارد و روی فضای ابری شرکت سازنده بارگذاری کند؛ همراه با تاریخچهی کامل و کلیدهای مخفی که ماهها پیش حذفشان کرده بودید. این دقیقاً همان چیزی است که یک پژوهشگر امنیتی دربارهی ابزار کدنویسی گراک بیلد، ساختهی شرکت ایکسایآی، مستند کرد. عددها تکاندهندهاند: مدل به حدود ۱۹۲ کیلوبایت داده نیاز داشت، اما ۵.۱ گیگابایت از دستگاه کاربر خارج شد.
لیست مطالب
۱) چه چیزی کشف شد
پژوهشگری که با نام سربلب (cereblab) منتشر میکند، هنگام آزمایش نسخهی ۰.۲.۹۳ ابزار خط فرمان گراک بیلد متوجه یک ناهماهنگی عجیب در ترافیک شبکه شد. حجم دادهای که برای گفتوگو با مدل رد و بدل میشد حدود ۱۹۲ کیلوبایت بود، اما همزمان ۵.۱ گیگابایت داده به سمت یک سرویس ذخیرهسازی ابری میرفت.
این اختلاف چیزی نزدیک به بیستوهفت هزار برابر است. به بیان ساده، ابزار بهازای هر کیلوبایتی که واقعاً لازم داشت، دهها مگابایت داده از دستگاه کاربر بیرون میفرستاد. انتقال در قالب ۷۳ تکهی حدوداً ۷۵ مگابایتی انجام میشد.
۲) چه چیزی بارگذاری میشد
آنچه ارسال میشد فقط چند فایل مرتبط نبود. ابزار کل مخزن گیت را بهصورت یک بستهی کامل، همراه با تمام تاریخچهی کامیتها، به سطلی روی فضای ذخیرهسازی ابری گوگل میفرستاد.
پژوهشگر برای اثبات این ادعا یک آزمایش هوشمندانه طراحی کرد: فایلی کاشت که مطمئن بود مدل هرگز آن را نمیخواند. آن فایل هم در بستهی ارسالی پیدا شد. یعنی معیار ارسال، «آنچه مدل خوانده» نبود؛ همهچیز میرفت.
بدتر از آن، فایلهای حاوی اعتبارنامه بدون هیچ پاکسازیای منتقل میشدند. در آزمونها، فایلهای پیکربندی محیطی با مقادیر نشانهگذاریشده مانند کلید رابط برنامهنویسی و رمز پایگاه داده در بستههای ارسالی پیدا شدند. طبق گزارشها، در دستکم یک مورد کل پوشهی کاربر شامل کلیدهای اساساچ و پایگاه دادهی مدیر رمز عبور هم منتقل شده بود.
۳) مسئلهی تاریخچهی گیت؛ رازهایی که فکر میکردید حذف شدهاند
نکتهای که بسیاری از برنامهنویسان نادیده میگیرند این است که حذف یک کلید مخفی از فایل، آن را از تاریخچهی گیت پاک نمیکند. اگر شش ماه پیش یک توکن را اشتباهاً کامیت کرده و بعد حذفش کرده باشید، آن توکن هنوز داخل تاریخچهی مخزن زنده است.
چون گراک بیلد بستهی کامل با تاریخچه میفرستاد، دقیقاً همین اسرارِ ظاهراً حذفشده هم منتقل میشدند. برای یک تیم توسعه، این یعنی نشت اطلاعاتی که سالها گمان میکردند بیخطر شده است.
۴) گزینهی حریم خصوصی که کار نمیکرد
مهمترین بخش این پرونده از منظر اعتماد کاربر، همینجاست. ابزار یک گزینهی «کمک به بهبود مدل» داشت که کاربران تصور میکردند با خاموش کردنش، دادههایشان جایی نمیرود.
طبق گزارش پژوهشگر، این تصور اشتباه بود. مخزنها بدون توجه به وضعیت آن گزینه بارگذاری میشدند و سرور حتی وقتی کاربر گزینه را خاموش کرده بود، همچنان وضعیت فعال بودن بارگذاری ردّ دادهها را برمیگرداند. آن کلید در واقع فقط استفادهی داده برای آموزش مدل را کنترل میکرد، نه خودِ انتقال داده را.
این تمایز ظریف اما حیاتی است: «دادهی شما برای آموزش استفاده نمیشود» با «دادهی شما ارسال نمیشود» دو جملهی کاملاً متفاوتاند. بسیاری از سیاستهای حریم خصوصی در ابزارهای هوش مصنوعی امروز، عمداً یا سهواً، این دو را در هم میآمیزند.
۵) مقایسه با رقبا
پژوهشگر همین آزمون را روی ابزارهای رقیب هم اجرا کرد. طبق تحلیل او، کلود کد و کدکس هیچ بستهی مخزنی ارسال نکردند و جمینای هم در آزمون بیکار چیزی نفرستاد.
این مقایسه نشان میدهد مسئله یک ضرورت فنی نبوده است. ابزارهای همرده میتوانند بدون بلعیدن کل مخزن هم کارشان را انجام دهند. تصمیم به ارسال انبوه، یک انتخاب طراحی بوده، نه یک اجبار معماری. اگر به تفاوتهای رفتاری ابزارهای هوش مصنوعی علاقه دارید، نبرد چتجیپیتی و دیپسیک نمونهی دیگری از همین مقایسههاست.
۶) واکنش ایکسایآی و وعدهی ماسک
پس از افشای موضوع، ایکسایآی در ۱۳ ژوئیه ۲۰۲۶ بارگذاری را متوقف کرد. اما روش توقف قابل توجه است: نه با انتشار نسخهی جدید، بلکه با تغییر یک پرچم سمت سرور که بارگذاری مخزن را غیرفعال میکرد.
ایلان ماسک اعلام کرد: «بهعنوان یک اقدام احتیاطی، تمام دادههای کاربران که پیش از این بارگذاری شده بودند کاملاً و بهطور قطعی حذف خواهند شد.» شرکت همچنین به فرمان حریم خصوصی در خط فرمان اشاره کرد که به مشترکان اجازه میدهد نگهداری داده را غیرفعال و دادههای همگامشده را پاک کنند.
پژوهشگر اما به این پاسخ نقد داشت: فرمانی که شرکت تبلیغش را میکرد، فقط نگهداری داده در هر نشست را کنترل میکند و مشکل اصلی — یعنی خودِ انتقال — را حل نمیکرد. آنچه واقعاً مشکل را متوقف کرد، همان پرچم سراسری سمت سرور بود.
۷) کدی که هنوز آنجاست
نگرانکنندهترین جزئیات فنی این است که کد بارگذاری از خود برنامه حذف نشد. طبق گزارشها، در نسخهی ۰.۲.۹۹ این کد همچنان حضور داشت و فقط از سمت سرور خاموش شده بود.
معنای عملیاش روشن است: بازگرداندن این قابلیت نیازی به بهروزرسانی برنامه یا رضایت کاربر ندارد؛ یک تغییر پیکربندی در سمت شرکت کافی است. برای تیمهایی که با کد حساس کار میکنند، این وضعیت با «مشکل حل شد» فاصله دارد.
همچنین ایکسایآی توضیح نداده که چرا اصولاً بارگذاری انبوه انجام میشده، دادهها چه مدت نگهداری شدهاند و چند کاربر تحت تأثیر قرار گرفتهاند. سایر رویدادهای امنیتی مشابه را میتوانید در بخش اخبار هوش مصنوعی دنبال کنید.
۸) درسهای عملی برای هر کاربر ابزارهای کدنویسی هوشمند
این ماجرا فراتر از یک شرکت است و به الگوی رایج ابزارهای عاملمحور برمیگردد. چند قاعدهی ساده میتواند ریسک را بهشدت کم کند.
جداسازی محیط کاری
ابزار هوش مصنوعی را در پوشهای اجرا کنید که فقط شامل پروژهی جاری است، نه در ریشهی پوشهی خانگی. بسیاری از نشتهای بزرگ به این دلیل رخ میدهند که ابزار دسترسی بیش از نیاز داشته است.
هرگز اعتبارنامهی واقعی در مخزن
کلیدها را در متغیرهای محیطی خارج از مخزن یا در مدیر اسرار نگه دارید. اگر کلیدی هرگز داخل مخزن نرود، بارگذاری مخزن هم آن را لو نمیدهد.
پایش ترافیک خروجی
در پروژههای حساس، ترافیک خروجی ابزارها را رصد کنید. همین کار بود که این پرونده را افشا کرد؛ اختلاف بین حجم لازم و حجم ارسالی.
باور نکردن کلیدهای حریم خصوصی
سوئیچهای حریم خصوصی را تا وقتی مستقل تأیید نشدهاند، تضمین ندانید. متن سیاست را بخوانید و ببینید دقیقاً چه چیزی را وعده میدهد. مرور توهم هوش مصنوعی؛ توسعهدهندهی تنها در برابر مهندس واقعی نشان میدهد چرا نظارت انسانی هنوز جایگزینناپذیر است.
۹) تصویر بزرگتر؛ اعتماد بهعنوان زیرساخت
ابزارهای کدنویسی هوشمند در دو سال گذشته از یک سرگرمی به بخشی از خط تولید نرمافزار تبدیل شدهاند. این یعنی سطح دسترسی آنها به داراییهای حیاتی شرکتها بیسابقه است.
در چنین وضعیتی، امنیت پیشفرض دیگر یک ویژگی رقابتی نیست؛ یک شرط ورود است. طراحیای که کاربر باید فعالانه از آن انصراف بدهد تا دادهاش محافظت شود، در عمل یعنی اکثریت کاربران محافظت نمیشوند. برای فهم بهتر اینکه چرا این موضوع بهسرعت به یک مسئلهی تجاری تبدیل میشود، اهمیت هوش مصنوعی در کسبوکار را ببینید و اگر میخواهید کار با این دستیارها را اصولی یاد بگیرید، آموزشهای چتجیپیتی شروع خوبی است.
۱۰) چرا این الگو تکرار میشود
پروندهی گراک بیلد یک استثنا نیست؛ نمونهای از یک الگوی تکرارشونده در ابزارهای عاملمحور است. ریشهی ماجرا به یک انگیزهی مهندسی برمیگردد: هرچه دادهی بیشتری از محیط کاربر جمع شود، اشکالزدایی رفتار عامل آسانتر است و کیفیت نسخههای بعدی بالاتر میرود.
مشکل آنجاست که این انگیزه در برابر منافع کاربر قرار میگیرد و معمولاً هیچ ترمز سازمانی جدی جلویش نیست. تیم محصول میخواهد ردّ کامل نشست را داشته باشد، تیم امنیت دیرتر وارد ماجرا میشود و کاربر هم چیزی نمیبیند، چون همهچیز در پسزمینه اتفاق میافتد.
نشانههایی که باید جدی گرفت
چند نشانهی ساده وجود دارد که کاربر میتواند بدون دانش عمیق امنیتی هم متوجهشان شود. اگر ابزاری هنگام باز کردن یک پروژهی بزرگ زمان زیادی صرف «آمادهسازی» میکند، اگر مصرف پهنای باند آن بسیار بیشتر از حجم گفتوگوست، یا اگر در مستنداتش هیچ توضیح روشنی دربارهی دادهی ارسالی نداده، جای احتیاط دارد.
در سطح سازمانی، راهکار مؤثرتر قراردادن این ابزارها پشت یک پروکسی سازمانی و ثبت ترافیک خروجی است. بسیاری از شرکتها همین امروز هم برای ابزارهای ابری چنین کاری میکنند؛ منطقی نیست که دستیارهای کدنویسی از این قاعده مستثنا باشند.
در نهایت، آنچه این پرونده به صنعت یادآوری کرد این است که شفافیت باید قابلراستیآزمایی باشد. ادعای حریم خصوصی وقتی ارزش دارد که یک پژوهشگر مستقل بتواند آن را با ابزارهای معمولی بسنجد و نتیجه با ادعا بخواند.
پرسشهای پرتکرار دربارهی بارگذاری کد کاربران توسط گراک بیلد
چه حجمی از داده منتقل میشد؟
در آزمون منتشرشده، در حالی که گفتوگو با مدل حدود ۱۹۲ کیلوبایت داده لازم داشت، حدود ۵.۱ گیگابایت داده به فضای ابری منتقل شد؛ اختلافی نزدیک به بیستوهفت هزار برابر.
آیا خاموش کردن گزینهی حریم خصوصی جلوی این کار را میگرفت؟
خیر. طبق گزارش پژوهشگر، بارگذاری بدون توجه به آن گزینه انجام میشد. آن کلید فقط استفادهی داده برای آموزش مدل را کنترل میکرد.
آیا مشکل الان برطرف شده است؟
بارگذاری از ۱۳ ژوئیه ۲۰۲۶ با یک پرچم سمت سرور خاموش شد، اما کد مربوطه در نسخههای بعدی برنامه باقی ماند؛ یعنی از نظر فنی میتواند دوباره فعال شود.
ابزارهای رقیب هم همین کار را میکنند؟
طبق آزمون همان پژوهشگر، کلود کد و کدکس بستهی مخزنی ارسال نکردند و جمینای هم در آزمون بیکار چیزی نفرستاد.
اگر از این ابزار استفاده کردهام چه کنم؟
کلیدها و توکنهایی را که در دورهی استفاده در مخزن یا محیط شما بودهاند باطل و بازتولید کنید، تاریخچهی گیت را از اسرار پاک کنید و در آینده ابزارها را در محیط ایزوله اجرا کنید. برای شناخت بازیگران این حوزه اوپنایآی چیست و محدودیتهای واقعی هوش مصنوعی را هم بخوانید.
