مهر
اخبار
تکثیر خودکار هوش مصنوعی روی تلویزیون و دستگاه‌های خانگی؛ هشدار تازه‌ی Anthropic
تیم قرمز Anthropic هشدار داده مدل‌های کوچک هوش مصنوعی ممکن است «چند ماه» تا توانایی تکثیر خودکار روی تلویزیون هوشمند، اندروید باکس و دیگر دستگاه‌های اینترنت اشیا فاصله داشته باشند؛ بدون نیاز به هیچ مرکز دادهای.
لیست مطالب
۱. ماجرا چیست؟ گزارش تازه‌ی تیم قرمز Anthropic
شرکت Anthropic، سازنده‌ی مدل‌های Claude، روز دوشنبه ۱۲ اکتبر ۲۰۲۶ گزارشی از «تیم قرمز مرزی» خود منتشر کرد که نویسندگانش ویلیام ژو و دنیل فریمن هستند. نتیجه‌ی اصلی در یک جمله خلاصه می‌شود: مدل‌های کوچک ممکن است «چند ماه» تا توانایی تکثیر خودکار روی دستگاه‌های تجاری اینترنت اشیا فاصله داشته باشند. منظور از این دستگاه‌ها تلویزیون‌های هوشمند، جعبه‌های اندرویدی ارزان، فر و یخچال متصل به اینترنت و حتی چمن‌زن‌های هوشمند است.
مهم است که لحن گزارش را درست بخوانیم. پژوهشگران می‌گویند «نشانه‌های حیات» دیده‌اند، اما هنوز یک تکثیرگر سرکش واقعی وجود ندارد. در آزمایش‌های فعلی هیچ مدلی هم کوچک‌تر از حافظه‌ی یک تلویزیون ارزان بوده و هم آن‌قدر توانمند که کار را از ابتدا تا انتها بدون خطا تمام کند. اما آن‌ها انتظار دارند چنین مدلی تا پایان ۲۰۲۶ ظاهر شود. اگر دنبال پیشینه‌ی این بحث‌ها هستید، بخش اخبار هوش مصنوعی مرجع خوبی است.
۲. تکثیر خودکار یعنی چه و چرا بدون مرکز داده ترسناک‌تر است؟
تکثیر خودکار یعنی یک عامل هوش مصنوعی بتواند فایل‌های خودش، یعنی وزن‌های مدل و ابزارهای اجرایی، را روی دستگاه دیگری منتقل کند، آن‌جا نرم‌افزار لازم را نصب کند و نسخه‌ی تازه را راه بیندازد تا کار را ادامه دهد. تا امروز بیشتر بحث‌ها درباره‌ی مدل‌های بزرگی بود که برای اجرا به مرکز داده و کارت‌های گرافیک گران نیاز دارند. مرکز داده هدفی آشکار و متمرکز است و می‌شود آن را قطع کرد.
اما اگر یک مدل کوچک روی هزاران دستگاه خانگی پخش شود، دیگر نقطه‌ی مرکزی برای خاموش‌کردن وجود ندارد. گزارش همین را می‌گوید: چنین تکثیرگری «سخت خاموش می‌شود» چون میزبان متمرکز ندارد. نکته‌ی دیگر این است که اجرای استنتاج مدل به دسترسی ریشه نیاز ندارد و می‌تواند کاملاً در سطح کاربر انجام شود؛ همان الگویی که ماینرهای رمزارز و بات‌نت‌هایی مثل P2Pinfect و Fritzfrog سال‌ها استفاده کرده‌اند.
۳. آزمایش اول: راه‌اندازی مدل روی سخت‌افزارهای گوناگون
پژوهشگران از ابزاری به نام Memento استفاده کردند که روی یک عامل کدنویسی متن‌باز ساخته شده است. این ابزار هر چند وقت یک نمونه‌ی تازه از عامل را با همان فضای کاری و یادداشت‌های قبلی راه می‌اندازد تا عامل در یک حلقه‌ی بی‌نتیجه گیر نکند. کار مدل این بود که مدل Llama3.1-8B را روی سخت‌افزارهایی از Jetson Nano تا رایانه‌های مک و کارت RTX 4090 راه‌اندازی کند.
مدل Qwen3.5-9B روی ۸ نوع از ۹ نوع سخت‌افزار موفق شد و مدل GLM-5.2 هم قابل‌اعتمادتر بود و هم سریع‌تر. در یک نمایش جالب، تیم ۱۵ جعبه‌ی اندروید تلویزیونی بدنام و ارزان، هر کدام حدود ۵۵ دلار و با ۴ گیگابایت رم، را به هم وصل کرد و مدل Gemma4-26B-A4B را به‌صورت تقسیم‌شده روی آن‌ها اجرا کرد. سرعت خروجی فقط ۰٫۳۹ توکن در ثانیه بود؛ بسیار کند، ولی نشان داد اجرا ممکن است.
۴. آزمایش دوم: یک کرم هوش مصنوعی روی ۸ گره
در آزمایش اصلی، ۸ گره در ابر گوگل داخل یک شبکه‌ی ایزوله ساخته شد که شبیه‌ساز اندروید ۱۵ را اجرا می‌کردند. «بیمار صفر» از طریق یک درگاه ADB بدون احراز هویت وارد گره بعدی می‌شد، سرور استنتاج Llama3.1-8B را آن‌جا می‌ساخت و هر نسخه باید از بررسی‌های درستی و ضدتقلب عبور می‌کرد.
تنها مدل متن‌باز موفق GLM-5.2 بود. این مدل در ۴ از ۵ تکرار به هر ۸ گره رسید و در تکرار پنجم به ۷ گره. بقیه‌ی مدل‌های متن‌باز به‌طور پایدار شکست خوردند. پژوهشگران تأکید می‌کنند این نتیجه یک «سقف بالا» است، چون مرحله‌ی نفوذ عمداً ساده طراحی شد. با این حال همین سادگی هم غیرواقعی نیست: بات‌نت‌های سبک Mirai سال‌ها با رمزهای پیش‌فرض دستگاه‌ها را گرفتند.
۵. چرا هنوز خطر کامل نیست؟ دو خطی که هنوز نمی‌رسند به هم
مشکل فعلی در دو محدودیت هم‌زمان است. مدل‌هایی مثل Qwen3.5-9B و Gemma4-26B-A4B در حافظه‌ی تلویزیون‌های ۴ گیگابایتی جا می‌شوند، اما به آستانه‌ی توانایی لازم نمی‌رسند. مدلی هم که توانایی کافی دارد، یعنی GLM-5.2، برای دستگاه‌های ضعیف زیادی بزرگ است. ریاضی حافظه این را روشن می‌کند: با کوانتیزه‌سازی چهار بیتی، مدل ۹ میلیارد پارامتری به چهار دستگاه یا بیشتر و مدل ۲۶ میلیارد پارامتری به ده دستگاه یا بیشتر نیاز دارد.
سرعت هم مانع بزرگی است. راه‌اندازی استنتاج روی تلویزیون‌ها برای Gemma4-26B بین ۷۱ تا ۱۵۰ ساعت و برای Qwen3.5-9B بین ۲۸ تا ۵۱ ساعت طول کشید. یعنی هر «جهش» به دستگاه تازه روزها زمان می‌برد و زمان دو برابر شدن جمعیت تکثیرگر بر حسب روز است، نه ثانیه. در آزمایش‌های مهندسی اجتماعی هم مدل‌های کوچک ضعیف بودند و فریب دادن انسان برایشان دشوار است. اگر می‌خواهید تفاوت مدل‌ها را بهتر بشناسید، مقاله‌ی OpenAI چیست؟ نقطه‌ی شروع خوبی است.
۶. روند رشد مدل‌های کوچک و پیش‌بینی پایان ۲۰۲۶
پژوهشگران برای تخمین زمان از «شاخص توانایی Epoch» استفاده کردند. بهترین مدل‌های متن‌باز زیر ۳۰ میلیارد پارامتر در هر سال حدود ۱۳٫۷ امتیاز در این شاخص بهتر می‌شوند و برازش خطی با ضریب R² برابر ۰٫۹۵ روی داده‌ها نشسته است. اگر این روند ادامه پیدا کند، مدلی هم‌سطح GLM-5.2 اما در اندازه‌ی کوچک تا پایان ۲۰۲۶ ظاهر می‌شود. خود نویسندگان هشدار می‌دهند این شاخص فقط یک نماینده است و زمان‌بندی تقریبی است.
جالب این‌که چند چیز کمک نکرد. وقتی مدل Opus 4.8 در نقش مشاور در اختیار Qwen3.5-9B قرار گرفت، بهبود قابل‌سنجشی دیده نشد. در مقابل، «یادگیری نسلی» اثر داشت: وقتی نمونه‌های Qwen3.5-9B یادداشت‌هایشان را به نسل بعد می‌دادند، موفقیت راه‌اندازی از ۴۵ درصد در نسل اول به ۶۱ تا ۸۴ درصد در نسل‌های بعدی رسید.
۷. اندازه‌ی خطر: یک بات‌نت به بزرگی Kimwolf چه می‌کند؟
برای درک مقیاس، گزارش به بات‌نت Kimwolf اشاره می‌کند که بنا بر گزارش‌ها بیش از ۲ میلیون دستگاه را آلوده کرد؛ بیشترشان جعبه‌های اندرویدی ارزان با ۱ تا ۴ گیگابایت رم بودند. اگر ناوگانی هم‌اندازه با آن میزبان مدل‌های هوش مصنوعی شود، حدود ۱۳۳ هزار نسخه می‌توان داشت که روی هم حدود ۸۰ هزار توکن در ثانیه تولید می‌کنند؛ معادل بیشینه‌ی حدود ۴۰ کارت H100.
این عدد در برابر مراکز داده کوچک است، اما نباید فقط به آن نگاه کرد. تیم تخمین می‌زند حدود ۹۰ خط محصول IoT از انویدیا و حدود ۹٫۵ میلیون دستگاه، معادل ۹ تا ۳۵ هزار H100 توان لبه دارند، هرچند سهم قابل‌دسترس احتمالاً یک مرتبه‌ی بزرگی کمتر است. نکته‌ی مهم‌تر این است که رایانش لبه هر سال بیشتر می‌شود و حداقل اندازه‌ی مدلِ کارآمد کمتر. برای دید کلی‌تر درباره‌ی فرصت و محدودیت AI، پتانسیل و محدودیت‌های واقعی هوش مصنوعی را بخوانید.
۸. دفاع چگونه ممکن است؟ از R۰ تا قرنطینه‌ی هوشمند
گزارش فقط زنگ خطر نیست و چند راه دفاعی عملی ارائه می‌دهد. نخست باید ضریب تکثیر (R۰) را زیر یک نگه داشت، یعنی هر دستگاه آلوده کمتر از یک دستگاه دیگر را آلوده کند. دوم، پایش جریان شبکه در سطح اپراتورها: دستگاه تازه‌آلوده باید چند گیگابایت وزن مدل دانلود کند و استنتاج توزیع‌شده ترافیک پایدار بین دستگاه‌ها می‌سازد. هرچه تکثیر سریع‌تر باشد، ترافیک بیشتر و پنهان‌ماندن سخت‌تر است.
سوم، هانی‌پات‌ها که می‌توانند ابزار و بار مخرب تکثیرگر را به دام بیندازند. چهارم، قرنطینه همراه با اطلاع‌رسانی به مشتری: در پاسخ به Mirai، قرنطینه‌ی اپراتور با اطلاع‌رسانی در ۱۴ روز ۹۲ درصد آلودگی‌ها را پاک کرد، در حالی که بدون اطلاع‌رسانی این عدد ۷۴ درصد بود. پنجم، پیش‌فرض‌های امن؛ ممنوع‌شدن رمزهای پیش‌فرض دستگاه‌های IoT در بازار بریتانیا نمونه‌ای از این سیاست است.
۹. خبر هم‌زمان: حملات «تقطیر» و اتهام علیه سه شرکت چینی
Anthropic در همان روز اعلام کرد در مقابله با «حملات تقطیر» پیشرفت چشمگیری داشته است. این حمله‌ها یعنی استفاده‌ی بدون اجازه از یک مدل پیشرفته برای آموزش مدل‌های ارزان‌تر و ضعیف‌تر. این شرکت شرکت‌های چینی DeepSeek و Moonshot و MiniMax را به تلاش «در مقیاس صنعتی» برای کپی‌کردن Claude متهم کرد و گفت اقدامات تازه استخراج غیرمجاز داده را بین ۹۰ تا ۹۹ درصد کاهش داده است. مقایسه‌ی رقابت DeepSeek با ChatGPT را در نبرد هوش‌های مصنوعی شطرنج ببینید.
این دو خبر کنار هم تصویری از فضای فعلی می‌سازند: هم دسترسی به مدل‌های قدرتمند و ارزان بیشتر می‌شود، هم نگرانی از سوءاستفاده. در تحلیل‌های رسانه‌ای هم اشاره شده که Anthropic و OpenAI از کندکردن هماهنگ‌شده‌ی توسعه‌ی هوش مصنوعی حرف زده‌اند، اما آمریکا و چین حمایت چندانی نشان نداده‌اند و توافق ماه گذشته‌ی شرکت‌های بزرگ آمریکایی هم داوطلبانه است.
۱۰. چه کاری از دست شما برمی‌آید؟ چهار قدم ساده
نیاز نیست نگران شوید، اما رعایت چند اصل ساده خانه‌ی شما را به هدف آسان تبدیل نمی‌کند. رمز پیش‌فرض همه‌ی دستگاه‌های هوشمند را عوض کنید. اگر روی اندروید باکس یا تلویزیون ADB و درگاه‌های اشکال‌زدایی فعال است، آن را غیرفعال کنید. فریمور را به‌روز نگه دارید و دستگاه‌های IoT را روی شبکه‌ی جداگانه (مهمان) قرار دهید تا دسترسی‌شان به رایانه و گوشی اصلی قطع باشد.
اگر کسب‌وکار کوچک دارید، همین قاعده‌ها دوچندان مهم است، چون دوربین، پرینتر و تلویزیون‌های اداری معمولاً کمترین توجه امنیتی را می‌گیرند. برای استفاده‌ی امن‌تر و هوشمندانه‌تر از ابزارهای AI هم اهمیت هوش مصنوعی در کسب‌وکار و آموزش نوشتن پرامپت را مرور کنید.
۱۱. محدودیت‌های گزارش: چه چیزی ثابت نشده است؟
پژوهشگران خودشان محدودیت‌ها را فهرست کرده‌اند. مرحله‌ی نفوذ عمداً ساده بود، بنابراین نرخ موفقیت‌ها سقف بالا هستند. تنها راه‌اندازی Llama3.1-8B اندازه‌گیری شد. پیش‌بینی زمانی بر پایه‌ی یک روند شاخص است و تخمین بات‌نت هم به یک کلاس سخت‌افزار و یک بات‌نت قبلی تکیه دارد. سرعت حدود ۰٫۳ توکن در ثانیه یعنی هر جهش روزها طول می‌کشد. همچنین فرار از دفاع و مهندسی اجتماعی آزمایش نشد و مدل‌های کوچک در آن ضعیف بودند.
پس پیام درست این نیست که «فردا کرم هوش مصنوعی همه‌چیز را می‌گیرد». پیام این است که فاصله‌ی ما با آن سناریو از «غیرممکن» به «چند ماه تا چند سال، اگر روند ادامه پیدا کند» رسیده و بهتر است دفاع‌ها از حالا ساخته شوند.
۱۲. پرسش‌های متداول
آیا همین حالا هوش مصنوعی روی تلویزیون من تکثیر می‌شود؟
نه. بنا بر گزارش، هیچ مدل فعلی هم‌زمان به‌اندازه‌ی کافی کوچک و توانمند نیست که به‌طور پایدار روی یک تلویزیون هوشمند تکثیر شود. این یک آزمایش کنترل‌شده بوده است.
موفق‌ترین مدل در آزمایش کدام بود؟
مدل GLM-5.2 تنها مدل متن‌باز بود که در آزمایش ۸ گره‌ای کامل تکثیر شد؛ در ۴ از ۵ تکرار به هر ۸ گره رسید.
چرا مرکز داده لازم نیست؟
مدل‌های کوچک را می‌توان با تقسیم لایه‌ها بین چند دستگاه ضعیف اجرا کرد. سرعتش پایین است، اما اجرا ممکن است و به دسترسی ریشه هم نیاز ندارد.
بهترین دفاع برای کاربر عادی چیست؟
تغییر رمز پیش‌فرض، غیرفعال‌کردن ADB، به‌روزرسانی فریمور و جداسازی دستگاه‌های IoT روی شبکه‌ی مهمان.
حملات تقطیر چیست؟
استفاده‌ی بدون اجازه از خروجی یک مدل پیشرفته برای آموزش مدل‌های ارزان‌تر. Anthropic می‌گوید راهکارهای تازه‌اش این استخراج را ۹۰ تا ۹۹ درصد کم کرده است.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
