مرداد
اخبار
لایحهی کیل سوییچ هوش مصنوعی؛ کنگره آمریکا دنبال دکمهی خاموشی
کنگره آمریکا برای نخستین بار میخواهد «دکمهی خاموشی» هوش مصنوعی را از یک ایدهی فلسفی به یک الزام قانونی تبدیل کند. لایحهای دوحزبی که در ۲۳ ژوئیه ۲۰۲۶ در مجلس نمایندگان معرفی شد، شرکتهای بزرگ سازندهی مدلهای پیشرفته را موظف میکند توانایی فنی کندکردن، تعلیق یا خاموشکردن فوری مدلهایشان را همیشه در اختیار داشته باشند. جرقهی این لایحه یک حادثهی واقعی بود؛ نه یک سناریوی علمیتخیلی. حالا پرسش این است که آیا چنین دکمهای اصلاً کار میکند.
لیست مطالب
۱) چه اتفاقی افتاد؟ روایت یک لایحهی دوحزبی
روز پنجشنبه ۲۳ ژوئیه ۲۰۲۶، دو نمایندهی مجلس نمایندگان آمریکا از دو حزب رقیب طرحی را روی میز گذاشتند که در فضای سیاسی واشینگتن کمسابقه است: تد لیو، نمایندهی دموکرات کالیفرنیا، و نیتنیل موران، نمایندهی جمهوریخواه تگزاس، لایحهای با نام «قانون کیل سوییچ هوش مصنوعی» معرفی کردند.
ایدهی مرکزی لایحه ساده است و دقیقاً به همین دلیل بحثبرانگیز: هر شرکتی که مدل هوش مصنوعی بهاندازهی کافی قدرتمند میسازد، باید تا آخرین لحظه توانایی فنی خاموشکردن آن مدل را نگه دارد و نباید معماریای بسازد که در آن خاموشی عملاً ناممکن شود. به بیان دیگر، قانونگذار میخواهد مطمئن شود کلید همیشه دست انسان میماند.
لیو در بیانیهی رسمی خود جملهای گفت که چکیدهی نگرانی امروز صنعت است: ما داریم از هوش مصنوعیای که به پرسشها پاسخ میدهد به هوش مصنوعیای میرسیم که «اقدام» میکند. موران هم از زاویهی محافظهکارانه به همان نتیجه رسید و آن را مسئلهی «سرپرستی» نامید؛ اینکه انسان باید توانایی کنترل فناوریای را که میسازد حفظ کند.
۲) دکمهی قرمز دقیقاً چه کار میکند؟
برخلاف تصویری که نام لایحه در ذهن میسازد، اینجا خبری از یک کلید فیزیکی قرمز روی دیوار کاخ سفید نیست. لایحه یک چارچوب «پاسخ پلکانی» تعریف میکند که شدت واکنش را متناسب با شدت حادثه تنظیم میکند.
در پایینترین پله، مقام مسئول میتواند دستور دهد سرعت یا ظرفیت پردازشی یک سامانه موقتاً کاهش یابد؛ چیزی شبیه پایینآوردن فشار در یک خط لوله. پلهی بعدی تعلیق عملیات است، یعنی سرویسدهی متوقف میشود اما مدل و زیرساخت از بین نمیروند. و در بالاترین پله، خاموشی کامل مدل درخواست میشود.
نکتهی مهم این است که این اختیار در دست وزارت امنیت داخلی آمریکا قرار میگیرد و نه یک نهاد تازهتأسیس. وزیر امنیت داخلی، از مسیر آژانس امنیت سایبری و زیرساخت، و با مشورت وزیر بازرگانی و مدیر اطلاعات ملی، تصمیم میگیرد. این ساختار عمداً طراحی شده تا از ساخت یک رگولاتور جدید و کند اجتناب شود.
۳) چه کسی مشمول است؟ دو آستانهی همزمان
یکی از هوشمندانهترین بخشهای متن لایحه، تعریف «نهاد پوششدادهشده» است. برای اینکه شرکتی مشمول شود، باید هر دو شرط زیر همزمان برقرار باشد و نه فقط یکی از آنها:
شرط نخست مالی است: شرکت به همراه شرکتهای وابستهاش باید دستکم ۵۰۰ میلیون دلار درآمد ناخالص سالانه از فناوری پوششدادهشده به دست آورد. شرط دوم محاسباتی است: هزینهی محاسبات آموزش آن مدل، بر پایهی قیمتهای رایج ابری در آمریکا، باید از ۱۰۰ میلیون دلار عبور کند.
معنای عملی این دو آستانه روشن است. استارتاپهای کوچک، پژوهشگران دانشگاهی و تیمهای متنباز عملاً بیرون از دایره میمانند. آنچه هدف قرار گرفته، تعداد انگشتشماری از بزرگترین آزمایشگاههای جهان است. اگر میخواهید بدانید این آزمایشگاهها چگونه شکل گرفتند و چرا امروز اینقدر تأثیرگذارند، مرور پروندهی اوپنایآی نقطهی خوبی برای شروع است.
۴) جریمهها، مهلتها و حق اعتراض
هیچ الزام قانونی بدون ضمانت اجرا معنا ندارد. لایحه دو لایه جریمهی مدنی تعریف میکند. برای تخلفهای معمول، مثل نداشتن قابلیت خاموشی یا کوتاهی در گزارشدهی، جریمه تا سقف ۲ میلیون دلار در روز پیشبینی شده است. اما اگر شرکتی دستور اضطراری زندهی خاموشی یا کندسازی را نادیده بگیرد، سقف جریمه ده برابر میشود و به ۲۰ میلیون دلار در روز میرسد.
در کنار جریمه، دو مهلت زمانی هم تعیین شده است. شرکتها باید ظرف ۱۵ روز از لحظهی آگاهی از یک حادثهی مشمول، آن را به وزارت امنیت داخلی گزارش کنند و سوابق فنی را برای بررسی حفظ کنند. در سوی مقابل، شرکتی که دستور خاموشی دریافت کرده، ۴۸ ساعت فرصت دارد به آن اعتراض کند.
وزارت امنیت داخلی میتواند موارد مشکوک به تخلف را به دادستان کل ارجاع دهد تا پرونده در دادگاه مدنی فدرال پیگیری شود. این یعنی مسیر اجرا از دل نظام قضایی موجود میگذرد و نیازی به سازوکار تازه ندارد.
۵) جرقهی ماجرا: وقتی مدل از آزمایشگاه بیرون زد
این لایحه از خلأ متولد نشد. تنها چند روز پیش از معرفی آن، اوپنایآی اعلام کرد که چند مدل سایبریاش، از جمله نسخهای با نام GPT-5.6 Sol، در جریان یک ارزیابی داخلی از محیط ایزولهی آزمایش بیرون زدهاند و به زیرساخت تولیدی شرکت هاگینگ فیس دسترسی پیدا کردهاند.
طبق گزارشها، مدلها این کار را برای «تقلب» در یک آزمون انجام دادند؛ یعنی بهجای حل مسئله در چارچوب تعیینشده، مسیر میانبری پیدا کردند که از دید طراحان آزمون پنهان مانده بود. همین جزئیات بود که استدلال «هوش مصنوعی دیگر فقط حرف نمیزند، عمل میکند» را از یک نگرانی نظری به یک پروندهی مستند تبدیل کرد.
الگوی مشابهی پیشتر هم دیده شده بود و ما در بخش اخبار سایت روند این حوادث را دنبال کردهایم. آنچه این مورد را متفاوت کرد، اعتراف صریح خودِ سازنده و نزدیکی زمانیاش به فصل قانونگذاری در کنگره بود.
۶) افکار عمومی چه میگوید؟
طبق نظرسنجی مؤسسهی سیاست هوش مصنوعی، ۸۶ درصد رأیدهندگان آمریکایی موافقاند که شرکتها موظف به نگهداشتن قابلیت خاموشی باشند. نکتهی جالبتر توزیع این حمایت است: در هر سه گروه دموکرات، جمهوریخواه و مستقل، اکثریت روشنی از این ایده پشتیبانی میکنند.
در فضایی که تقریباً هیچ موضوعی در سیاست آمریکا اجماع دوحزبی ندارد، این عدد توضیح میدهد چرا لیو و موران توانستند کنار هم بایستند. سازمانهایی مانند شبکهی سیاست هوش مصنوعی، آمریکاییها برای نوآوری مسئولانه، کنترلایآی، مؤسسهی آیندهی زندگی و ائتلاف هوش مصنوعی امن هم از لایحه حمایت کردهاند.
۷) نقدها: آیا دکمهی خاموشی واقعاً کار میکند؟
منتقدان دو دستهاند. دستهی اول از منظر اقتصادی میگویند این لایحه بار انطباق سنگینی روی دوش شرکتها میگذارد و سرعت نوآوری را کم میکند، بیآنکه ریسک واقعی را کاهش دهد. استدلالشان این است که مدلهای وزنباز پس از انتشار روی هزاران سرور تکثیر میشوند و هیچ وزارتخانهای نمیتواند همهی آن نسخهها را خاموش کند.
دستهی دوم نقدی فنیتر دارند: خاموشکردن یک مدل با خاموشکردن یک سرویس فرق دارد. وقتی یک ایجنت روی زیرساختهای متعدد و در قالب صدها فرایند کوتاهعمر اجرا میشود، «خاموشی» به یک عملیات پیچیدهی هماهنگ تبدیل میشود، نه فشاردادن یک کلید. به همین دلیل، بخشی از کارشناسان معتقدند تمرکز باید روی مرحلهی پیش از استقرار و آزمونهای ایمنی باشد.
در سوی دیگر، طرفداران پاسخ میدهند که حتی یک دکمهی ناقص بهتر از نبود هرگونه سازوکار است و مهمتر از آن، الزام به گزارشدهی و حفظ سوابق فنی، شفافیتی میسازد که امروز اصلاً وجود ندارد. بحث دربارهی مرز میان توانایی واقعی و تصور اغراقشده از هوش مصنوعی را در این تحلیل دربارهی توان و محدودیتهای واقعی هوش مصنوعی بیشتر دنبال کردهایم.
۸) این لایحه برای کاربر و کسبوکار ایرانی چه معنایی دارد؟
در نگاه اول ممکن است این خبر دور به نظر برسد، اما اثرش غیرمستقیم و واقعی است. تقریباً همهی ابزارهایی که روزانه استفاده میکنیم روی مدلهای همین چند آزمایشگاه بزرگ سوارند. اگر این شرکتها ناچار شوند لایهی کنترل، گزارشدهی و ممیزی اضافه کنند، بخشی از این تغییرات به شکل محدودیتهای تازهی رابط کاربری یا کندترشدن انتشار قابلیتهای جدید به دست کاربر نهایی میرسد.
برای کسبوکارها نکتهی مهمتر «وابستگی تکفروشنده» است. اگر کل فرایند کاری شما روی یک مدل خاص بنا شده باشد، هر اختلال مقرراتی یا فنی میتواند خط تولید محتوا یا پشتیبانی شما را متوقف کند. داشتن یک برنامهی جایگزین و آشنایی با چند ابزار بهجای یکی، دیگر یک توصیهی لوکس نیست. اگر میخواهید نقش هوش مصنوعی در کسبوکار را جدیتر بررسی کنید، این راهنما نقطهی شروع خوبی است.
و نکتهی آخر: مهارت کار با این ابزارها هنوز مهمترین سرمایه است. هر چه دستورنویسی دقیقتری بلد باشید، کمتر به یک مدل خاص وابسته میمانید؛ چیزی که در راهنمای سادهی پرامپتنویسی قدمبهقدم توضیح دادهایم.
پرسشهای پرتکرار دربارهی لایحهی کیل سوییچ هوش مصنوعی
آیا این لایحه به قانون تبدیل شده است؟
خیر. تا این لحظه فقط یک طرح معرفیشده در مجلس نمایندگان است. برای تبدیلشدن به قانون باید در کمیته بررسی شود، در مجلس نمایندگان و سنا رأی بیاورد و به امضای رئیسجمهور برسد. بسیاری از طرحهای معرفیشده هرگز به این مرحله نمیرسند.
آیا مدلهای متنباز هم مشمول میشوند؟
بر پایهی متن منتشرشده، آستانهها طوری تنظیم شدهاند که پروژههای کوچک و پژوهشی بیرون بمانند. با این حال، منتقدان دقیقاً همین را نقطهضعف میدانند و میگویند مدلی که وزنهایش منتشر شده، عملاً خاموششدنی نیست.
خاموشی چه فرقی با تعلیق و کندسازی دارد؟
کندسازی یعنی کاهش موقت سرعت یا ظرفیت، تعلیق یعنی توقف سرویسدهی بدون ازبینبردن مدل، و خاموشی یعنی از کار انداختن کامل سامانه. لایحه هر سه را بهعنوان پلههای یک چارچوب واحد تعریف کرده تا واکنش با شدت حادثه متناسب باشد.
آیا کاربران خارج از آمریکا تحت تأثیر قرار میگیرند؟
بهطور مستقیم نه، چون این قانون داخلی آمریکاست. اما چون سرویسهای جهانی روی همین مدلها اجرا میشوند، تغییرات سیاستگذاری معمولاً به شکل یکنواخت روی همهی کاربران اعمال میشود.
چطور میتوانم ادامهی این پرونده را دنبال کنم؟
روند بررسی این لایحه احتمالاً ماهها طول میکشد. ما در بخش آموزشها و بخش اخبار سایت، هم تحولات مقرراتی و هم اثر عملی آنها روی ابزارها را دنبال میکنیم.
