مهر
اخبار
لایحه‌ی پیشنهادی Anthropic؛ توقف انتشار مدل‌های هوش مصنوعی با خطر بیش از ۵۰ مرگ
شرکت Anthropic پیش‌نویس لایحه‌ای فدرال را بین قانون‌گذاران آمریکا می‌چرخاند که به قاضی اجازه می‌دهد انتشار مدلی را متوقف کند که جان بیش از ۵۰ نفر یا بیش از یک میلیارد دلار دارایی را تهدید می‌کند.
لیست مطالب
۱. ماجرا چیست؟
شرکت Anthropic، سازنده‌ی Claude، در حال پخش پیش‌نویس یک لایحه‌ی فدرال بین قانون‌گذاران آمریکاست. این پیش‌نویس ابتدا در ۱۶ اکتبر ۲۰۲۶ توسط Politico گزارش شد و بعد خود شرکت وجود آن را تأیید کرد. نکته‌ی مهم همین‌جاست: این متن فعلاً فقط یک پیشنهاد است و هیچ‌جا به تصویب نرسیده است.
ایده‌ی اصلی ساده است. اگر یک مدل هوش مصنوعی در آستانه‌ی انتشار باشد و ارزیابی‌ها نشان دهند «خطر قریب‌الوقوع و قابل‌پیش‌بینی» یک آسیب فاجعه‌بار وجود دارد، دولت بتواند از راه دادگاه جلوی انتشار را بگیرد. چنین سازوکاری تاکنون در سطح فدرال آمریکا وجود نداشته است.
اگر تازه با دنیای اخبار این حوزه آشنا شده‌اید، بخش اخبار هوش مصنوعی ما را دنبال کنید تا ماجراهای مرتبط را یک‌جا ببینید.
۲. آستانه‌ها: ۵۰ مرگ یا یک میلیارد دلار
طبق پیش‌نویس، دو آستانه‌ی عددی مطرح است: خطر مرگ بیش از ۵۰ نفر، یا احتمال خسارت مالی بالای یک میلیارد دلار. هر یک از این دو کافی است. اما فقط هر خطری مشمول نیست؛ ریسک باید از یکی از سه مسیر مشخص بیاید.
سه مسیر خطر
مسیر نخست، ساخت یا انتشار سلاح زیستی است. مسیر دوم، مدلی است که از کنترل سازنده‌ی خودش فرار کند. مسیر سوم، حمله‌ی سایبری است. در هر سه حالت، معیار «قریب‌الوقوع بودن» خطر تعیین‌کننده است، نه صرف امکان نظری.
این آستانه‌ها شبیه قانون SB 53 ایالت کالیفرنیا هستند که پیش‌تر قانون شده و زبان مشابهی درباره‌ی «ریسک فاجعه‌بار» دارد. بنابراین پیشنهاد آنتروپیک از هیچ نقطه‌ی صفر شروع نمی‌شود و روی الگویی که یک ایالت آزموده بنا شده است.
۳. مسیر اجرا: از ارزیاب تا قاضی
پیش‌نویس یک زنجیره‌ی مشخص تعریف می‌کند. نخست، ارزیابان مستقل که در وزارت بازرگانی آمریکا ثبت شده‌اند، ریسک مدل را می‌سنجند. اگر به این نتیجه برسند که خطر فاجعه‌بار قریب‌الوقوع است، فقط ۷۲ ساعت فرصت دارند آن را به وزارت بازرگانی اعلام کنند.
در مرحله‌ی بعد، وزارت بازرگانی پرونده را نزد یک قاضی در واشنگتن می‌برد و درخواست توقف انتشار می‌دهد. نکته‌ی کلیدی این است که هیچ نهاد فدرالی به‌تنهایی نمی‌تواند توزیع مدل را قطع کند؛ مجوز قاضی لازم است. این طراحی عمداً قدرت را از اداره‌ها می‌گیرد و به دادگاه می‌سپارد.
۴. بحث استقلال ارزیابان
آزمایشگاه‌های هوش مصنوعی می‌توانند هزینه‌ی ارزیابان را بپردازند، اما طبق متن، این پرداخت نباید به نتیجه‌ی ارزیابی وابسته باشد. در نگاه اول منطقی است، چون مثلاً شرکت‌های حسابرسی هم از مشتری پول می‌گیرند. با این حال گزارش‌ها تأکید دارند روشن نیست این قید چطور مانع اثرگذاری پول بر ارزیابی می‌شود.
اینجا پرسش اصلی منتقدان شکل می‌گیرد: وقتی کسی که ارزیابی می‌شود هزینه‌ی ارزیاب را می‌دهد، تضاد منافع چگونه مدیریت می‌شود؟ پیش‌نویس فعلی پاسخ کاملی به این پرسش نمی‌دهد و احتمالاً در گفت‌وگوهای کنگره بیشتر بازتر می‌شود.
۵. واکنش و جای این پیشنهاد در صنعت
بیشتر آزمایشگاه‌های بزرگ تاکنون در برابر نظارت اجباری دولتی مقاومت کرده‌اند و ارزیاب‌های داوطلبانه‌ی همکار را ترجیح داده‌اند. جنسن هوانگ، مدیرعامل Nvidia، استدلال کرده که صنعت اصلاً به قانون تازه نیاز ندارد. دمیس هسابیس، مدیرعامل DeepMind، هم پیش‌تر پیشنهاد نهادی خودتنظیم‌گر شبیه FINRA را داده بود؛ نهادی که در بازار مالی نقش مشابهی دارد.
پیشنهاد آنتروپیک از این مواضع جلوتر می‌رود، چون اجازه‌ی توقف قضایی را در قانون می‌نویسد. سخنگوی شرکت می‌گوید لایحه بازتاب «چارچوب هوش مصنوعی پیشرفته» آنتروپیک است که از ژوئن با قانون‌گذاران فدرال و ایالتی در میان گذاشته شده است. برای زمینه‌ی بیشتر درباره‌ی این شرکت می‌توانید راهنمای OpenAI و رقابت بازیگران بزرگ را هم بخوانید.
۶. آیا سناریوها با دغدغه‌ی امروز می‌خوانند؟
یک انتقاد این است که سناریوهای لایحه، یعنی سلاح زیستی و فرار مدل، تا حدی با تمرکز فعلی صنعت فاصله دارند. بحث‌های این روزها بیشتر درباره‌ی هک عامل‌محور و گزارش‌هایی است که از سرپیچی عامل‌های هوش مصنوعی از اپراتورها و نفوذ به وب‌سایت‌ها حکایت دارند.
این فاصله لزوماً نقطه‌ضعف نیست؛ قانون‌گذاری معمولاً برای بدترین سناریوها نوشته می‌شود. اما نشان می‌دهد چرا گفت‌وگو درباره‌ی دامنه‌ی لایحه سخت خواهد بود. برای نگاهی واقع‌بینانه به توان و محدودیت این فناوری، پتانسیل و محدودیت‌های واقعی هوش مصنوعی را ببینید.
۷. پیامدها برای کاربران، شرکت‌ها و توسعه‌دهندگان
برای کاربر عادی، تغییر فوری رخ نمی‌دهد، چون لایحه هنوز قانون نیست. اما اگر روزی تصویب شود، ممکن است انتشار بعضی مدل‌های پیشرفته با تأخیر یا توقف قضایی روبه‌رو شود. این یعنی برنامه‌ریزی برای استفاده از مدل‌های جدید دیگر فقط به تصمیم شرکت سازنده بستگی نخواهد داشت.
برای کسب‌وکارها، شفافیت بیشتر درباره‌ی ارزیابی ریسک می‌تواند اعتماد را بالا ببرد؛ این موضوع را در مطلب اهمیت هوش مصنوعی در کسب‌وکار هم بررسی کرده‌ایم. برای توسعه‌دهندگان، بهتر است از حالا مستندسازی ایمنی و تست‌های ریسک را جدی بگیرند. اگر می‌خواهید خودتان با مدل‌ها بهتر کار کنید، آموزش‌های ChatGPT و راهنمای نوشتن پرامپت نقطه‌ی شروع خوبی هستند.
۸. مسیر پیش‌رو
پیش‌نویس باید ابتدا حامی پیدا کند، وارد کمیته‌ها شود و از بررسی مجلس و سنا بگذرد؛ مسیری که معمولاً ماه‌ها یا سال‌ها طول می‌کشد و متن در آن تغییر می‌کند. تا آن زمان، مهم‌ترین نتیجه این است که یکی از بزرگ‌ترین آزمایشگاه‌ها صراحتاً پذیرفته که اختیار قضایی برای توقف انتشار مدل باید وجود داشته باشد.
در آینده باید دید رقبا چه موضعی می‌گیرند و آیا آستانه‌ی ۵۰ مرگ پایین‌تر می‌آید یا نه. هر تغییری را در بخش اخبار دنبال می‌کنیم. نقش مهندس واقعی در کنار ابزارهای هوشمند هم موضوع مرتبطی است که در توهم توسعه‌دهنده‌ی تنها آمده است.
۹. چرا «مجوز قاضی» مهم‌ترین بخش لایحه است؟
در بحث‌های مربوط به قانون‌گذاری هوش مصنوعی، ترس رایج این است که یک اداره‌ی دولتی بتواند هر زمان خواست جلوی یک محصول را بگیرد. پیش‌نویس آنتروپیک عملاً همین نگرانی را هدف گرفته است. چون تصمیم نهایی با قاضی است، شرکت‌ها فرصت دفاع، ارائه‌ی مدرک و اعتراض دارند و اداره‌ها نمی‌توانند یک‌طرفه عمل کنند.
از سوی دیگر، همین طراحی ممکن است کار را کند کند. گفته شد ارزیابان ۷۲ ساعت فرصت اعلام خطر دارند، اما پس از آن پرونده وارد روند قضایی می‌شود و معلوم نیست مدت رسیدگی چقدر طول بکشد. اگر خطر واقعاً قریب‌الوقوع باشد، سرعت دادگاه به یک پرسش کلیدی تبدیل می‌شود که پیش‌نویس فعلی جزئیاتش را روشن نکرده است.
۱۰. مقایسه با رویکردهای دیگر
سه رویکرد کلی در جهان برای مهار خطر مدل‌های پیشرفته مطرح است. رویکرد نخست، همان است که بیشتر آزمایشگاه‌ها دوست دارند: ارزیابی داوطلبانه و همکاری با نهادهای بیرونی بدون الزام قانونی. رویکرد دوم، خودتنظیمی صنعتی است، مانند نهادی شبیه FINRA که هسابیس پیشنهاد داده بود. رویکرد سوم، قانون الزام‌آور با اختیار اجرایی است که لایحه‌ی آنتروپیک به آن نزدیک می‌شود.
تفاوت اصلی در پاسخگویی است. در رویکرد داوطلبانه، اگر شرکتی نخواهد، سازوکاری برای وادار کردنش نیست. در خودتنظیمی، داور و بازیگر از یک جنس‌اند. در رویکرد قانونی، دست‌کم یک نهاد بیرونی با پشتوانه‌ی قضایی وجود دارد. البته همین رویکرد سومْ بیشترین مقاومت صنعت را هم برمی‌انگیزد، چون هزینه و ریسک حقوقی برای شرکت‌ها دارد.
یک نکته‌ی جانبی هم مهم است: خود آنتروپیک یک شرکت خصوصی و ذی‌نفع است. بنابراین هر پیشنهاد او را باید هم به‌عنوان یک راه‌حل ایمنی و هم به‌عنوان موضع‌گیری راهبردی در رقابت با دیگران خواند. این قضاوت را به خواننده می‌سپاریم، اما نباید فراموش شود که موضع رقبا هنوز به‌طور رسمی روشن نیست.
در نهایت، هر قانونی که از این پیش‌نویس بیرون بیاید باید میان دو خطر تعادل برقرار کند: اینکه مدلی خطرناک بدون مانع منتشر شود، یا اینکه آستانه‌ها و روندهای سخت‌گیرانه جلوی نوآوری مفید را بگیرند. پاسخ هر دو طرف هنوز در حد گمانه‌زنی است و تا زمان انتشار متن رسمی و شنیده‌شدن صدای کارشناسان، قضاوت قطعی زود است.
چه چیزهایی را باید زیر نظر داشت؟
نخست، اینکه آیا قانون‌گذاری حامی رسمی برای این پیش‌نویس پیدا می‌کند یا نه. دوم، موضع رسمی رقبا مانند OpenAI، گوگل و متا. سوم، تغییر احتمالی آستانه‌ها و تعریف دقیق «خطر قریب‌الوقوع». چهارم، اینکه شرط استقلال مالی ارزیابان در متن نهایی دقیق‌تر می‌شود یا همین‌طور مبهم می‌ماند.
۱۱. پرسش‌های متداول
آیا این لایحه الان قانون است؟
خیر. فقط پیش‌نویسی است که آنتروپیک بین قانون‌گذاران می‌چرخاند و هنوز به تصویب نرسیده است.
چه کسی انتشار مدل را متوقف می‌کند؟
فقط یک قاضی در واشنگتن، آن هم به درخواست وزارت بازرگانی. هیچ نهاد فدرالی به‌تنهایی چنین اختیاری ندارد.
آستانه‌ی فعال‌شدن چیست؟
خطر قریب‌الوقوع مرگ بیش از ۵۰ نفر یا خسارت بالای یک میلیارد دلار، از طریق سلاح زیستی، فرار مدل از کنترل یا حمله‌ی سایبری.
ارزیاب‌ها چه کسانی‌اند؟
ارزیابان مستقل ثبت‌شده در وزارت بازرگانی آمریکا که باید ظرف ۷۲ ساعت خطر را اعلام کنند. آزمایشگاه‌ها می‌توانند هزینه را بپردازند، اما نه وابسته به نتیجه.
آیا شبیه قوانین دیگر است؟
بله، آستانه‌ها به قانون SB 53 کالیفرنیا شباهت دارند که زبان مشابهی برای «ریسک فاجعه‌بار» به کار می‌برد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
