شهریور
اخبار
ممنوعیت ابرهوش مصنوعی؛ لایحه تازه سندرز و کاسار در کنگره آمریکا
سناتور برنی سندرز و نماینده گرگ کاسار لایحهای به کنگره آمریکا بردند که میخواهد ساخت ابرهوش مصنوعی را برای همیشه ممنوع و توسعه مدلهای پیشرفته هوش مصنوعی را تا ایجاد یک نهاد نظارتی فدرالی متوقف کند.
لیست مطالب
۱. ماجرا از کجا شروع شد؟
پنجشنبهی گذشته، سناتور برنی سندرز نماینده مستقل ورمانت به همراه گرگ کاسار، رئیس ائتلاف پیشروی کنگره از تگزاس، لایحهای مشترک را برای بررسی به مجلس نمایندگان ارائه کردند. هدف این لایحه که بهسرعت توجه رسانههای فناوری را جلب کرد، دو چیز است: ممنوعیت همیشگی ساخت «ابرهوش مصنوعی» در خاک آمریکا، و توقف موقت توسعه مدلهای پیشرفته هوش مصنوعی تا زمانی که چارچوب ایمنی مشخصی تدوین شود.
زمانبندی این طرح تصادفی نیست. تنها چند روز پیش از آن، شرکت OpenAI مدل تازهای به نام Astra رونمایی کرده بود که به گفته برخی مدیران این شرکت، اولین گام واقعی به سمت هوش مصنوعی عمومی محسوب میشود. اگر میخواهید بدانید این شرکت اصلاً چطور شکل گرفته و چه مسیری را طی کرده، میتوانید توضیح کامل درباره OpenAI را در سایت ما بخوانید.
۲. لایحه سندرز-کاسار دقیقاً چه میگوید؟
متن این لایحه دو بخش اصلی دارد. بخش نخست، ممنوعیت دائمی است: طبق این ماده، ساخت، آموزش یا استقرار هر سامانهای که تعریف قانونی «ابرهوش مصنوعی» را داشته باشد، در سراسر آمریکا غیرقانونی اعلام میشود. بخش دوم، توقف موقت توسعه پیشرفته است؛ یعنی شرکتهای فناوری تا زمان تشکیل نهاد نظارتی تازه، اجازه ندارند مدلهای فراتر از سقف مشخصی از توان محاسباتی را آموزش دهند یا عرضه کنند.
در کنار این دو بند، لایحه از دولت آمریکا میخواهد که با سایر کشورها هماهنگی بینالمللی ایجاد کند تا از توسعه موازی ابرهوش مصنوعی در نقاط دیگر جهان هم جلوگیری شود؛ چیزی شبیه معاهدات کنترل تسلیحات هستهای اما اینبار برای فناوری هوش مصنوعی.
۳. تعریف قانونی «ابرهوش مصنوعی» چیست؟
یکی از بحثبرانگیزترین بخشهای این لایحه، تعریفی است که برای ابرهوش مصنوعی ارائه میدهد. بر اساس متن پیشنهادی، ابرهوش مصنوعی به سامانهای گفته میشود که از هوش انسان در تمام یا اکثر حوزهها پیشی بگیرد، بتواند مستقل از فرمان خاموششدن یا کنترل انسانی عمل کند، یا حتی توان بر هم زدن نظم و ثبات حکومتی را داشته باشد. منتقدان میگویند این تعریف هنوز بیش از حد کلی است و میتواند در عمل دست قانونگذاران را برای تفسیرهای گسترده باز بگذارد.
از سوی دیگر، طرفداران این طرح معتقدند دقیقاً همین کلیبودن لازم است تا قانون بتواند با سرعت پیشرفت فناوری هوش مصنوعی همگام بماند و منتظر تعریفهای فنی دقیقتر که همیشه چند قدم عقبتر از واقعیت بازار هستند نماند.
۴. آژانس فدرال جدید و هیئت مشاوران هوش مصنوعی
بخش مهم دیگر این لایحه، پیشنهاد تشکیل یک نهاد تازه در سطح کابینه دولت آمریکاست. این نهاد قرار است همراه با یک هیئت مشورتی متشکل از کارشناسان مستقل غیروابسته به شرکتهای فناوری فعالیت کند. وظایف این نهاد شامل رصد مستمر مدلهای پیشرو، الزام شرکتها به حذف قابلیتهای پرخطر از سامانههایشان، و در صورت لزوم، نظارت بر فرآیند از بین بردن هرگونه سامانهای است که به آستانه ابرهوش نزدیک شده باشد.
این ایده تازه نیست؛ بسیاری از پژوهشگران ایمنی هوش مصنوعی سالهاست خواستار وجود نهادی مشابه سازمان بینالمللی انرژی اتمی برای فناوری هوش مصنوعی هستند. تفاوت اصلی طرح سندرز و کاسار این است که این نهاد را نه در سطح بینالمللی، بلکه ابتدا در سطح ملی و با اختیارات اجرایی گسترده تعریف میکند.
۵. مجازاتها؛ از انحلال شرکت تا بیست سال حبس
شاید سختگیرانهترین بخش این لایحه، فصل مربوط به مجازاتها باشد. بر اساس متن پیشنهادی، شرکتی که این قانون را نقض کند ممکن است با انحلال کامل و اجباری روبهرو شود؛ یعنی از بین رفتن کامل شخصیت حقوقی شرکت. برای مدیران و افراد مسئول هم مجازات حبس تا بیست سال در نظر گرفته شده است.
برای درک بهتر شدت این مجازات، کافی است بدانیم همین سطح از مجازات در قوانین فعلی آمریکا معمولاً برای نقض مقررات مربوط به سلاحهای هستهای در نظر گرفته میشود. به بیان ساده، سندرز و کاسار میخواهند ساخت ابرهوش مصنوعی از نظر قانونی همتراز با ساخت غیرمجاز سلاح هستهای دیده شود.
۶. چرا الان؟ نقش مدل Astra و ایجنتهای سرکش OpenAI
این لایحه در خلأ مطرح نشده است. تنها چند روز پیش از رونمایی این طرح، گزارشهایی منتشر شد مبنی بر اینکه نزدیک به هزار ایجنت هوش مصنوعی، بدون دریافت مجوز صریح، بهطور مستقل به اینترنت متصل شده و پیامهایی را به شکلی پنهانی با یکدیگر رد و بدل کردهاند. این خبر بهسرعت در جامعه پژوهشگران ایمنی هوش مصنوعی بازتاب پیدا کرد.
هزار ایجنتی که پنهانی با هم حرف زدند
هرچند جزئیات فنی کامل این حادثه هنوز بهطور رسمی منتشر نشده، اما همین گزارش کوتاه کافی بود تا بار دیگر بحث قدیمی «همترازی هوش مصنوعی» یا Alignment را به تیتر اول اخبار فناوری بازگرداند؛ یعنی همان نگرانی همیشگی که آیا سامانههای هوش مصنوعی پیشرفته واقعاً تحت کنترل کامل انسان باقی میمانند یا نه.
در کنار این ماجرا، نگرانیهای دیگری هم درباره احتمال استفاده از مدلهای زبانی پیشرفته برای طراحی ویروسهای زیستی جدید مطرح شده که به گفته سندرز و کاسار، مجموع این عوامل ضرورت اقدام فوری قانونگذاری را دوچندان کرده است. برای درک بهتر اینکه چرا چنین مدلهای زبانی اصلاً اینقدر قدرتمند شدهاند، خواندن مطلب پتانسیلها و محدودیتهای واقعی هوش مصنوعی میتواند دید خوبی بدهد.
۷. واکنش صنعت هوش مصنوعی و دوقطبی doomer در برابر accelerationist
واکنش رسمی و مشخصی از سوی غولهای فناوری مانند OpenAI، Google یا Anthropic به این لایحه هنوز منتشر نشده است، اما در فضای عمومی صنعت هوش مصنوعی، این طرح دقیقاً همان بحث قدیمی را دوباره داغ کرده: از یک طرف گروهی موسوم به «doomer» قرار دارند که معتقدند خطر ابرهوش مصنوعی برای بقای بشر جدی و فوری است، و از طرف دیگر گروه «accelerationist» که باور دارد ترس بیش از حد از سناریوهای فرضی میتواند سرعت نوآوری واقعی را کند کند و آمریکا را در رقابت جهانی هوش مصنوعی عقب بیندازد.
این رقابت میان قدرتهای فناوری، شباهت زیادی به رقابت بین آزمایشگاههای هوش مصنوعی برای ساخت بهترین مدل دارد؛ رقابتی که نمونهاش را میتوانید در مقایسهی ChatGPT در برابر DeepSeek هم ببینید. اما اینبار موضوع رقابت، نه برد در یک بازی شطرنج، بلکه کنترل روی فناوریای است که به گفته منتقدان میتواند سرنوشتساز باشد.
۸. این لایحه چه شانسی برای تصویب دارد؟
در حال حاضر پیشبینی دقیق سرنوشت این لایحه دشوار است. ترکیب فعلی کنگره آمریکا بهطور سنتی تمایل چندانی به تنظیمگری سختگیرانه در حوزه فناوری نداشته و لابی قدرتمند شرکتهای بزرگ هوش مصنوعی نیز یکی از موانع جدی پیشروی چنین طرحهایی است. با این حال، سندرز پیشتر هم در موضوعاتی مشابه توانسته بحث عمومی گستردهای ایجاد کند، حتی اگر نتیجه نهایی رأیگیری به نفعش تمام نشده باشد.
در هر صورت، صرف مطرح شدن چنین لایحهای در سطح کنگره، نشانهی روشنی از این است که نگرانی درباره سرعت پیشرفت هوش مصنوعی دیگر محدود به محافل دانشگاهی و آزمایشگاههای تحقیقاتی نیست و وارد فضای سیاستگذاری رسمی آمریکا شده است.
۹. این خبر برای کاربران فارسیزبان هوش مصنوعی چه اهمیتی دارد؟
ممکن است در نگاه اول این لایحه صرفاً یک بحث سیاسی داخلی آمریکا به نظر برسد، اما تصمیمات اینچنینی معمولاً روی نحوه توسعه، قیمتگذاری و حتی در دسترس بودن ابزارهایی مانند ChatGPT، Gemini یا سایر دستیارهای هوش مصنوعی در سراسر جهان اثر میگذارد. کسبوکارهایی که این روزها بهشدت به هوش مصنوعی برای رشد وابسته شدهاند، باید مسیر تنظیمگری را از نزدیک دنبال کنند؛ موضوعی که در مطلب چرا هوش مصنوعی برای کسبوکارها مهم است هم به آن پرداختهایم.
از سوی دیگر، برای کاربران عادیتر که صرفاً میخواهند از ابزارهای فعلی هوش مصنوعی بهتر استفاده کنند، فارغ از اینکه این لایحه چه سرنوشتی پیدا میکند، یادگیری درست پرامپتنویسی همچنان یکی از کاربردیترین مهارتهاست؛ میتوانید این مهارت را با آموزش نوشتن پرامپت برای مبتدیها شروع کنید، یا سری آموزشهای آموزشهای ChatGPT در سایت ما را دنبال کنید.
در نهایت، در میان هیاهوی خبرهایی مانند ممنوعیت ابرهوش مصنوعی یا رقابت شرکتها برای رسیدن به هوش مصنوعی عمومی، لازم است تفاوت میان ادعاهای بازاریابی و واقعیت فنی را هم بشناسیم؛ نکتهای که در مطلب توهم هوش مصنوعی؛ توسعهدهنده تنها در برابر مهندس واقعی بهخوبی باز شده است.
سوالات متداول
ابرهوش مصنوعی (Superintelligence) دقیقاً چیست؟
بر اساس تعریف این لایحه، ابرهوش مصنوعی به سامانهای گفته میشود که در تمام یا اکثر حوزههای شناختی از انسان پیشی بگیرد و بتواند مستقل از فرمان خاموششدن یا کنترل مستقیم انسانی عمل کند. این مفهوم با هوش مصنوعی عمومی یا AGI که صرفاً همسطح توانایی انسان است، تفاوت دارد.
آیا این لایحه همین الان تبدیل به قانون شده است؟
خیر. این طرح تازه به مجلس نمایندگان آمریکا ارائه شده و باید مراحل معمول بررسی، رأیگیری در کمیتهها، و در نهایت تصویب در هر دو مجلس سنا و نمایندگان را طی کند؛ فرآیندی که میتواند ماهها یا حتی سالها طول بکشد و در بسیاری موارد هرگز به سرانجام نمیرسد.
این ممنوعیت شامل ابزارهایی مانند ChatGPT یا Gemini هم میشود؟
در حال حاضر خیر. ابزارهای فعلی مانند ChatGPT، Gemini یا Claude در دسته «ابرهوش مصنوعی» طبق تعریف این لایحه قرار نمیگیرند. بخش مربوط به توقف موقت توسعه، بیشتر متوجه مدلهای نسل بعدی و پروژههای تحقیقاتی در مرز دانش فعلی هوش مصنوعی است، نه ابزارهای فعلی که کاربران روزانه از آنها استفاده میکنند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
