مهر
اخبار
کلود در دادگاه شکست خورد؛ پنتاگون همچنان هوش مصنوعی آنتروپیک را ممنوع میداند
دادگاه تجدیدنظر آمریکا با رأیی دو بر یک، ممنوعیت نظامی هوش مصنوعی کلود را قانونی اعلام کرد؛ حکمی که پروندهی حقوقی آنتروپیک و پنتاگون را وارد فصل تازهای میکند.
لیست مطالب
۱. چه اتفاقی افتاد؟
روز جمعه، دادگاه تجدیدنظر ایالات متحده برای حوزهی کلمبیا (واشنگتن) با رأی دو به یک اعلام کرد که وزارت دفاع آمریکا مجاز بوده هوش مصنوعی کلود، محصول شرکت آنتروپیک، را بهعنوان یک ریسک زنجیرهتأمین برچسب بزند و از سامانههای حساس نظامی خودش کنار بگذارد. این رأی، نقطهی پایانی یک نبرد حقوقی چندماهه بود که از تابستان امسال آغاز شده بود و حالا با شکست آنتروپیک در بالاترین سطح فعلی دادرسی به سرانجام رسیده است.
پیامد عملی این حکم روشن است: کلود همچنان از دسترس کارکنان وزارت دفاع و پیمانکاران نظامی آمریکا خارج میماند. برآوردها میگویند این ممنوعیت میتواند برای آنتروپیک معادل صدها میلیون دلار درآمد از دسترفته در بازار قراردادهای دولتی باشد؛ بازاری که این روزها رقابت بر سرش میان غولهای هوش مصنوعی بهشدت داغ شده است.
۲. ریشهی ماجرا: قانونی به نام فسکسا
برای فهم این پرونده باید به قانون فسکسا (FASCSA) مصوب سال ۲۰۱۸ برگردیم؛ قانونی که به وزارت دفاع آمریکا اختیار میدهد هر تأمینکننده یا فناوریای را که به تشخیص خودش «ریسک امنیت زنجیرهتأمین» محسوب میشود، از سامانههای حساس و شبکههای نظامی کنار بگذارد. وزیر دفاع آمریکا بر اساس همین اختیار، از تابستان امسال کلود را برای استفادهی داخلی وزارت دفاع و شرکتهای پیمانکار آن ممنوع کرده بود.
نکتهی مهم اینجاست که فسکسا برخلاف بسیاری از قوانین مشابه، رویهی اعتراض بسیار محدودی برای شرکتهای برچسبخورده در نظر گرفته و همین موضوع یکی از محورهای اصلی دفاع آنتروپیک در دادگاه بوده است. برای درک بهتر اینکه چرا نهادهای دولتی اینقدر به کنترل رفتار هوش مصنوعی حساس شدهاند، میتوانید نگاهی هم به تحلیل ما دربارهی محدودیتهای واقعی هوش مصنوعی در دنیای امروز بیندازید.
در کنار این پروندهی خاص، بحث گستردهتری هم در آمریکا جریان دارد دربارهی اینکه چه شرکتی باید مرزهای اخلاقی یک فناوری حساس را تعیین کند؛ خود شرکت سازنده، یا نهاد دولتی خریدار. تا امروز اغلب پروندههای مشابه با مذاکره و توافق پشتپرده حلوفصل میشدند، اما پروندهی کلود اولین موردی است که تا این سطح از دادرسی رسمی پیش رفته و همین موضوع، آن را به یک نمونهی مرجع برای پروندههای آینده تبدیل کرده است.
۳. چه چیزی در قرارداد کلود، پنتاگون را نگران کرد؟
ریشهی اصلی اختلاف، سیاستهای استفادهی آنتروپیک برای کلود است. این شرکت از همان ابتدا در قرارداد کاربری خودش صراحتاً کلود را از دو کاربرد منع کرده: توسعه یا عملیاتیسازی سلاحهای خودکار (autonomous weapons)، و سامانههای نظارت گسترده و بدونمجوز بر شهروندان. این محدودیتها بخشی از همان چیزی هستند که آنتروپیک آن را «هوش مصنوعی ایمن و قابلاعتماد» مینامد.
وقتی پنتاگون از آنتروپیک خواست این بندهای محدودکننده را با عبارتی کلیتر به نام «هر کاربرد قانونی» جایگزین کند تا نیروهای نظامی بدون هیچ قید و بندی از کلود استفاده کنند، آنتروپیک این درخواست را نپذیرفت. به بیان دیگر، این پرونده در اصل بر سر یک پرسش بنیادی شکل گرفته: آیا یک شرکت فناوری حق دارد برای محصول خودش خط قرمز اخلاقی تعیین کند، حتی اگر مشتری آن، دولت باشد؟
۴. حکم دادگاه بدوی و برگشت ماجرا
داستان این پرونده پیچیدهتر از یک رأی ساده است. در مرداد امسال، یک دادگاه بدوی در کالیفرنیای شمالی به نفع آنتروپیک رأی داده و اعلام کرده بود که ممنوعیت پنتاگون غیرقانونی است؛ چرا که آن دادگاه معتقد بود قانون تفویض اختیار سال ۲۰۱۱ برای معرفی «تأمینکنندگان ممنوعه»، شرایط و رویهی متفاوتی نسبت به فسکسا دارد و پنتاگون این رویه را رعایت نکرده است.
آن رأی برای مدت کوتاهی امیدی برای آنتروپیک ایجاد کرد، اما وزارت دفاع بلافاصله به دادگاه تجدیدنظر شکایت برد. حالا با رأی تازهی دادگاه تجدیدنظر واشنگتن، آن پیروزی موقت عملاً بیاثر شده و پنتاگون دوباره دست بالا را در این پرونده دارد.
۵. استدلال حقوقی قاضی اکثریت: پیشبینیناپذیری، یعنی ریسک
بخش قابلتوجه این رأی، استدلال قاضی نویسندهی حکم اکثریت است. او در متن رأی نوشته که «سیستمی که یک مشتری نظامی نتواند رفتارش را بهطور کامل پیشبینی کند، به تعریف، یک مشکل زنجیرهتأمین است»؛ بدون آنکه لزوماً دلیل این پیشبینیناپذیری اهمیت داشته باشد. به بیان دیگر، از نگاه این دادگاه، مهم نیست که کلود چرا برخی درخواستها را رد میکند؛ همینکه رد میکند، کافی است تا برچسب ریسک روی آن بماند.
در متن رأی آمده که کلود «بیش از یک بار» از انجام درخواستهای دولتی سر باز زده و همین موضوع، عدمقطعیتی در عملیات نظامی فعال ایجاد میکند که از نظر دادگاه، پذیرفتنی نیست. قاضی مخالف در این رأی نظر متفاوتی داشته، اما تفصیل استدلال او در گزارشهای منتشرشده بهطور کامل بازتاب نیافته است.
۶. واکنش آنتروپیک و مسیرهای پیش رو
آنتروپیک در بیانیهای رسمی اعلام کرده که «بهطور محترمانه» با این رأی مخالف است و همهی گزینههای حقوقی، از جمله درخواست بازبینی از هیئت کامل دادگاه تجدیدنظر یا حتی شکایت به دیوان عالی آمریکا را روی میز دارد. با این حال، تا زمانی که چنین تصمیمی گرفته و اجرایی شود، وضعیت فعلی برای آنتروپیک هیچ تغییری نمیکند و کلود همچنان از دسترس سامانههای وزارت دفاع خارج است.
نکتهی جالب اینجاست که یک رأی جداگانه از دادگاهی در سانفرانسیسکو، برچسب مشابهی را در پروندهای دیگر به دلایل قانوناساسی نامعتبر دانسته بود؛ اما آن رأی روی مبنای حقوقی دیگری صادر شده و به این پروندهی مشخص ربطی ندارد. همین تناقض ظاهری میان دو دادگاه، نشان میدهد که چارچوب حقوقی نظارت بر هوش مصنوعی در آمریکا هنوز بههیچوجه یکدست نیست.
۷. پیامدهای مالی و راهبردی برای آنتروپیک
از نگاه کسبوکاری، این حکم برای آنتروپیک ضربهی سنگینی است. بازار قراردادهای هوش مصنوعی دولتی و نظامی در آمریکا این روزها یکی از پرسودترین و پررقابتترین بخشهای صنعت فناوری محسوب میشود و از دست دادن دسترسی به این بازار، یعنی از دست دادن سهمی که رقبا با اشتیاق منتظرش هستند. برای درک بهتر اینکه چرا شرکتهای بزرگ فناوری اینقدر برای قراردادهای دولتی و سازمانی میجنگند، خواندن گزارش ما دربارهی اهمیت هوش مصنوعی در کسبوکار امروز میتواند مفید باشد.
در همین حال، رقبایی مانند مایکروسافت با محصول کوپایلوت، و همچنین اوپنایآی، از فرصتی که این خلأ ایجاد کرده بینصیب نمیمانند. اگر میخواهید بدانید اصلاً اوپنایآی، سازندهی چت جیپیتی، چه شرکتی است و چه تفاوتی با آنتروپیک دارد، مقالهی اوپنایآی دقیقاً چیست در سایت ما را از دست ندهید.
باید توجه داشت که این رقابت فقط بر سر یک قرارداد یا یک وزارتخانه نیست. وزارت دفاع آمریکا در سالهای اخیر بودجهی چشمگیری برای پروژههای هوش مصنوعی در نظر گرفته و هر شرکتی که بتواند اعتماد این بازار را جذب کند، عملاً پایگاهی بلندمدت و بسیار پرسود برای خودش میسازد. از این زاویه، حکم اخیر نهفقط یک شکست حقوقی برای آنتروپیک، بلکه یک فرصت راهبردی بزرگ برای رقبای آن محسوب میشود.
۸. این پرونده چه معنایی برای آیندهی هوش مصنوعی نظامی دارد؟
فراتر از سرنوشت خود آنتروپیک، این حکم پیامی روشن برای کل صنعت هوش مصنوعی دارد: دولت آمریکا، حداقل در نسخهی فعلی چارچوب قانونیاش، اولویت را به «قابلیت پیشبینی کامل» میدهد، نه به وجود یا نبود محدودیتهای اخلاقی در یک مدل. این میتواند شرکتهای دیگر را هم به بازنگری در سیاستهای ایمنی محصولات خودشان وادار کند، بهخصوص اگر بخواهند وارد بازار قراردادهای دولتی و دفاعی شوند.
از سوی دیگر، این پرونده بار دیگر نشان میدهد که فاصلهی میان هوش مصنوعی «آزمایشگاهی» و هوش مصنوعیای که واقعاً در دنیای واقعی و زیرساختهای حساس به کار گرفته میشود، چقدر پیچیده و پرمناقشه است. اگر به تفاوت میان توسعهی سرگرمیمحور یک ابزار هوش مصنوعی و مهندسی واقعی و مسئولانهی آن علاقه دارید، مقالهی توسعهدهندهی تنها در برابر مهندس واقعی زاویهی خوبی برای این موضوع باز میکند.
۹. جمعبندی روند این پرونده
روند زمانی این پرونده بهطور خلاصه اینگونه بوده: ابتدا ممنوعیت پنتاگون در تابستان امسال، سپس شکایت آنتروپیک و پیروزی موقت آن در دادگاه بدوی کالیفرنیا در مرداد، و در نهایت شکست همان پیروزی در دادگاه تجدیدنظر واشنگتن. اگر آنتروپیک تصمیم به ادامهی این نبرد حقوقی بگیرد، این پرونده میتواند تا سالهای آینده هم در جریان بماند و به یکی از مرجعهای اصلی حقوق هوش مصنوعی در آمریکا تبدیل شود. تجربه نشان داده که پروندههای مرزی مثل این، معمولاً یکشبه حل نمیشوند و ماهها یا حتی سالها زمان میبرند تا در بالاترین سطح قضایی به نتیجهی نهایی برسند. برای دنبالکردن ادامهی اینگونه اخبار داغ، سری به بخش اخبار هوش مصنوعی سایت ما بزنید و اگر تازه با دنیای چتباتهای هوش مصنوعی آشنا شدهاید، آموزشهای سادهی بخش آموزش چت جیپیتی هم میتواند نقطهی شروع خوبی باشد.
سوالات متداول
چرا پنتاگون کلود را ممنوع کرد؟
چون آنتروپیک حاضر نشد قوانین ضدسلاحخودکار و ضدنظارت گسترده را از قرارداد کلود حذف کند و پنتاگون همین موضوع را نشانهی «غیرقابلپیشبینی بودن» مدل در کاربرد نظامی دانست.
آیا این ممنوعیت برای همیشه است؟
در حال حاضر بله، تا زمانی که آنتروپیک بتواند در دادگاهی بالاتر، مانند هیئت کامل دادگاه تجدیدنظر یا دیوان عالی آمریکا، رأی تازهای به نفع خودش بگیرد.
این حکم چه تأثیری روی کاربران عادی کلود دارد؟
هیچ تأثیر مستقیمی ندارد؛ این ممنوعیت فقط مربوط به استفادهی داخلی وزارت دفاع آمریکا و پیمانکاران نظامی آن است، نه کاربران عادی یا شرکتهای خصوصی.
کدام شرکتها میتوانند از این خلأ سود ببرند؟
مایکروسافت با کوپایلوت و اوپنایآی با چت جیپیتی، از جمله رقبایی هستند که میتوانند بخشی از سهم بازار قراردادهای دولتی از دسترفتهی آنتروپیک را به دست بگیرند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
