شهریور
اخبار
شکاف عجیب میان آنتروپیک، اوپنایآی و گوگل بر سر قانون ایمنی هوش مصنوعی ماساچوست
آنتروپیک از سختگیرانهترین قانون ایمنی هوش مصنوعی آمریکا حمایت کرد؛ اوپنایآی و گوگل علنی مخالفت کردند. ماجرای این شکاف نادر میان غولهای هوش مصنوعی را در ادامه بخوانید.
لیست مطالب
یکم: ماساچوست دقیقاً چه قانونی را میخواهد تصویب کند؟
ایالت ماساچوست در آستانهی تصویب یکی از سختگیرانهترین قوانین ایمنی هوش مصنوعی در سراسر آمریکاست. این بند بهعنوان بخشی از یک لایحهی بزرگتر توسعهی اقتصادی در سنای این ایالت مطرح شده و هستهی اصلی آن این است: هر شرکتی که مدلهای هوش مصنوعی پیشرفته (frontier AI) توسعه میدهد، باید هر چهار ماه یکبار یک ارزیاب مستقل و بیرونی استخدام کند تا خطرهای فاجعهبار احتمالی مدلهایش، از سوءاستفادههای سایبری گرفته تا خطرهای زیستی و شیمیایی، را بررسی و گزارش کند.
این رویکرد فراتر از مقررات فعلی بیشتر ایالتهای آمریکاست که معمولاً به ممیزیهای سالانه یا خوداظهاری شرکتها بسنده میکنند. طراحان این لایحه استدلال میکنند که مدلهای هوش مصنوعی پیشرفته با سرعتی بسیار بیشتر از قوانین رشد میکنند و بازهی زمانی چهارماهه، تنها بازهای است که میتواند همگام با این سرعت پیش برود. برای آشنایی بیشتر با ریسکها و محدودیتهای واقعی این فناوری، میتوانید مقالهی پتانسیل واقعی و محدودیتهای هوش مصنوعی را در سایت ما بخوانید.
واژهی «خطر فاجعهبار» (catastrophic risk) در متن این لایحه، طیفی از سناریوها را دربر میگیرد: از کمک بالقوهی یک مدل به ساخت سلاحهای زیستی یا شیمیایی گرفته تا حملات سایبری گسترده یا از دسترفتن کنترل انسانی بر یک سامانهی خودمختار. تعریف دقیق این آستانهها، خودش یکی از نقاط اصلی چانهزنی میان طرفداران و مخالفان لایحه بوده است.
دوم: چرا آنتروپیک مسیری متفاوت از رقبا رفت؟
نکتهی عجیب این ماجرا اینجاست که شرکت آنتروپیک، سازندهی مدلهای کلود، بهجای همصدایی با غولهای دیگر صنعت، علنی از این مقررات سختگیرانه حمایت کرده است. سزار فرناندز، مسئول روابط دولتی و محلی آنتروپیک در آمریکا، در بیانیهای گفته این طرح «سطح ایمنی هوش مصنوعی را بالا میبرد، بدون آنکه مسیر نوآوری را ببندد». این جمله بهسرعت در رسانههای فناوری آمریکا بازتاب پیدا کرد، چون معمولاً شرکتهای بزرگ فناوری در برابر مقررات سختگیرانه صف واحدی تشکیل میدهند.
حمایت آنتروپیک تنها به یک بیانیه ختم نشد. دو نهاد مستقل فعال در حوزهی ایمنی هوش مصنوعی به نامهای Encode و Secure AI Project هم نامهای رسمی در حمایت از این لایحه به اعضای کمیتهی مشترک مجلس و سنای ماساچوست فرستادهاند و از قانونگذاران خواستهاند نسخهی سختگیرانهتر را حفظ کنند.
سوم: استدلال اوپنایآی و گوگل برای مخالفت چیست؟
در طرف مقابل، شرکتهای اوپنایآی و گوگل علنی با این رویکرد مخالفت کردهاند. مدیران سیاستگذاری اوپنایآی در نامههایی به قانونگذاران ماساچوست خواستار الگویی مشابه ایالت ایلینوی شدهاند؛ مدلی سبکتر که فقط به یک ممیزی سالانهی شخص ثالث نیاز دارد، نه ارزیابی هر چهارماهی خطرهای فاجعهبار. برای آشنایی با تاریخچه و جایگاه اوپنایآی در این معادلات، مقالهی اوپنایآی چیست؟ در سایت ما را از دست ندهید.
نگرانی اصلی این دو شرکت آن است که مقررات پراکنده و متفاوت در ایالتهای گوناگون آمریکا، در نبود یک قانون فدرال یکپارچه، نتیجهای جز سردرگمی توسعهدهندگان و افزایش هزینههای انطباق برای کسبوکارها به همراه نخواهد داشت. این استدلال، همان چیزی است که در ادبیات سیاستگذاری آمریکا از آن با عنوان «قوانین پراکندهی ایالتی» یاد میشود؛ نگرانیای که بارها از زبان مدیران فناوری در واشنگتن شنیده شده است. مدیران سیاستگذاری اوپنایآی در نامههای خود صراحتاً هشدار دادهاند که تکثیر قوانین ناهماهنگ میان ایالتها، در نهایت به یک «نتیجهی ناخوشایند» (unhappy result) برای کل صنعت منجر خواهد شد؛ عبارتی که از آن زمان بارها در گزارشهای رسانهای آمریکا بازتاب پیدا کرده است.
گوگل نیز، هرچند با لحنی کمسروصداتر، همان مسیر اوپنایآی را در پیش گرفته و در مکاتبات خود با قانونگذاران ماساچوست از الگوی ایلینوی حمایت کرده است. هر دو شرکت بر این باورند که یک چارچوب فدرال یکپارچه، در بلندمدت بهنفع همهی طرفها از جمله کاربران نهایی خواهد بود، چون از تکهتکهشدن بازار و افزایش هزینههای حقوقی جلوگیری میکند.
چهارم: کمیتهی مشترک و مسیر باقیمانده تا تصویب نهایی
این اختلافنظر حالا به کمیتهی مشترک مجلس و سنای ماساچوست رسیده است. سنای این ایالت نسخهی سختگیرانهتر لایحه را تصویب کرده، اما نسخهی نهایی هنوز باید با نسخهی مصوب مجلس ترکیب و در یک متن واحد نهایی شود. تصمیم این کمیته اهمیت زیادی دارد، چون در غیاب یک قانون فدرال یکپارچهی هوش مصنوعی، میتواند الگویی برای دیگر ایالتهای آمریکا هم باشد.
روند کند قانونگذاری در سطح فدرال آمریکا باعث شده بسیاری از ایالتها خودشان دستبهکار شوند و مقررات محلی وضع کنند. همین موضوع باعث شده صنعت هوش مصنوعی با نقشهای پراکنده و نامنسجم از قوانین ایالتی روبهرو باشد که هر کدام قواعد و آستانههای متفاوتی برای «ریسک فاجعهبار» تعریف میکنند.
پنجم: این شکاف چه چیزی دربارهی صنعت هوش مصنوعی آشکار میکند؟
این اختلاف میان آنتروپیک از یکسو و اوپنایآی و گوگل از سوی دیگر، تصویر رایج از «صنعتی متحد در برابر مقررات» را زیر سؤال میبرد. تا پیش از این، عرف رایج در سیلیکونولی این بود که شرکتهای هوش مصنوعی، صرفنظر از رقابت شدیدشان بر سر بازار، در برابر مقررات دولتی معمولاً موضع مشترکی میگرفتند. حالا اما آنتروپیک نشان داده حاضر است حتی بهبهای فاصلهگرفتن از رقبایش، از رویکردی سختگیرانهتر در قبال ایمنی هوش مصنوعی دفاع کند.
برخی تحلیلگران معتقدند حمایت آنتروپیک از این لایحه، همزمان یک موضع اخلاقی و یک تصمیم تجاری هوشمندانه است؛ چون در بازاری که مشتریان سازمانی و دولتی بهشدت به شفافیت و مسئولیتپذیری اهمیت میدهند، برچسب «ایمنترین آزمایشگاه هوش مصنوعی» میتواند مزیت رقابتی قابلتوجهی برای آنتروپیک ایجاد کند. از سوی دیگر، منتقدان میگویند شرکتی بهاندازهی آنتروپیک، که هنوز سهم بازار کوچکتری نسبت به اوپنایآی و گوگل دارد، هزینهی کمتری برای پذیرش مقررات سختگیرانه میپردازد.
این رویکرد میتواند بخشی از استراتژی برندسازی آنتروپیک هم باشد؛ شرکتی که از ابتدای تأسیس خودش را «آزمایشگاه ایمنیمحور» معرفی کرده است. اگر میخواهید بدانید چرا اهمیت هوش مصنوعی برای کسبوکارها اینروزها اینقدر پررنگ شده، مقالهی چرا هوش مصنوعی برای کسبوکارها مهم است؟ را در سایت ما بخوانید.
ششم: زمینهی بزرگتر؛ رابطهی آنتروپیک با نهادهای ناظر
موضع آنتروپیک در ماساچوست، اتفاقی جدا از سابقهی این شرکت نیست. پیشتر هم آنتروپیک در ماجرای دیگری، رویارویی علنی با وزارت جنگ آمریکا بر سر برچسب «ریسک زنجیرهی تأمین» را تجربه کرده بود؛ ماجرایی که در نهایت با حکم یک قاضی فدرال به نفع آنتروپیک تمام شد. این الگوی رفتاری نشان میدهد آنتروپیک، برخلاف بسیاری از رقبایش، تمایل بیشتری به رویارویی علنی با نهادهای دولتی، چه در جهت موافقت و چه مخالفت، از خودش نشان میدهد.
در مقابل، اوپنایآی و گوگل معمولاً ترجیح میدهند از کانالهای سنتیتر لابیگری و نامهنگاری با قانونگذاران استفاده کنند و کمتر وارد رویاروییهای رسانهای میشوند. رقابت میان آزمایشگاههای بزرگ هوش مصنوعی تنها به مدلها و قیمتها ختم نمیشود؛ شبیه به رقابتهای فنیای که در مقالهی چتجیپیتی در برابر دیپسیک بررسی کردهایم، حالا میدان رقابت به عرصهی سیاستگذاری هم کشیده شده است.
هفتم: این نبرد چه تأثیری روی کاربران و توسعهدهندگان دارد؟
برای کاربران و توسعهدهندگان ایرانی که با ابزارهایی مانند چتجیپیتی، جمینای و کلود کار میکنند، این نبرد قانونی شاید در نگاه اول دور از دسترس به نظر برسد، اما نتیجهی نهایی آن میتواند بهطور غیرمستقیم روی سرعت انتشار مدلهای جدید، شفافیت گزارشهای ایمنی و حتی قیمتگذاری سرویسها در بازارهای جهانی اثر بگذارد. هر قدر مقررات ایالتی در آمریکا فراگیرتر شود، احتمال هماهنگشدن استانداردهای جهانی هوش مصنوعی هم بیشتر میشود.
توسعهدهندگانی که با API این شرکتها کار میکنند نیز باید منتظر باشند که الزامات جدید گزارشدهی احتمالاً روی مستندسازی و شفافیت مدلها هم اثر بگذارد. اگر تازه با دنیای پرامپتنویسی و کار با این مدلها آشنا میشوید، راهنمای نوشتن پرامپت برای مبتدیان نقطهی شروع خوبی است، و برای دنبالکردن آموزشهای تخصصیتر میتوانید سری آموزشهای چتجیپیتی در سایت ما را دنبال کنید.
هشتم: مقایسه با رویکرد سایر ایالتها و اتحادیهی اروپا
ماساچوست تنها ایالت آمریکایی نیست که بهدنبال وضع مقررات سختگیرانهتر برای هوش مصنوعی است، اما رویکردش با الزام به ارزیابی مستقل هر چهار ماه، آن را در صف مقدم سختگیرترین طرحهای ایالتی قرار میدهد. در سوی دیگر اقیانوس اطلس، اتحادیهی اروپا هم اخیراً با گنجاندن چتجیپیتی در فهرست «موتورهای جستوجوی آنلاین بسیار بزرگ» تحت قانون خدمات دیجیتال، مسیر مشابهی از سختگیری بیشتر را در پیش گرفته است. این روند کلی نشان میدهد نهادهای ناظر در سراسر دنیا، فارغ از اختلافنظرشان بر سر جزئیات، بهسمت نظارت فعالتر بر هوش مصنوعی پیش میروند.
این تفاوت رویکردها بین ایالتهای مختلف آمریکا و حتی میان آمریکا و اروپا، میتواند در بلندمدت به شکلگیری چند استاندارد موازی برای ایمنی هوش مصنوعی منجر شود؛ سناریویی که شاید نهایتاً شرکتها را بهسمت پذیرش سختگیرانهترین استاندارد موجود بهعنوان مخرج مشترک جهانی سوق دهد. با اینهمه، فاصلهی زیادی میان وعدههای تبلیغاتی شرکتهای فناوری و واقعیت اجرای این قوانین وجود دارد؛ موضوعی که در مقالهی توهم هوش مصنوعی هم به آن پرداختهایم.
روند رسیدگی در کمیتهی مشترک مجلس و سنا معمولاً هفتهها تا چند ماه به طول میانجامد، چون نمایندگان هر دو مجلس باید روی متن واحدی به توافق برسند پیش از آنکه لایحه برای امضای نهایی نزد فرماندار ایالت فرستاده شود. تا آن زمان، لابیگری فشردهی هر سه شرکت آنتروپیک، اوپنایآی و گوگل احتمالاً ادامه خواهد داشت و بعید نیست شاهد تغییراتی در جزئیات فنی لایحه، از جمله دقیقشدن تعریف «خطر فاجعهبار» یا تعدیل بازهی زمانی ارزیابیها، باشیم.
پرسشهای پرتکرار دربارهی قانون ایمنی هوش مصنوعی ماساچوست
این قانون دقیقاً چه چیزی را الزامی میکند؟
هستهی اصلی این طرح، الزام توسعهدهندگان مدلهای پیشرفتهی هوش مصنوعی به استخدام یک ارزیاب مستقل هر چهار ماه یکبار برای سنجش خطرهای فاجعهبار احتمالی مدلهایشان است.
چرا آنتروپیک با اوپنایآی و گوگل همنظر نیست؟
آنتروپیک معتقد است این سطح از نظارت، ایمنی را بدون آسیب به نوآوری بالا میبرد؛ در حالیکه اوپنایآی و گوگل نگران هزینهها و سردرگمی ناشی از مقررات پراکندهی ایالتی هستند.
این لایحه چه زمانی نهایی میشود؟
لایحه هماکنون در کمیتهی مشترک مجلس و سنای ماساچوست در دست بررسی است و زمان دقیق تصویب نهایی هنوز مشخص نیست.
آیا این قانون روی کاربران عادی هم اثر میگذارد؟
بهطور مستقیم خیر، اما در بلندمدت میتواند روی سرعت انتشار مدلهای جدید و شفافیت گزارشهای ایمنی شرکتهای بزرگ هوش مصنوعی اثر بگذارد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
