شهریور
اخبار
اوپنایآی از قانون ممیزی مستقل هوش مصنوعی در کنگره آمریکا حمایت کرد
اوپنایآی برای اولینبار رسماً از یک طرح نظارتی فدرال حمایت کرد که میتواند قواعد بازی صنعت هوش مصنوعی در آمریکا را برای همیشه تغییر دهد.
لیست مطالب
۱. چرا این خبر برای آیندهی هوش مصنوعی مهم است؟
تا همین چند سال پیش، اغلب شرکتهای بزرگ هوش مصنوعی از هرگونه مقررات سختگیرانه فاصله میگرفتند و ترجیح میدادند خودشان استانداردهای ایمنی را تعیین کنند. حالا اما ورق کمی برگشته است. شرکت OpenAI که سازندهی ChatGPT است، در نشستی با نمایندگان کنگرهی آمریکا اعلام کرد از بخش کلیدی لایحهای به نام FRONTIER Act حمایت میکند؛ بخشی که شرکتهای بزرگ هوش مصنوعی را موظف میکند مدلهای زبانی بزرگ خود را به ارزیابی مستقل بسپارند و گزارشهای ایمنی را علنی منتشر کنند.
این تحول از آن جهت اهمیت دارد که برای اولینبار یکی از بزرگترین بازیگران صنعت، بهجای وعدههای داوطلبانه، پای یک الزام قانونی و لازمالاجرا میایستد. اگر این لایحه در کنگره تصویب شود، دیگر ایمنی مدلهای هوش مصنوعی صرفاً یک شعار بازاریابی نخواهد بود، بلکه یک تعهد قانونی با ضمانت اجرا خواهد شد.
۲. لایحهی FRONTIER Act دقیقاً چه میگوید؟
لایحهی FRONTIER Act به همت جی آبرنولت، نمایندهی جمهوریخواه کالیفرنیا، و لوری تراهان، نمایندهی دموکرات ماساچوست، نوشته شده است. حضور همزمان یک نمایندهی جمهوریخواه و یک نمایندهی دموکرات در پشت این طرح، آن را به یکی از معدود لایحههای واقعاً دوحزبی در حوزهی مقررات هوش مصنوعی تبدیل کرده است؛ موضوعی که این روزها در فضای سیاسی بهشدت قطبی آمریکا کمیاب بهشمار میرود.
بخش مورد حمایت مستقیم OpenAI دقیقاً همان بندی است که یک سازمان مستقل و بیطرف باید بررسی کند آیا پروتکلهای ایمنی هر شرکت، «سطوح قابلقبولی از ریسک فاجعهبار» را کنترل میکند یا نه. به زبان سادهتر، این یعنی یک نهاد بیرونی، نه خود شرکت سازندهی مدل، باید تأیید کند که یک مدل هوش مصنوعی آنقدر خطرناک نیست که رها شود.
۳. چرا OpenAI حالا با مقررات موافق شده؟
این پرسش طبیعی است که چرا شرکتی که پیشتر بارها نسبت به مقررات سختگیرانه محتاط بوده، حالا از یک طرح نظارتی فدرال حمایت میکند. پاسخ را باید در همان جملهای جستوجو کرد که کریس لیهین، مسئول روابط جهانی OpenAI، در این نشست بر زبان آورد. او در جمع قانونگذاران گفت این صنعت وارد فاز کاملاً تازهای از قابلیتهای فنی شده و مدلهای امروزی بهمراتب قدرتمندتر از چند سال پیشاند.
به بیان دیگر، هرچه مدلهای هوش مصنوعی توانمندتر میشوند، ریسک سوءاستفاده یا خطای فاجعهبار هم بالاتر میرود؛ و شرکتهایی مثل OpenAI ترجیح میدهند پیش از آنکه یک حادثهی جدی رخ دهد و افکار عمومی و کنگره واکنش تندتری نشان دهند، خودشان بخشی از راهحل باشند. این رویکرد را میتوان نوعی مدیریت ریسک سیاسی و اجتماعی هم دانست، نه فقط دغدغهی خالص ایمنی.
۴. مرز دقیق حمایت OpenAI کجاست؟
نکتهی مهمی که نباید نادیده گرفت این است که حمایت OpenAI محدود و مشروط است. کریس لیهین بهصراحت گفت: «ما وارد فاز و فصل تازهای از قابلیتهای هوش مصنوعی شدهایم و اطمینان بالایی داریم که شما حصارهای ایمنی لازم را دور آن خواهید ساخت.» با این حال او تأکید کرد که OpenAI از کل بستهی قانونی FRONTIER Act حمایت نمیکند، بلکه فقط از بند مربوط به ممیزی مستقل پشتیبانی میکند.
این تمایز کوچک اما مهم است، چون نشان میدهد OpenAI همچنان میخواهد در جزئیات چارچوب نظارتی نقشآفرینی کند و اجازه ندهد کل قانون بدون ورودی صنعت شکل بگیرد. بسیاری از تحلیلگران این را نوعی «حمایت گزینشی» میدانند؛ استراتژیای که به شرکت اجازه میدهد هم چهرهای مسئولیتپذیر از خود نشان دهد و هم کنترل نسبی بر جزئیات مقررات را حفظ کند.
۵. طرح موازی: راهدادن ارزیابهای مستقل به داخل آزمایشگاهها
همزمان با این حمایت قانونی، مدیران آنتروپیک و OpenAI طرح دیگری را هم رونمایی کردهاند که شباهت زیادی به همین موضوع دارد. براساس این طرح، سازمانهای ارزیابی مستقل مانند METR و Redwood Research میتوانند مستقیماً وارد آزمایشگاههای این دو شرکت شوند و به دادههایی دسترسی پیدا کنند که پیش از این هرگز در اختیار بیرونیها قرار نمیگرفت؛ از جمله چکپوینتهای میانی فرایند آموزش مدل، دادههای پس از آموزش، گزارشهای داخلی ارزیابی و حتی امکان مصاحبه با کارکنان فنی.
هدف اعلامشده از این طرح آن است که ارزیابی ایمنی دیگر فقط محدود به نسخهی نهایی و منتشرشدهی یک مدل نباشد، بلکه از همان مراحل میانی توسعه هم قابل ردیابی باشد. اگر این طرح واقعاً بهدرستی اجرا شود، میتواند یکی از شفافترین اقدامهای داوطلبانهی صنعت هوش مصنوعی در سالهای اخیر باشد.
۶. تردید پژوهشگران: ناظر مستقل یا صرفاً پیمانکار؟
با همهی اینها، بسیاری از پژوهشگران ایمنی هوش مصنوعی نسبت به این طرح داوطلبانه محتاطاند. جوزف میلر، بنیانگذار سازمان PauseAI بریتانیا، معتقد است دولت باید پیشتاز این ماجرا باشد، چون بعید است شرکتها بدون فشار قانونی واقعی، بهطور کامل و پایدار این مسیر را ادامه دهند. به گفتهی او، تعهدهای داوطلبانه همیشه در معرض این خطرند که با تغییر شرایط بازار یا یک بحران روابط عمومی، بهسادگی کنار گذاشته شوند.
پژوهشگران سازمان Apollo Research هم نسبت به کیفیت واقعی این ارزیابیها هشدار دادهاند. آنها اشاره میکنند که در پروژههای ارزیابی پیشین، بازهی زمانی محدود و آگاهی مدل از اینکه در حال ارزیابی است، میتواند نتایج را گمراهکننده کند؛ به این معنا که نرخ پایین خطای مشاهدهشده لزوماً نشانهی ایمنی واقعی مدل نیست. منتقدان دیگر هم نگراناند که این ارزیابها، بهدلیل قراردادهای محرمانگی سختگیرانه، در عمل بیشتر شبیه پیمانکارانی عمل کنند که تحت کنترل ویرایشی شرکتها قرار دارند تا ناظرانی کاملاً مستقل و بیطرف.
۷. شرکای غایب: متا، ایکسایآی و گوگل دیپمایند کجای این ماجرا هستند؟
نکتهی قابلتوجه دیگر این است که این تعهد داوطلبانه فعلاً فقط شامل آنتروپیک و OpenAI میشود. غولهای دیگر این صنعت مانند متا، ایکسایآی و گوگل دیپمایند هنوز هیچگونه تعهد مشابهی اعلام نکردهاند. این شکاف نشان میدهد که صنعت هوش مصنوعی همچنان در برخورد با موضوع ایمنی و شفافیت، رویکردی یکپارچه ندارد و هر شرکت بر اساس محاسبات تجاری و سیاسی خودش تصمیم میگیرد. برای کسانی که میخواهند روند رقابت میان مدلهای مختلف را دنبال کنند، مقایسههایی مانند مقایسهی ChatGPT و DeepSeek تصویر روشنتری از تفاوت رویکرد شرکتهای مختلف ارائه میدهد.
۸. این ماجرا برای کسبوکارها و کاربران ایرانی چه معنایی دارد؟
شاید در نگاه اول، یک لایحهی داخلی در کنگرهی آمریکا به کاربران و کسبوکارهای فارسیزبان ربطی نداشته باشد، اما واقعیت چیز دیگری است. تصمیمهای نظارتی در آمریکا معمولاً الگویی برای سایر کشورها و همچنین برای نحوهی سیاستگذاری شرکتهای بزرگ فناوری در سراسر جهان میشود. کسبوکارهایی که برای خودکارسازی فرایندها یا تولید محتوا به ابزارهایی مانند ChatGPT وابستهاند، باید بدانند که اهمیت هوش مصنوعی در کسبوکار به همان اندازه که به قابلیتهای فنی وابسته است، به قوانین و چارچوبهای نظارتی پشتصحنه هم گره خورده است.
از سوی دیگر، بحث ممیزی مستقل یادآور این نکتهی مهم است که هوش مصنوعی، هرچند قدرتمند، هنوز کامل و بینقص نیست. آشنایی با محدودیتهای واقعی هوش مصنوعی به کاربران و کسبوکارها کمک میکند انتظارات واقعبینانهتری از این ابزارها داشته باشند و کورکورانه به خروجی مدلها اعتماد نکنند؛ موضوعی که در مقالهی توهم هوش مصنوعی در برابر توسعهدهندهی واقعی هم بهتفصیل بررسی شده است.
راهکار عملی برای کاربران فارسیزبان
اگر شما هم از ابزارهای هوش مصنوعی برای کار روزمره استفاده میکنید، بهترین راه این است که همیشه یک لایهی بازبینی انسانی روی خروجی مدلها حفظ کنید و منتظر بمانید تا استانداردهای ایمنی و شفافیت مانند همین لایحه، بهتدریج جا بیفتند. برای یادگیری بهتر نحوهی استفادهی درست و ایمن از این ابزارها، میتوانید سری آموزشهای ChatGPT در سایت Mr ChatGPT را دنبال کنید و همچنین بهصورت مرتب سر بزنید به بخش اخبار هوش مصنوعی برای پیگیری تحولات مشابه در سطح جهانی.
۹. جمعبندی و چشمانداز پیش رو
حمایت OpenAI از بند ممیزی مستقل لایحهی FRONTIER Act، در کنار طرح داوطلبانهی راهدادن ارزیابهای مستقل به آزمایشگاههای OpenAI و آنتروپیک، نشانهای از تغییر لحن صنعت هوش مصنوعی در برابر مقررات است. اما همانطور که پژوهشگران ایمنی هشدار میدهند، فاصلهی زیادی میان یک تعهد داوطلبانه و یک الزام قانونی واقعی وجود دارد. تا زمانیکه مشخص نشود کدام ارزیاب انتخاب میشود، چه میزان دسترسی واقعی خواهد داشت و آیا نتایج بدون سانسور شرکتی منتشر میشود، نمیتوان با اطمینان کامل گفت این طرحها چقدر اثرگذار خواهند بود.
اگر FRONTIER Act در نهایت در کنگرهی آمریکا تصویب شود، برای اولینبار «ممیزی مستقل مدلهای هوش مصنوعی» از یک شعار بازاریابی به یک الزام قانونی با ضمانت اجرا تبدیل خواهد شد؛ اتفاقی که میتواند الگویی برای سایر کشورها هم باشد.
پرسشهای متداول
لایحهی FRONTIER Act دقیقاً چیست؟
لایحهای دوحزبی در کنگرهی آمریکاست که شرکتهای بزرگ هوش مصنوعی را ملزم میکند مدلهای خود را به ارزیابی مستقل بسپارند و گزارشهای ایمنی منتشر کنند.
چرا OpenAI ناگهان موافق مقررات شده است؟
مسئولان OpenAI میگویند با ورود به فاز تازهای از قابلیتهای هوش مصنوعی، ریسکهای احتمالی هم بالاتر رفته و شرکت ترجیح میدهد پیش از وقوع بحران، در تدوین چارچوب نظارتی نقش داشته باشد.
آیا این لایحه تصویب شده است؟
خیر، تا زمان انتشار این مطلب، FRONTIER Act هنوز در مراحل بررسی در کنگرهی آمریکا قرار دارد و فقط بخشی از آن مورد حمایت رسمی OpenAI است.
تفاوت این لایحه با تعهد داوطلبانهی آنتروپیک و OpenAI چیست؟
لایحه یک الزام قانونی با ضمانت اجراست، اما طرح راهدادن ارزیابهای مستقل به آزمایشگاهها، فعلاً یک تعهد داوطلبانه و بدون جزئیات مشخص دربارهی زمانبندی و میزان دسترسی است.
