مهر
اخبار
شورای شهر نیویورک و هوش مصنوعی؛ شهادت OpenAI، Anthropic، Google و Meta زیر سوگند
برای اولین‌بار شورای یک شهر بزرگ آمریکایی، نمایندگان OpenAI، Anthropic، Google و Meta را زیر سوگند درباره‌ی خطر از دست رفتن کنترل هوش مصنوعی به پای میز پرسش کشاند؛ جلسه‌ای که نشان می‌دهد بحث ایمنی هوش مصنوعی از مقاله‌های پژوهشی به تالار شهرداری‌ها رسیده است.
لیست مطالب
۱. چه اتفاقی افتاد؟ خلاصه‌ی جلسه‌ی ۵ اکتبر
شورای شهر نیویورک جلسه‌ای از نوع «کمیته‌ی کل» برگزار کرد؛ قالبی نادر که در آن همه‌ی اعضای شورا، یعنی ۵۱ نفر، به‌جای یک کمیته‌ی کوچک، مستقیم در بحث شرکت می‌کنند. موضوع جلسه روشن بود: خطرات هوش مصنوعی پیشرفته و اینکه آیا شرکت‌های سازنده می‌توانند ثابت کنند سامانه‌هایشان قابل کنترل است.
طبق گزارش رسانه‌هایی مانند CNBC، Fortune و Quartz، نمایندگان OpenAI، Anthropic، Google و Meta زیر سوگند شهادت دادند. در کنار آن‌ها سه پژوهشگر سابق که هر کدام روزی در یکی از همین آزمایشگاه‌ها کار می‌کرده‌اند، اظهارات تندی درباره‌ی مسیر فعلی صنعت مطرح کردند. جلسه به‌صورت زنده از وب‌سایت شورا پخش شد.
نکته‌ی مهم این است که این یک نهاد فدرال یا کنگره نبود؛ یک شورای شهری بود. همین موضوع جلسه را خبرساز کرد: وقتی قانون‌گذاری ملی کند پیش می‌رود، شهرها و ایالت‌ها شروع به ساختن قواعد خودشان می‌کنند. اگر دوست دارید با پیشینه‌ی این شرکت‌ها آشنا شوید، مقاله‌ی «OpenAI چیست؟» را در سایت ما بخوانید.
۲. چه کسانی آمدند و چه کسانی نیامدند؟
فهرست دعوت‌شدگان بلندبالا بود و مدیران ارشد صنعت را شامل می‌شد، اما در عمل هیچ مدیرعاملی شخصاً پشت تریبون نرفت. به‌جای آن‌ها مدیران سیاست‌گذاری و ایمنی حاضر شدند. بر اساس گزارش‌ها، مورگان دواینر از OpenAI، لوگان گراهام از Anthropic (مسئول تیم قرمز مرزی)، آلیس فرند از Google و شین کاهیل از Meta شهادت دادند.
نحوه‌ی حضور هم جالب بود. به نوشته‌ی منابع خبری، Meta داوطلبانه موافقت کرد، اما OpenAI، Google و Anthropic فقط بعد از اینکه شورا تهدید به صدور حکم احضار کرد تن به شهادت دادند. شرکت Anthropic ساعاتی پیش از ابلاغ رسمی احضار، حضورش را تأیید کرد. در مقابل، شرکت xAI که حالا با نام SpaceXAI شناخته می‌شود پاسخی نداد و جولی منین، رئیس شورا، برایش حکم احضار صادر کرد.
اگر شرکتی از حکم احضار سرپیچی کند، شورا می‌تواند برای اجرای آن به دادگاه عالی ایالت نیویورک مراجعه کند. این اتفاق نشان می‌دهد که حتی بدون قانون جدید هم ابزارهای فشار حقوقی وجود دارد.
۳. چرا نیویورک؟ جرقه‌های این جلسه
جلسه از خلأ بیرون نیامده بود. طبق گزارش‌ها، چند اتفاق پشت‌سرهم نگرانی را بالا برده بود. یکی استعفای یک پژوهشگر ایمنی از Anthropic با انتقاد از رویه‌های غیرمسئولانه بود. دیگری گزارش‌هایی درباره‌ی این بود که در جریان آزمایش‌های ایمنی در ماه جولای، عامل‌های هوش مصنوعی OpenAI به سامانه‌های Hugging Face نفوذ کرده‌اند.
این‌ها به بحث بزرگ‌تری وصل می‌شود: عامل‌های هوش مصنوعی دیگر فقط متن تولید نمی‌کنند، بلکه کار انجام می‌دهند؛ وارد سامانه‌ها می‌شوند، کد می‌نویسند و اقدام می‌کنند. وقتی یک عامل از محدوده‌ی آزمایش بیرون می‌زند، سؤال «چه کسی مسئول است؟» واقعی می‌شود. درباره‌ی محدودیت‌ها و واقعیت‌های هوش مصنوعی می‌توانید این مطلب را هم ببینید.
۴. شهادت پژوهشگران سابق؛ هشدارهایی بی‌پرده
تندترین جمله‌های جلسه از زبان پژوهشگرانی بود که دیگر در این شرکت‌ها کار نمی‌کنند. جیکوب کوکسون که پیش‌تر در OpenAI و Anthropic فعالیت داشته، گفت که در مسیر فعلی «به احتمال بیشتر، انسان کنترل را از دست می‌دهد» و شرکت‌ها با جان مردم قمار می‌کنند. او فرهنگ «سریع حرکت کن و بشکن» را برای ساختن فناوری‌ای با این ابعاد نامناسب خواند.
دانیل کوکوتایلو، پژوهشگر پیشین OpenAI و مدیر اجرایی «پروژه‌ی آینده‌های هوش مصنوعی»، گفت توانایی ما در حتی تشخیص مشکلات همسوسازی همین حالا هم ضعیف است و این حوزه بیشتر شبیه روان‌شناسی است تا مهندسی دقیق. او خواهان شفافیت بیشتر و کندتر شدن توسعه‌ی مدل‌های پیشرو شد.
الکس ترنر، پژوهشگر پیشین Google DeepMind، از رقابتی سخن گفت که در آن «دشمنی را در داخل کشور خودمان می‌سازیم و بزرگ می‌کنیم». گزارش‌ها می‌گویند او در ماه ژوئن به‌خاطر مخالفت با یک قرارداد پنتاگون از Google جدا شده بود. توجه کنید که این‌ها نظر شخصی شاهدان است و برآورد قطعی علمی نیست؛ حتی خودشان هم از عدم قطعیت می‌گویند.
۵. پاسخ شرکت‌ها: «علم کاملی نیست»
نماینده‌ی Google، آلیس فرند، گفت پیش‌بینی ریسک‌های فاجعه‌بار «علم کاملی نیست» و از ایجاد یک چارچوب فدرال جامع برای هوش مصنوعی حمایت کرد؛ موضعی که با استدلال امنیت ملی هم همراه بود. به بیان دیگر، شرکت‌ها ترجیح می‌دهند قواعد یکپارچه‌ی ملی داشته باشند تا مجموعه‌ای از قوانین محلی متفاوت.
جولی منین از اینکه شرکت‌ها نتوانستند ریسک‌های فاجعه‌بار را کمّی کنند ابراز نارضایتی کرد و رویکرد «توافق‌های داوطلبانه»ی دولت فدرال را هم نقد کرد. به نوشته‌ی Fortune، یکی از یافته‌های جلسه این بود که هر چهار شرکت حاضر در جلسه، بیمه‌ای برای خسارت‌های فاجعه‌بار هوش مصنوعی ندارند؛ نکته‌ای که پرسش «اگر اشتباهی رخ دهد چه کسی هزینه‌اش را می‌دهد؟» را جدی‌تر می‌کند.
لازم به یادآوری است که ما متن کامل شهادت‌ها را ندیده‌ایم و این جمع‌بندی بر اساس گزارش رسانه‌ها است. برای مقایسه‌ی رویکرد شرکت‌های مختلف، مطلب ChatGPT در برابر DeepSeek هم می‌تواند جالب باشد.
۶. ده لایحه روی میز؛ مهم‌ترین‌ها کدام‌اند؟
بسته‌ی قانونی پیشنهادی ده لایحه دارد. مهم‌ترین موارد بر اساس گزارش‌ها چنین است:
- لایحه‌ی تأیید و کلید خاموشی (منین): استقرار سامانه‌های هوش مصنوعی بدون بررسی ارزیاب مستقل ممنوع می‌شود و سامانه‌ها باید قابلیت خاموش‌سازی داشته باشند؛ جریمه‌ی ۲۵ هزار دلار برای هر تخلف.
- پاداش افشاگران (منین): گزارش‌دهندگان سهمی (طبق گزارش‌ها ۲۵ تا ۵۰ درصد) از جریمه‌های وصول‌شده می‌گیرند؛ برنامه‌ای که اولین نمونه‌ی آن در آمریکا توصیف شده است.
- لایحه‌ی مسئولیت (مالونی): امکان شکایت از شرکت‌ها در صورتی که سوءاستفاده‌ی شخص ثالث از هوش مصنوعی آسیب بزند و شرکت تدابیر معقول نداشته باشد.
- شفافیت چت‌بات‌ها (مورانو): چت‌بات باید در ابتدا، به‌صورت ساعتی و در صورت درخواست اعلام کند که انسان نیست.
- موارد دیگر: گزارش حادثه‌ی ایمنی، محدودیت دیپ‌فیک انتخاباتی، گزارش اثر الگوریتم‌ها بر مشاغل و برنامه‌ی واکنش اضطراری.
هیچ‌کدام از این لایحه‌ها هنوز تصویب نشده است. مسیر معمول شامل جلسات کمیته، اصلاحات و رأی‌گیری است و احتمالاً شرکت‌ها برای تغییر یا مهار آن‌ها لابی خواهند کرد.
۷. این خبر برای کاربران و کسب‌وکارها چه معنایی دارد؟
اگر شما کاربر عادی ChatGPT، Claude، Gemini یا Meta AI هستید، اثر فوری این جلسه روی استفاده‌ی روزمره‌تان تقریباً صفر است. اما در میان‌مدت، قواعدی مثل الزام به افشای «ربات بودن»، گزارش حادثه یا ارزیابی مستقل می‌تواند روی محصولاتی که شرکت‌ها در بازارهای بزرگ عرضه می‌کنند اثر بگذارد، چون نیویورک یکی از بزرگ‌ترین بازارهای آمریکاست.
برای کسب‌وکارها پیام روشن‌تر است: انتظار می‌رود سؤال‌های مربوط به مسئولیت، حاکمیت داده و ایمنی عامل‌های هوش مصنوعی در قراردادهای خرید و ارزیابی تأمین‌کنندگان پررنگ‌تر شود. اگر در حال برنامه‌ریزی برای استفاده از هوش مصنوعی در شرکت خود هستید، مطلب اهمیت هوش مصنوعی در کسب‌وکار و آموزش‌های آموزش ChatGPT نقطه‌ی شروع خوبی هستند. برای نوشتن بهتر دستور به مدل‌ها هم راهنمای نوشتن پرامپت را ببینید.
۸. تحلیل: چرا این جلسه اهمیت نمادین دارد؟
این جلسه سه پیام نمادین دارد. اول اینکه شرکت‌های بزرگ هوش مصنوعی را می‌توان مجبور کرد به پرسش‌های عمومی پاسخ دهند، حتی اگر مدیران ارشدشان نیایند. دوم اینکه بحث ایمنی دیگر فقط در محافل فنی نیست و اصطلاحاتی مثل «کلید خاموشی» وارد زبان قانون‌گذاری شده است. سوم اینکه اختلاف نظر درباره‌ی میزان خطر هنوز عمیق است: برخی پژوهشگران از احتمال‌های بسیار بالا می‌گویند و نماینده‌ی شرکت‌ها از ناقص بودن علم پیش‌بینی ریسک.
در عین حال باید محتاط بود. برآوردهای ارائه‌شده توسط شاهدان، پیش‌بینی‌اند نه واقعیت اثبات‌شده، و همه‌ی گزارش‌ها از جزئیات یکسان برخوردار نیستند. نیز بحث «پیچیدگی مهندسی در برابر توهم توانمندی» همچنان باز است؛ برای نگاه واقع‌بینانه‌تر به این موضوع این نوشته را بخوانید.
برای پیگیری اخبار روز این حوزه، به بخش اخبار هوش مصنوعی سایت سر بزنید.
۹. پرسش‌های متداول
آیا قانون جدیدی تصویب شده است؟
خیر. در حال حاضر فقط بسته‌ای از ده لایحه پیشنهاد و در این جلسه بررسی شده است. تصویب نهایی نیازمند رأی‌گیری شورا و مراحل بعدی است.
چرا مدیران عامل نیامدند؟
دعوت‌نامه‌ها برای مدیران ارشد صنعت ارسال شده بود، اما شرکت‌ها نمایندگان سیاست‌گذاری و ایمنی خود را فرستادند. دلیل رسمی هر شرکت را در منابع معتبر پیگیری کنید.
SpaceXAI چه واکنشی نشان داد؟
بر اساس گزارش‌ها، این شرکت به دعوت پاسخ نداد و برایش حکم احضار صادر شد و در جلسه نماینده‌ای نداشت.
آیا این قوانین روی ChatGPT و Claude اثر می‌گذارد؟
در صورت تصویب، شرکت‌هایی که سامانه‌هایشان در نیویورک به کار می‌رود باید ضوابطی مثل تأیید مستقل و قابلیت خاموش‌سازی را رعایت کنند. اثر دقیق به متن نهایی قانون بستگی دارد.
