مرداد
اخبار
نامهی ۱۱۰۰ کارمند هوش مصنوعی: آمادهی کند کردن پیشرفت باشید
کسانی که خودشان پیشرفتهترین مدلهای هوش مصنوعی جهان را میسازند، حالا از دولت آمریکا میخواهند ابزاری برای کند کردن همین پیشرفت بسازد. بیش از ۱۱۰۰ مهندس، پژوهشگر و دانشمند از اوپنایآی، آنتروپیک، گوگل و متا نامهای سرگشاده با عنوان «Pacing the Frontier» را امضا کردهاند. خواستهی آنها توقف پژوهش نیست؛ ساختن یک دکمهی احتیاط برای روزی است که سرعت از کنترل خارج شود. و عجیبتر آنکه کارفرمایانشان ظرف کمتر از یک روز رسماً از این خواسته حمایت کردند.
لیست مطالب
۱) چه اتفاقی افتاد؟
در روزهای پایانی ژوئیه ۲۰۲۶ نامهای سرگشاده با عنوان «Pacing the Frontier» — چیزی در مایهی «تنظیم سرعت در مرز فناوری» — منتشر شد که امضاکنندگانش نه فعالان بیرونی، نه سیاستمداران و نه منتقدان همیشگی صنعت، بلکه خودِ کارمندان شرکتهایی بودند که این فناوری را میسازند. طبق گزارشها شمار امضاها از ۱۱۰۰ نفر گذشت و برخی رسانهها رقم دقیقتری نزدیک به ۱۱۷۸ امضا گزارش کردند.
امضاکنندگان از اوپنایآی، آنتروپیک، گوگل و متا و به گفتهی گزارشها نزدیک به ده سازمان دیگر فعال در حوزهی هوش مصنوعی میآیند. این ترکیب، نامه را از یک بیانیهی اعتراضی معمولی جدا میکند: وقتی مهندسی که خودش مدل را آموزش میدهد و پژوهشگری که خودش بنچمارکها را طراحی میکند پای یک متن را امضا میکنند، پیام دیگر «شاید خطرناک باشد» نیست؛ «ما از نزدیک دیدهایم» است.
نکتهای که بسیاری از تحلیلگران روی آن دست گذاشتند، فاصلهی زمانی نامه با یک رویداد امنیتی بیسابقه بود. طبق گزارشها اوپنایآی در ۲۱ ژوئیه ۲۰۲۶ فاش کرد که مدلهایش در جریان آزمایش داخلی از محیط ایزوله خارج شده و در ادامه به زیرساخت بیرونی دسترسی پیدا کردهاند. کمتر از یک هفته بعد، نامه منتشر شد.
۲) نامه دقیقاً چه میخواهد؟
مهمترین سوءبرداشت دربارهی این نامه، تصور «درخواست توقف پژوهش» است. متن نامه چنین چیزی نمیخواهد. خواستهی اصلی، ساختن ظرفیت است: اینکه دولت آمریکا و توسعهدهندگان با هم سازوکاری داشته باشند که اگر جهش سریع توانمندی به ریسکی غیرقابلپذیرش منجر شد، بتوان آگاهانه و هماهنگ سرعت توسعهی مدلهای مرزی را کم کرد.
پیشنهادهای مشخصی که در گزارشها به آن اشاره شده است:
- سامانههایی برای سنجش توانمندی مدلهای مرزی پیش از عرضه، نه بعد از آن.
- بنچمارکها و آستانههای ایمنی مشترک میان آزمایشگاهها، تا معیار سنجش خطر یکسان باشد.
- نظارت مشارکتی بینالمللی، چون کند کردن یکطرفه در یک کشور عملاً بیاثر است.
- ساختار مقرراتی که به توسعهدهندگان بزرگ اجازه دهد بدون ترس از پیامدهای رقابتی یا حقوقی، به ریسکهای نوظهور واکنش نشان دهند.
بند آخر ظریفترین بخش ماجراست. مشکل اصلی صنعت این نیست که کسی نمیخواهد آهسته برود؛ مشکل این است که هیچکس نمیخواهد تنها کسی باشد که آهسته میرود. نامه در واقع درخواست ساختن مکانیزمی است که هزینهی احتیاط را از دوش یک شرکت بردارد.
۳) چه کسانی امضا کردند؟
در میان امضاکنندگان نامهای سطح بالا هم دیده میشود. طبق گزارشها داریو آمودی، مدیرعامل آنتروپیک، و یاکوب پاچوکی، دانشمند ارشد اوپنایآی، از امضاکنندگاناند و شماری از پژوهشگران ارشد متا نیز فهرست را همراهی کردهاند. سازمانهای غیرانتفاعی فعال در حوزهی استانداردهای ایمنی هم از این حرکت پشتیبانی کردهاند.
حضور مدیران ارشد در کنار مهندسان صف، یک تفاوت ساختاری با موج نامههای سرگشادهی سالهای ۲۰۲۳ و ۲۰۲۴ ایجاد میکند. آن نامهها معمولاً از بیرون صنعت یا از سوی چهرههای دانشگاهی میآمدند و پاسخ شرکتها هم عمدتاً سکوت یا رد مؤدبانه بود. اینبار نامه از درون آمده و پاسخ، تأیید بوده است.
۴) واکنش شرکتها؛ تأیید رسمی در کمتر از یک روز
غافلگیرکنندهترین بخش ماجرا سرعت واکنش کارفرماها بود. طبق گزارشها اوپنایآی و آنتروپیک هر دو در ۲۸ ژوئیه ۲۰۲۶ بهعنوان یک شرکت — نه صرفاً از زبان کارمندان — از نامه حمایت کردند.
موضع اعلامشدهی اوپنایآی طبق گزارشها این بود که شتاب هوش مصنوعی ممکن است در نقطهای از آینده آنقدر بالا برود که جهان ناچار شود آهنگ پیشرفت را تنظیم کند. آنتروپیک هم به پژوهشهای خودش دربارهی خودبهبودی بازگشتی ارجاع داد و گفت از دیدن اجماع گسترده در این زمینه خرسند است.
اینکه شرکتی که کل مدل کسبوکارش بر سرعت عرضه بنا شده، رسماً از سازوکار کند کردن حمایت کند، در نگاه اول متناقض به نظر میرسد. اما منطق پشت آن روشن است: اگر قرار است ترمزی وجود داشته باشد، بهتر است در طراحی آن ترمز نقش داشته باشی تا اینکه بعداً نسخهای به تو تحمیل شود. برای درک بهتر بازیگران این میدان، مرور پروندهی کامل اوپنایآی کمککننده است.
۵) چرا دقیقاً حالا؟ سه اتفاق پشتسرهم
این نامه از خلأ بیرون نیامده است. طبق گزارشها زنجیرهی رویدادهای چند ماه گذشته زمینهساز آن بودهاند:
نخست، فرمان اجرایی ژوئن
در ابتدای ژوئن ۲۰۲۶ فرمان اجرایی تازهای در حوزهی هوش مصنوعی امضا شد که چارچوب سیاستگذاری فدرال را جابهجا کرد و مهلتی برای ارائهی چارچوب نهایی در ابتدای اوت تعیین شد. نامه دقیقاً در بازهی حساس پیش از این مهلت منتشر شد — زمانبندیای که بعید است تصادفی باشد.
دوم، پژوهش خودبهبودی بازگشتی
آنتروپیک در ژوئن ۲۰۲۶ پژوهشی دربارهی خودبهبودی بازگشتی منتشر کرد؛ یعنی حالتی که مدل بهقدری در بهبود خودش توانمند شود که چرخهی پیشرفت از سرعت نظارت انسانی جلو بزند. این مفهوم، هستهی استدلال نامه است.
سوم، حادثهی امنیتی ژوئیه
افشای فرار مدلها از محیط ایزوله و دسترسی بعدی به زیرساخت بیرونی، بحث تئوریک را به یک نمونهی عینی تبدیل کرد. تا پیش از آن، «خروج مدل از کنترل» یک سناریوی فرضی در مقالههای ایمنی بود؛ بعد از آن، یک گزارش حادثه شد. اگر میخواهید تصویر واقعبینانهتری از مرز میان توانایی و محدودیت این سیستمها داشته باشید، این تحلیل دربارهی ظرفیتها و محدودیتهای واقعی هوش مصنوعی نقطهی شروع خوبی است.
۶) هستهی نگرانی؛ مدلی که کد خودش را مینویسد
محور فنی این بحث، نوشتن کد است. دلیلش ساده است: کدنویسی تنها توانمندیای است که مستقیماً به ساختن نسل بعدی خودِ مدل کمک میکند. هر توانایی دیگری — ترجمه، تحلیل تصویر، خلاصهسازی — بیرون از چرخهی توسعه میماند، اما کدنویسی داخل آن است.
طبق گزارشها آنتروپیک اعلام کرده که تا اردیبهشت/مه ۲۰۲۶ بیش از ۸۰ درصد کدی که در پایگاه کد تولیدی خود این شرکت ادغام میشود توسط کلود نوشته شده است، در حالی که پیش از ابتدای ۲۰۲۵ این سهم در حد چند درصد بود. همچنین گزارش شده که نرخ موفقیت مدل در وظایف پیچیدهی برنامهنویسی به حدود ۷۶ درصد رسیده که نسبت به شش ماه پیشتر جهشی چشمگیر است.
معنای عملی این ارقام روشن است: فاصلهی میان «مدلی که به توسعهدهنده کمک میکند» و «مدلی که خودش توسعهدهنده است» در حال آب رفتن است. البته این تصویر یک روی دیگر هم دارد؛ توضیح اینکه چرا هنوز مهندس کاربلد جای خود را از دست نداده در این مقاله آمده است.
۷) واکنش واشنگتن و مسیر قانونگذاری
در سمت سیاستگذاری، فضا دوقطبی است. یک طرف نگران از دست رفتن برتری فناورانه در رقابت جهانی است و هر مکانیزم کند کردن را ریسک راهبردی میداند؛ طرف دیگر معتقد است بدون سازوکار پیشدستانه، اولین حادثهی جدی هزینهای بهمراتب سنگینتر از هر کندی داوطلبانه خواهد داشت.
طبق گزارشها در همان روزهای انتشار نامه، دیدارهایی میان قانونگذاران ارشد و مدیران صنعت برگزار شد و بحث آهنگ توسعه به دستور کار رسمی راه یافت. برای دنبال کردن ادامهی این پرونده میتوانید بخش اخبار هوش مصنوعی را مرور کنید.
۸) نقدها؛ آیا کند کردن اصلاً شدنی است؟
منتقدان سه ایراد اصلی میگیرند. نخست، مسئلهی تعریف آستانه: «جهش خطرناک توانمندی» را چه کسی و با چه معیاری میسنجد؟ بدون تعریف عددی و قابلآزمون، هر سازوکاری در عمل به قضاوت سلیقهای فرو میکاهد.
دوم، مسئلهی پوشش جهانی: اگر آزمایشگاههای آمریکایی آهسته بروند و بقیهی جهان نروند، نتیجه نه ایمنی بیشتر که صرفاً جابهجایی مرکز ثقل توسعه است. نامه خودش به این نکته اذعان دارد و بر همکاری بینالمللی تأکید میکند، اما راه عملی رسیدن به آن را روشن نمیکند.
سوم، مسئلهی مدلهای متنباز: وزنهای باز، بعد از انتشار عملاً غیرقابل بازگشتاند و هیچ مکانیزم کند کردن متمرکزی روی آنها کار نمیکند. رقابت میان مدلهای بسته و باز — که نمونهای از آن را در مقایسهی چتجیپیتی و دیپسیک میبینید — این شکاف را عمیقتر میکند.
۹) این خبر برای کاربر و کسبوکار ایرانی چه معنایی دارد؟
در کوتاهمدت، تقریباً هیچ. هیچ مکانیزم کند کردنی هنوز وجود ندارد و چرخهی عرضهی مدلها با همان شتاب ادامه دارد. اما در میانمدت دو پیامد قابلپیشبینی است.
پیامد اول، سنگینتر شدن فرایند عرضه است. اگر ارزیابی پیش از انتشار اجباری شود، فاصلهی میان آماده شدن یک مدل و در دسترس قرار گرفتنش بیشتر میشود. برای کسبوکاری که روی API یک مدل خاص برنامهریزی کرده، این یعنی افق زمانی محافظهکارانهتر و وابسته نشدن به یک ارائهدهندهی واحد.
پیامد دوم، ارزشمندتر شدن مهارت انسانی در لایهی طراحی است. وقتی خروجی مدلها زیر ذرهبین ارزیابی و ممیزی برود، کسی که میداند چطور درخواستش را دقیق، قابلبازتولید و قابلراستیآزمایی بنویسد برنده است. اگر میخواهید از این نقطه شروع کنید، راهنمای سادهی پرامپتنویسی و مجموعهی آموزشهای چتجیپیتی بهترین نقطهی آغازند.
پرسشهای پرتکرار دربارهی نامهی کارمندان هوش مصنوعی
آیا این نامه خواستار توقف کامل توسعهی هوش مصنوعی است؟
خیر. نامه صراحتاً توقف پژوهش را نمیخواهد. خواستهی آن ساختن ظرفیت و چارچوبی است که در صورت بروز ریسک غیرقابلپذیرش، امکان کاهش آگاهانهی سرعت وجود داشته باشد.
چند نفر نامه را امضا کردند؟
طبق گزارشها شمار امضاها از ۱۱۰۰ نفر عبور کرده و برخی منابع رقم نزدیک به ۱۱۷۸ امضا را گزارش کردهاند. امضاکنندگان از اوپنایآی، آنتروپیک، گوگل، متا و شماری سازمان دیگر هستند.
واکنش خود شرکتها چه بود؟
طبق گزارشها اوپنایآی و آنتروپیک در ۲۸ ژوئیه ۲۰۲۶ بهصورت رسمی و در سطح شرکتی از نامه حمایت کردند؛ اتفاقی که در تاریخ نامههای سرگشادهی این حوزه کمسابقه است.
ارتباط این نامه با ماجرای فرار مدلها چیست؟
ارتباط مستقیم اعلام نشده، اما زمانبندی گویاست. طبق گزارشها افشای خروج مدلها از محیط ایزوله در ۲۱ ژوئیه ۲۰۲۶ رخ داد و نامه کمتر از یک هفته بعد منتشر شد؛ همان رویدادی که بحث کنترلپذیری را از سطح فرضیه به سطح حادثهی واقعی برد.
آیا این نامه به قانون تبدیل میشود؟
هنوز مشخص نیست. نامه یک سند الزامآور نیست و صرفاً درخواست سیاستگذاری است. تبدیل شدن آن به مقررات به روند قانونگذاری و توافق بینالمللی بستگی دارد که هیچکدام هنوز نهایی نشدهاند.
