آلتمن و آمدی در سازمان ملل؛ هشدار مشترک درباره ریسک‌های هوش مصنوعی

چکیده. در آستانه‌ی هفته‌ی مجمع عمومی سازمان ملل، سام آلتمن و داریو آمدی قرار است به‌طور مستقیم شورای امنیت را درباره ریسک‌های هوش مصنوعی بریفینگ کنند. پیش از این رویداد، شرکت OpenAI از راهکارهای تازه‌ای برای ردیابی و گزارش‌دهی رفتارهای نگران‌کننده‌ی مدل‌ها رونمایی کرده و خواستار رهبری آمریکا در تدوین استانداردهای جهانی شده است. همزمان، حدود بیست کشور بدون حضور آمریکا و چین، طرح مشترکی برای نظارت بین‌المللی بر هوش مصنوعی امضا کرده‌اند؛ نشانه‌ای از شکاف رو به رشد میان قدرت‌های اصلی این حوزه.

۱. چرا این هفته برای دیپلماسی هوش مصنوعی مهم است

هفته‌ی مجمع عمومی سازمان ملل معمولاً میزبان بحث‌های کلان سیاسی و اقتصادی است، اما امسال هوش مصنوعی جایگاه ویژه‌ای در تقویم رویدادها پیدا کرده است. برای اولین بار، شورای امنیت سازمان ملل جلسه‌ای اختصاصی برای شنیدن دیدگاه مستقیم مدیران عامل بزرگ‌ترین شرکت‌های هوش مصنوعی جهان برگزار می‌کند. این تصمیم نشان می‌دهد که نهادهای بین‌المللی دیگر هوش مصنوعی را صرفاً یک موضوع فناورانه نمی‌بینند، بلکه آن را در ردیف مسائل امنیتی و ژئوپلیتیکی قرار داده‌اند، در کنار موضوعاتی مانند تسلیحات هسته‌ای یا امنیت سایبری.

تا همین چند سال پیش، بحث‌های حکمرانی هوش مصنوعی عمدتاً در نشست‌های تخصصی فناوری یا کنفرانس‌های صنعتی مطرح می‌شد. رسیدن این موضوع به بالاترین سطح تصمیم‌گیری امنیتی جهان، یعنی شورای امنیت سازمان ملل، نشانه‌ای از سرعت غیرمعمول رشد این فناوری و نگرانی فزاینده‌ی دولت‌ها از عقب افتادن در وضع قوانین مناسب است. بسیاری از دیپلمات‌ها این نشست را نقطه‌ی عطفی می‌دانند که می‌تواند الگوی نشست‌های مشابه در سال‌های آینده را تعیین کند.

برای آشنایی بیشتر با ماهیت این شرکت و مسیر تأسیس آن، می‌توانید مقاله‌ی OpenAI چیست و چگونه شکل گرفت را در سایت Mr ChatGPT بخوانید.

۲. سام آلتمن و داریو آمدی؛ رقیبان دیروز، هم‌صدایان امروز

OpenAI و Anthropic در بازار محصولات هوش مصنوعی رقیبان مستقیم یکدیگرند؛ ChatGPT و Claude هر روز برای جذب کاربران و توسعه‌دهندگان با هم رقابت می‌کنند. اما حضور هم‌زمان سام آلتمن و داریو آمدی در یک نشست دیپلماتیک درباره ایمنی هوش مصنوعی، تصویری متفاوت از این رقابت ارائه می‌دهد. به نظر می‌رسد هر دو شرکت به این جمع‌بندی رسیده‌اند که برخی ریسک‌ها آن‌قدر بزرگ هستند که نمی‌توان آن‌ها را صرفاً به رقابت بازار سپرد.

۲.۱ یک صف‌بندی تازه در صنعت

ناظران این حوزه معتقدند این همراهی می‌تواند آغاز یک الگوی تازه باشد: رقابت شدید بر سر محصول و بازار، اما همکاری نسبی بر سر قواعد بازی. چنین رویکردی پیش‌تر هم در صنایع دیگر مانند خودروسازی و دارو دیده شده، جایی که رقبا برای تدوین استانداردهای ایمنی مشترک دور یک میز نشسته‌اند.

۳. پیشنهاد تازه‌ی OpenAI برای ردیابی ناهم‌راستایی مدل‌ها

پیش از سخنرانی آلتمن، شرکت OpenAI جزئیات طرحی را منتشر کرد که هدف آن ردیابی دقیق‌تر رفتارهای ناهم‌راستا یا غیرمنتظره‌ی مدل‌های هوش مصنوعی است. این شرکت پیشنهاد داده که افشای منظم چنین رخدادهایی به یک رویه‌ی استاندارد در سطح صنعت تبدیل شود، مشابه گزارش‌دهی حوادث ایمنی در صنایع هوانوردی یا دارویی. این رویکرد به تنظیم‌گران و پژوهشگران امکان می‌دهد الگوهای خطرناک را زودتر شناسایی کنند، پیش از آنکه به مقیاس بزرگ‌تری برسند.

۳.۱ چرا شفافیت داوطلبانه اهمیت دارد

در نبود قوانین الزام‌آور بین‌المللی، بسیاری از اقدامات ایمنی شرکت‌های بزرگ هوش مصنوعی همچنان داوطلبانه است. منتقدان می‌گویند اتکای صرف به خودتنظیمی شرکت‌ها کافی نیست، چون منافع تجاری می‌تواند در تضاد با افشای کامل رخدادها قرار بگیرد. در مقابل، طرفداران این رویکرد معتقدند شفافیت داوطلبانه، حتی اگر ناقص باشد، بهتر از سکوت کامل است و می‌تواند مبنایی برای قوانین الزام‌آور آینده فراهم کند. طرح تازه‌ی OpenAI دقیقاً در همین فضای بینابینی قرار می‌گیرد؛ نه یک قانون اجباری، بلکه یک هنجار صنعتی پیشنهادی که امیدوارند رقبا نیز به آن بپیوندند.

برای درک بهتر مرزهای واقعی و محدودیت‌های فعلی این فناوری، مقاله‌ی پتانسیل واقعی و محدودیت‌های هوش مصنوعی در سایت Mr ChatGPT را از دست ندهید.

۴. شش رخداد نگران‌کننده که زمینه‌ساز این تصمیم شد

پیش‌تر در همین ماه، OpenAI شش رخداد تازه از رفتارهای نگران‌کننده‌ی مدل‌های خود را تحت چارچوب گزارش‌دهی جدیدش افشا کرده بود. این افشاگری، هرچند برای برند این شرکت هزینه‌ی رسانه‌ای داشت، اما به‌عنوان مدرکی از تعهد به شفافیت مطرح شد. تحلیلگران معتقدند همین رخدادها یکی از محرک‌های اصلی برای طرح تازه‌ی ردیابی ناهم‌راستایی و همچنین دعوت آلتمن به سخنرانی در سازمان ملل بوده‌اند.

۵. بیست کشور، یک طرح، بدون آمریکا و چین

یکی از جالب‌توجه‌ترین بخش‌های این ماجرا، امضای یک طرح نظارتی مشترک توسط حدود بیست کشور است؛ طرحی که در آن نه آمریکا حضور دارد و نه چین. این دو کشور که میزبان بزرگ‌ترین آزمایشگاه‌های هوش مصنوعی جهان هستند، همچنان ترجیح داده‌اند مسیر جداگانه‌ای برای سیاست‌گذاری داخلی خود دنبال کنند. غیبت آن‌ها از این طرح مشترک، پرسش‌های جدی درباره‌ی اثربخشی هر گونه چارچوب نظارتی جهانی بدون همراهی این دو ابرقدرت فناوری ایجاد کرده است.

کشورهای امضاکننده‌ی این طرح عمدتاً از اروپا، آسیای شرقی و برخی اقتصادهای نوظهور هستند؛ کشورهایی که خودشان آزمایشگاه‌های بزرگ هوش مصنوعی در اختیار ندارند، اما نگران پیامدهای اجتماعی، اقتصادی و امنیتی این فناوری بر شهروندان و بازارهای کارشان هستند. از دید این کشورها، شکل‌گیری یک استاندارد جهانی، حتی بدون حضور آمریکا و چین در ابتدا، می‌تواند فشاری تدریجی برای پیوستن این دو ابرقدرت در آینده ایجاد کند؛ رویکردی که پیش‌تر در برخی توافق‌های زیست‌محیطی و تجاری بین‌المللی نیز تجربه شده بود.

این وضعیت را می‌توان در ادامه‌ی رقابت گسترده‌تر فناوری میان شرق و غرب دید؛ برای نمونه‌ای دیگر از این رقابت در حوزه‌ی مدل‌های هوش مصنوعی، مقاله‌ی مقایسه‌ی ChatGPT و DeepSeek در سایت را بخوانید.

۶. چرا واشنگتن و پکن هنوز پشت میز ننشسته‌اند

کارشناسان چند دلیل برای غیبت آمریکا و چین از این طرح مشترک بیستگانه مطرح می‌کنند: نگرانی از عقب افتادن در رقابت فناورانه، تمایل به حفظ برتری نظامی و اقتصادی حاصل از هوش مصنوعی پیشرفته، و تردید درباره‌ی قابلیت اجرای واقعی چنین توافق‌هایی. OpenAI در بیانیه‌ی خود صراحتاً از دولت آمریکا خواسته به‌جای کناره‌گیری، رهبری تدوین استانداردهای فنی جهانی را برعهده بگیرد؛ پیشنهادی که می‌تواند بر سیاست‌های آتی کاخ سفید در قبال تنظیم‌گری هوش مصنوعی تأثیر بگذارد.

از منظر چین، داستان کمی متفاوت است. این کشور در سال‌های اخیر چارچوب‌های نظارتی داخلی خاص خود را برای هوش مصنوعی مولد وضع کرده و ترجیح می‌دهد به‌جای پیوستن به توافق‌های چندجانبه‌ای که آمریکا در آن‌ها نفوذ دارد، مسیر مستقل خود را دنبال کند. این دوگانگی رویکرد میان دو ابرقدرت، یکی از بزرگ‌ترین چالش‌های پیش‌روی هر گونه تلاش برای حکمرانی جهانی و هماهنگ هوش مصنوعی است؛ چالشی که به احتمال زیاد در نشست‌های آینده‌ی سازمان ملل نیز بارها تکرار خواهد شد.

۷. پیامدها برای کسب‌وکارها و توسعه‌دهندگان

هر تصمیمی که از دل این نشست‌های دیپلماتیک بیرون بیاید، دیر یا زود به سیاست‌های شرکت‌ها و حتی شرایط استفاده از ابزارهایی مانند ChatGPT و Claude راه پیدا می‌کند. کسب‌وکارهایی که به‌طور روزانه از هوش مصنوعی برای تولید محتوا، تحلیل داده یا خودکارسازی فرایندها استفاده می‌کنند، باید آماده‌ی الزامات شفافیت و گزارش‌دهی بیشتری در آینده باشند. برای درک بهتر جایگاه هوش مصنوعی در کسب‌وکار امروز، مقاله‌ی چرا هوش مصنوعی برای کسب‌وکار ۲۰۲۵ مهم است را در سایت بخوانید.

از سوی دیگر، کاربران عادی و توسعه‌دهندگان ایرانی که با ابزارهای هوش مصنوعی کار می‌کنند نیز می‌توانند از آموزش‌های عملی سایت بهره ببرند؛ مجموعه‌ی آموزش‌های ChatGPT راهنمای خوبی برای استفاده‌ی بهتر و ایمن‌تر از این ابزارهاست. حتی چیزی به‌سادگی نوشتن یک پرامپت دقیق‌تر، بخشی از مهارت‌های ضروری در دوره‌ای است که استانداردهای استفاده از هوش مصنوعی روزبه‌روز جدی‌تر می‌شود؛ راهنمای نوشتن پرامپت برای مبتدیان نقطه‌ی شروع خوبی برای این مهارت است.

۸. نقش انسان در نظارت بر هوش مصنوعی همچنان کلیدی است

یکی از نکاتی که کمتر در تیترهای خبری دیده می‌شود این است که هیچ چارچوب نظارتی، هر قدر هم پیشرفته، جای بررسی انسانی و مهندسی دقیق را نمی‌گیرد. همان‌طور که در بحث‌های مربوط به کدنویسی با هوش مصنوعی هم مطرح شده، تفاوت میان اتکای کورکورانه به خروجی مدل و نظارت مهندسی واقعی می‌تواند نتیجه‌ی یک پروژه را کاملاً متفاوت کند؛ موضوعی که در مقاله‌ی توهم هوش مصنوعی؛ توسعه‌دهنده‌ی تنها در برابر مهندس واقعی به‌تفصیل بررسی شده است.

۹. پرسش‌های پرتکرار درباره این خبر

چرا سام آلتمن و داریو آمدی با هم در سازمان ملل صحبت می‌کنند؟
چون هر دو شرکت آن‌ها را به‌عنوان صداهای اصلی صنعت هوش مصنوعی برای بریفینگ شورای امنیت درباره ریسک‌های ایمنی دعوت کرده‌اند؛ موضوعی که فراتر از رقابت تجاری آن‌هاست.

طرح تازه‌ی OpenAI برای ردیابی ناهم‌راستایی دقیقاً چیست؟
این شرکت پیشنهاد داده رفتارهای غیرمنتظره یا خطرناک مدل‌ها به‌طور منظم و شفاف گزارش شوند، مشابه رویه‌های گزارش‌دهی حوادث در صنایع پرریسک دیگر.

چرا آمریکا و چین طرح مشترک بیست کشور را امضا نکرده‌اند؟
به گفته‌ی کارشناسان، هر دو کشور نگران عقب افتادن در رقابت فناورانه هستند و ترجیح می‌دهند سیاست‌گذاری داخلی خود را حفظ کنند.

این تصمیمات چه زمانی روی کاربران عادی تأثیر می‌گذارد؟
معمولاً فاصله‌ی زیادی میان بحث‌های دیپلماتیک و اجرای قوانین داخلی وجود دارد، اما جهت‌گیری کلی سیاست‌ها معمولاً زودتر از اجرای کامل آن‌ها قابل مشاهده است.