هشدار دمیس هسبیس؛ چرا مدیر گوگل دیپ‌مایند خواستار یک نهاد ناظر جهانی برای هوش مصنوعی شد؟

مدیرعامل گوگل دیپ‌مایند می‌گوید پیش از آنکه دیر شود، باید یک نهاد ناظر جهانی برای آزمایش مدل‌های پیشرفتهٔ هوش مصنوعی ساخته شود.

۱. چه اتفاقی افتاد؟

در تازه‌ترین تحول مهم حوزهٔ حکمرانی هوش مصنوعی، دمیس هسبیس، مدیرعامل گوگل دیپ‌مایند، به‌صراحت اعلام کرد که صنعت هوش مصنوعی به یک نهاد ناظر رسمی نیاز دارد. او در اظهاراتی که نخستین‌بار توسط پایگاه خبری اکسیوس منتشر شد، پیشنهاد داد یک سازمان استانداردگذار به رهبری ایالات متحده تشکیل شود که وظیفه‌اش آزمایش امنیتیِ «مدل‌های مرزی» یا همان پیشرفته‌ترین مدل‌های هوش مصنوعی، پیش از عرضهٔ عمومی باشد.

این اظهارات از آن جهت اهمیت دارد که از زبان یکی از تأثیرگذارترین چهره‌های این صنعت بیان شده است. هسبیس نه‌تنها رهبری یکی از پیشروترین آزمایشگاه‌های هوش مصنوعی جهان را بر عهده دارد، بلکه در سال ۲۰۲۴ به‌خاطر پروژهٔ آلفافولد برندهٔ جایزهٔ نوبل شیمی شد. وقتی چنین فردی از ضرورت مهارِ فناوری‌ای که خود در ساختش نقش دارد سخن می‌گوید، پیام روشنی به سیاست‌گذاران و رقبا مخابره می‌شود.

زمینهٔ این پیشنهاد نیز روشن است: رقابت میان آزمایشگاه‌های بزرگ برای انتشار سریع‌تر مدل‌ها به اوج رسیده و همین فشار رقابتی می‌تواند بررسی‌های ایمنی را به حاشیه براند. برای پیگیری مستمر این رقابت می‌توانید بخش اخبار هوش مصنوعی ما را دنبال کنید. هسبیس معتقد است تنها راه جلوگیری از یک مسابقهٔ خطرناکِ «هر که زودتر منتشر کند»، نهادینه‌کردن آزمایش‌های ایمنی برای همهٔ بازیگران است.

۲. الگوی «فینرا»؛ ناظری خودگردان زیر نظر دولت

هسبیس برای این نهاد یک الگوی مشخص در ذهن دارد: «فینرا» (FINRA) یا همان مرجع تنظیم‌گری صنعت مالی در آمریکا. فینرا یک نهاد خودگردان است که با بودجهٔ خودِ شرکت‌های اوراق بهادار اداره می‌شود، اما زیر نظارت کمیسیون بورس (SEC) فعالیت می‌کند. به بیان دیگر، صنعت هزینهٔ ناظر خود را می‌پردازد، ولی این ناظر در نهایت پاسخ‌گوی دولت است.

به گفتهٔ هسبیس، هیئت‌مدیرهٔ این نهاد باید اکثریتی مستقل داشته باشد؛ افرادی مانند برندگان جایزهٔ تورینگ و کارشناسان معتبر فنی، در کنار نمایندگانی از صنعت، دولت و جامعهٔ متن‌باز. هدف از این ترکیب، تضمین هم‌زمان دو چیز است: تخصص کافی برای درک عمیق فناوری، و استقلال کافی برای جلوگیری از نفوذ بیش از حدِ شرکت‌ها.

منطق اصلی این طرح، جایگزینی مجوزگیری پراکنده و جداگانه برای هر مدل با یک فرایند آزمایش واحد و یکپارچه است. در این مدل، آزمایش‌گران مستقل همهٔ مدل‌ها را با معیارها و محک‌های یکسان می‌سنجند و با پیشرفت توانمندی‌ها، این ارزیابی‌ها را نیز به‌روز می‌کنند. چنین رویکردی هم بار مقرراتی را برای شرکت‌ها کاهش می‌دهد و هم امکان مقایسهٔ منصفانهٔ مدل‌ها را فراهم می‌کند.

۳. دقیقاً چه چیزی آزمایش می‌شود؟

پرسش کلیدی این است که چنین نهادی به دنبال چه چیزی می‌گردد. بر اساس طرح هسبیس، تمرکز آزمایش‌ها بر «توانایی‌های خطرناک» مدل‌هاست؛ یعنی قابلیت‌هایی که می‌توانند در مقیاس بزرگ به امنیت ملی یا عمومی آسیب بزنند. هدف این است که این توانایی‌ها پیش از آنکه در دسترس میلیون‌ها کاربر قرار بگیرند، شناسایی و مهار شوند.

از تهدید سایبری تا زیستی و هسته‌ای

نخستین دستهٔ خطرها به توانمندی‌های سایبری بازمی‌گردد: آیا مدل می‌تواند در طراحی حملات سایبری پیچیده کمک کند؟ دستهٔ دوم و نگران‌کننده‌تر، تهدیدهای زیستی و هسته‌ای است؛ یعنی احتمال آنکه مدل بتواند دانش لازم برای ساخت سلاح‌های خطرناک را تسهیل کند. این‌ها دقیقاً همان حوزه‌هایی هستند که مرز میان «ابزار مفید» و «خطر واقعی» را تعیین می‌کنند. برای درک بهتر اینکه هوش مصنوعیِ امروز در عمل چه می‌تواند و چه نمی‌تواند، پیشنهاد می‌کنیم مطلب توان و محدودیت‌های واقعی هوش مصنوعی را بخوانید.

فریب‌کاری و دور زدن سازوکارهای ایمنی

سومین دسته، رفتارهای فریب‌کارانه است: آیا مدل می‌تواند کاربر یا ناظر را فریب دهد یا اهداف واقعی خود را پنهان کند؟ و سرانجام، آزمایش‌گران بررسی می‌کنند که آیا می‌توان سازوکارهای ایمنیِ تعبیه‌شده در مدل را دور زد یا نه. اگر یک مدل به‌سادگی «جِیل‌بریک» شود و محدودیت‌هایش از کار بیفتد، هیچ تضمین ایمنی‌ای معنای واقعی نخواهد داشت. به همین دلیل، پایداری این سازوکارها در برابر سوءاستفاده به‌اندازهٔ وجود خودشان اهمیت دارد.

۴. از داوطلبانه تا اجباری؛ سازوکار ۳۰ روزه

یکی از عملی‌ترین بخش‌های این طرح، بازهٔ زمانی آن است. بر اساس پیشنهاد هسبیس، آزمایشگاه‌ها مدل‌های خود را تا سی روز پیش از انتشار عمومی به‌صورت داوطلبانه در اختیار نهاد ناظر قرار می‌دهند تا فرصت کافی برای ارزیابی دقیق وجود داشته باشد. این بازهٔ زمانی به‌اندازه‌ای هست که آزمایش جدی انجام شود، اما نه آن‌قدر طولانی که چرخهٔ نوآوری را فلج کند.

نکتهٔ مهم اینجاست که این فرایند قرار نیست برای همیشه داوطلبانه بماند. هسبیس تصریح می‌کند به‌محض آنکه کارآمدی و استحکام این سازوکار اثبات شود، باید به شرطی اجباری برای عرضهٔ مدل در بازار آمریکا تبدیل گردد. به عبارت دیگر، مسیر پیشنهادی از یک توافق داوطلبانه آغاز می‌شود و در نهایت به یک الزام قانونی می‌رسد.

این ایده کاملاً بی‌سابقه نیست. کاخ سفید پیش‌تر در یک فرمان اجرایی در ماه ژوئن خواستار دسترسی داوطلبانه به مدل‌های پیشرفته تا ۳۰ روز پیش از عرضه شده بود و شرکت‌هایی مانند گوگل دیپ‌مایند، مایکروسافت و xAI با آن موافقت کرده بودند. طرح هسبیس در واقع می‌کوشد این رویکرد پراکنده و موردی را به یک نهاد پایدار و ساختارمند تبدیل کند که فراتر از یک دولت یا یک دورهٔ سیاسی دوام بیاورد.

۵. چرا هسبیس این‌قدر عجله دارد؟

پاسخ در یک عبارت خلاصه می‌شود: هوش مصنوعی عمومی یا همان AGI. هسبیس بارها گفته است که فناوریِ هم‌تراز با هوش انسان «احتمالاً تنها چند سال کوتاه» با ما فاصله دارد. او وضعیت کنونی بشر را به ایستادن در «دامنه‌های کوه‌پایهٔ تکینگی» تشبیه می‌کند و با جمله‌ای تأمل‌برانگیز می‌گوید ما اساساً راهی برای «به فکر واداشتن شن» پیدا کرده‌ایم؛ اشاره‌ای به سیلیکونِ تراشه‌ها که اکنون به استدلال شبیه شده است.

از نگاه او، رخدادهای نگران‌کنندهٔ فعلی تنها «شلیک‌های هشدار» هستند؛ نشانه‌هایی کوچک از خطرهایی که ممکن است طی هجده ماه آینده بسیار جدی‌تر شوند. به همین دلیل او از یک «پنجرهٔ ارزشمند و کوچک» برای ساختن سازوکارهای نظارتی سخن می‌گوید؛ پنجره‌ای که اگر بسته شود، شاید دیگر فرصتی برای جبران باقی نماند.

با این حال، هسبیس تأکید می‌کند که این به معنای مخالفت با نوآوری نیست. او مقررات‌گذاریِ هوشمند را نه دشمن پیشرفت، بلکه «زیرساخت» لازم برای رشد پایدار می‌داند. پیام او این است که می‌توان هم‌زمان هم سریع حرکت کرد و هم ایمن ماند—به‌شرط آنکه چارچوب درستی وجود داشته باشد. این نگاه متعادل، همان چیزی است که پیشنهاد او را از هشدارهای صرفاً بدبینانه متمایز می‌کند.

۶. چین، متن‌باز و رقابت جهانی

یکی از ظریف‌ترین ابعاد این طرح، دامنهٔ شمول آن است. هسبیس می‌گوید این نهاد باید همهٔ مدل‌های مرزی را «فارغ از کشور مبدأ» و صرف‌نظر از متن‌باز یا بستهٔ آن‌ها ارزیابی کند. این جمله به‌طور ضمنی به دو دغدغهٔ بزرگ اشاره دارد: گسترش بی‌رویهٔ مدل‌های متن‌باز و پیشرفت سریع چین در این حوزه.

مسئلهٔ مدل‌های متن‌باز پیچیده است؛ از یک سو دسترسی آزاد به فناوری را دموکراتیک می‌کند، و از سوی دیگر کنترل بر کاربردهای خطرناک را دشوار می‌سازد. رقابت میان مدل‌های غربی و مدل‌های نوظهور چینی نیز به این معادله ابعاد ژئوپلیتیک می‌بخشد؛ موضوعی که پیش‌تر در تحلیل نبرد ChatGPT و DeepSeek به آن پرداخته‌ایم.

هسبیس امیدوار است یک سازوکار به رهبری آمریکا بتواند سنگ‌بنای استانداردهای بین‌المللی شود؛ درست همان‌طور که در حوزه‌های دیگری مانند هوانوردی یا انرژی هسته‌ای، استانداردهای مشترک جهانی شکل گرفته‌اند. اما تحقق این هدف نیازمند همکاری کشورهایی است که لزوماً منافع و ارزش‌های یکسانی ندارند؛ و همین‌جاست که سخت‌ترین بخش کار آغاز می‌شود.

۷. نقدها و ابهام‌های جدی

با وجود جذابیت این ایده، منتقدان انگشت روی یک نقطهٔ حساس می‌گذارند: تأمین مالی. اگر بودجهٔ نهاد ناظر را همان شرکت‌های هوش مصنوعی بپردازند، این نهاد عملاً باید شرکت‌هایی را کنترل کند که حقوقش را می‌دهند. این همان مشکل کلاسیک «تعارض منافع» و خطر «به دام افتادن ناظر» است که می‌تواند استقلال کل ساختار را زیر سؤال ببرد.

ابهام دوم به قدرت اجرایی بازمی‌گردد. طرح هسبیس در حال حاضر هیچ پشتوانهٔ قانونی الزام‌آوری ندارد؛ تا زمانی که کنگره یا دولت آمریکا آن را به‌رسمیت نشناسند، این نهاد چیزی بیش از یک توصیهٔ داوطلبانه نخواهد بود. هسبیس می‌گوید بازخوردهایی که از دولت شنیده «بسیار مثبت» بوده، اما فاصلهٔ میان یک ایدهٔ مورد استقبال تا یک قانون لازم‌الاجرا کم نیست.

در پس‌زمینه، بحثی قدیمی‌تر نیز جریان دارد: آیا مقررات‌گذاریِ زودهنگام نوآوری را کند می‌کند؟ برخی نگران‌اند که چنین نهادی به سدی در برابر استارتاپ‌ها و بازیگران کوچک‌تر تبدیل شود و در عمل به نفع غول‌ها تمام گردد. برای آشنایی بیشتر با بازیگران اصلی این میدان، مطلب اوپن‌ای‌آی چیست و تحلیل توهم هوش مصنوعی؛ توسعه‌دهندهٔ تنها در برابر مهندس واقعی می‌توانند دید بهتری به شما بدهند.

۸. این خبر برای کاربران و کسب‌وکارها چه معنایی دارد؟

برای کاربران عادی، پیام اصلی این خبر «اطمینان بیشتر» است؛ اگرچه ممکن است به قیمت انتشار کندترِ مدل‌ها تمام شود. اگر مدل‌ها پیش از عرضه آزمایش شوند، احتمال رخ‌دادن خطاهای خطرناک کاهش می‌یابد. در همین حال، بهترین کار برای کاربران این است که مهارت استفادهٔ درست از این ابزارها را بالا ببرند؛ چه با دنبال‌کردن آموزش‌های ChatGPT و چه با یادگیری اصول پرامپت‌نویسی.

برای کسب‌وکارها، ماجرا فراتر از یک خبر ساده است. شکل‌گیری چنین نهادی می‌تواند بر فرایند خرید، انطباق با مقررات و اعتمادسازیِ مشتریان اثر بگذارد. شرکت‌هایی که از هوش مصنوعی استفاده می‌کنند باید خود را برای دنیایی آماده کنند که در آن «مدلِ تأییدشده» یک مزیت رقابتی است؛ همان‌طور که در مطلب اهمیت هوش مصنوعی در کسب‌وکار توضیح داده‌ایم.

در سطح کلان، این پیشنهاد می‌تواند به الگویی برای سایر کشورها تبدیل شود یا در میانهٔ اختلافات سیاسی متوقف بماند. هرچه باشد، یک نکته روشن است: گفت‌وگو دربارهٔ «چگونه مهار کردنِ هوش مصنوعی» دیگر یک بحث حاشیه‌ای نیست و به قلب صنعت رسیده است. ما در بخش اخبار ادامهٔ این ماجرا را دنبال خواهیم کرد.

پرسش‌وپاسخ کوتاه (FAQ)

نهاد پیشنهادی هسبیس دقیقاً چه کاری انجام می‌دهد؟

این نهاد قرار است مدل‌های پیشرفتهٔ هوش مصنوعی را پیش از عرضهٔ عمومی از نظر خطرهای امنیتی—مانند توانمندی‌های سایبری، تهدیدهای زیستی و رفتارهای فریب‌کارانه—آزمایش کند و همهٔ آن‌ها را با معیارهای یکسان بسنجد.

آیا شرکت‌ها مجبور به همکاری هستند؟

در ابتدا خیر. فرایند به‌صورت داوطلبانه آغاز می‌شود، اما هسبیس می‌گوید پس از اثبات کارآمدی باید به شرطی اجباری برای عرضه در بازار آمریکا تبدیل شود.

چه مدل‌هایی مشمول این آزمایش می‌شوند؟

همهٔ «مدل‌های مرزی» یا پیشرفته، فارغ از کشور سازنده و صرف‌نظر از متن‌باز یا بسته‌بودن، مشمول این ارزیابی خواهند بود.

مهم‌ترین نقد به این طرح چیست؟

مهم‌ترین نقد به شیوهٔ تأمین مالی بازمی‌گردد؛ نهادی که با پول شرکت‌های هوش مصنوعی اداره شود، ممکن است نتواند به‌طور کامل بر همان شرکت‌ها نظارت بی‌طرفانه داشته باشد.