استعفای پژوهشگران گوگل دیپ‌مایند در اعتراض به قراردادهای نظامی و پنتاگون

چند پژوهشگر گوگل دیپ‌مایند در هفته‌های اخیر به‌خاطر قراردادهای نظامی این شرکت استعفا داده‌اند؛ ماجرایی که بحث قدیمی «هوش مصنوعی و جنگ» را دوباره به قلب سیلیکون‌ولی آورده است.

بخش ۱؛ ماجرا از کجا شروع شد؟

در هفته‌ای که گذشت، خبری از لندن بیرون آمد که در محافل هوش مصنوعی سروصدا کرد: چند نفر از پژوهشگران و مهندسان گوگل دیپ‌مایند، همان آزمایشگاهی که مدل‌های پیشرفته‌ی خانواده‌ی جمینای را می‌سازد، یکی‌یکی شرکت را ترک کرده‌اند. بی‌بی‌سی می‌گوید «چند» نفر از کارکنان فعلی و سابق رفته‌اند یا در حال رفتن‌اند، ولی شمار دقیقی منتشر نشده است.

دو نام در گزارش‌ها تکرار می‌شود. نخست سوفیا لیگوری، مهندس پژوهشی ساکن لندن که حدود سه سال در دیپ‌مایند کار کرده و در همین هفته استعفا داده است. او با بی‌بی‌سی در جایگاه شخصی صحبت کرد. دوم آندریاس کیرش، پژوهشگر هوش مصنوعی که زودتر، در همین ماه اکتبر، رفته بود. هر دو دلیل مشترکی دارند: نگرانی از مسیر نظامی شدن فناوری‌ای که خودشان ساخته‌اند.

بخش ۲؛ این دو نفر چه گفتند؟

لیگوری گفته است رشد همکاری‌های گوگل با ارتش آمریکا و اسرائیل باعث شده اعتمادش را به پایبندی شرکت به ارزش‌های اخلاقی اعلام‌شده از دست بدهد. به نوشته‌ی برخی گزارش‌ها او در نامه‌ی خداحافظی داخلی نوشته که دیگر باور ندارد این فناوری «اثر مثبت خالص بر جامعه» خواهد داشت. او همچنین می‌گوید اعتراض‌های داخلی‌اش به نتیجه نرسیده و پاسخ‌هایی که گرفته نیمه‌خودکار و بی‌اثر بوده است.

کیرش استدلال دیگری دارد. به گفته‌ی او حکمرانی و نظارت فعلی گوگل برای به‌کارگیری ایمن هوش مصنوعی در محیط‌های نظامی و طبقه‌بندی‌شده کافی نیست و گوگل عملاً «حق کنترل یا وتوی» نحوه‌ی استفاده‌ی پنتاگون از مدل‌هایش را ندارد. او همچنین یادآوری می‌کند که شرایطی که هنگام خرید دیپ‌مایند در سال ۲۰۱۴ مطرح شد، از جمله منع استفاده‌ی نظامی، دیگر برقرار نیست.

بخش ۳؛ قرارداد پنتاگون دقیقاً چه می‌گوید؟

گوگل یکی از چند شرکتی است که در ۲۰۲۶ قراردادهایی برای استفاده از هوش مصنوعی در محیط‌های طبقه‌بندی‌شده‌ی ارتش آمریکا امضا کرده‌اند. بی‌بی‌سی از شرکت‌هایی مثل OpenAI، آمازون، مایکروسافت، اسپیس‌ایکس، اوراکل، انویدیا و Reflection نام می‌برد، هرچند روشن نیست شرایط همه‌ی قراردادها یکسان باشد.

بر اساس گزارش‌ها، متن قرارداد استفاده را برای «هر هدف قانونی دولتی» مجاز می‌داند و در کنارش می‌گوید مدل‌ها نباید بدون نظارت انسانی مناسب برای نظارت جمعی داخلی یا سلاح‌های خودمختار به کار روند. منتقدان می‌گویند چون گوگل حق وتوی تصمیم‌های عملیاتی قانونی دولت را ندارد، این بندها بیشتر بیانیه‌ی نیت هستند تا تعهد الزام‌آور. نکته‌ی مهم: خود متن قرارداد منتشر نشده و این جزئیات از گزارش‌های دست‌دوم می‌آید.

بخش ۴؛ نامه‌ی ۶۰۰ نفره و حرف زدن ممنوع؟

پیش‌تر از امضای قرارداد، نامه‌ای خطاب به ساندار پیچای منتشر شد که بیش از ۶۰۰ کارمند، از جمله مدیران ارشد، آن را امضا کرده بودند. استدلال نامه این بود که طبقه‌بندی اطلاعات یعنی مخفی ماندن شیوه‌ی استفاده از فناوری، و گوگل نباید وارد کار طبقه‌بندی‌شده شود. گزارش‌ها می‌گویند گوگل با وجود این نامه قرارداد را پیش برد.

ادعای حساس‌تر درباره‌ی بندهای قرارداد کار است: لیگوری می‌گوید قراردادش او را تا پایان عمر از انتقاد از گوگل منع می‌کند و کارکنان دیگر هم از محدودیت انتقاد عمومی حرف زده‌اند. این ادعا فقط بر روایت یک کارمند تکیه دارد و مستقل تأیید نشده است؛ گوگل هم در بیانیه‌اش به این بند مشخص اشاره‌ای نکرده است.

بخش ۵؛ پاسخ گوگل چیست؟

سخنگوی گوگل، تام هیوت، گفته شرکت با سازمان‌های بخش عمومی در سراسر جهان کار می‌کند و همه‌ی قراردادها را با یک فرایند ثابت بررسی می‌کند که شامل رعایت سیاست‌های استفاده‌ی مجاز و اصول هوش مصنوعی گوگل است. به گفته‌ی او کارکنان کانال‌های اختصاصی برای طرح نگرانی دارند و تلافی‌جویی ممنوع است. گوگل در ماه آوریل هم گفته بود ارائه‌ی مدل‌های تجاری با شرایط استاندارد صنعت، «رویکردی مسئولانه» برای امنیت ملی است.

بخش ۶؛ سابقه‌ی این اعتراض‌ها

این اولین بار نیست که کارمندان گوگل به قراردادهای نظامی اعتراض می‌کنند. در سال ۲۰۱۸ هزاران نفر به پروژه‌ی پهپادی Maven اعتراض کردند، حدود ده‌ها نفر استعفا دادند و گوگل در نهایت از پروژه کنار کشید. در ۲۰۲۴ حدود ۵۰ کارمندی که علیه پروژه‌ی Nimbus، قرارداد ابری و هوش مصنوعی با دولت اسرائیل، تحصن کرده بودند اخراج شدند. در ۲۰۲۶ هم گزارش‌هایی از رأی کارکنان دیپ‌مایند به تشکیل اتحادیه و تجمع مقابل دفتر لندن با شعار «هوش مصنوعی در زنجیره‌ی کشتار نه» منتشر شده است.

تفاوت امسال در این است که موضوع از «کاربرد یک پروژه‌ی مشخص» به «ماهیت قراردادهای فراگیر دولتی» تغییر کرده و مدل‌های عمومی و قدرتمند، همان‌هایی که مردم در چت‌بات‌ها استفاده می‌کنند، مستقیم درگیر شده‌اند.

بخش ۷؛ رقبا کجا ایستاده‌اند؟

گزارش‌ها می‌گویند OpenAI و xAI هم قرارداد پنتاگون دارند، در حالی که Anthropic به‌خاطر امتناع از حذف محافظ‌هایش در برابر کاربردهای سلاحی و نظارتی، از سوی وزارت دفاع آمریکا فهرست سیاه شده است. اگر می‌خواهید زمینه‌ی این رقابت را بهتر بشناسید، مقاله‌ی OpenAI چیست؟ و تحلیل توانایی‌ها و محدودیت‌های واقعی هوش مصنوعی نقطه‌ی شروع خوبی هستند.

این شکاف نشان می‌دهد «ایمنی» دیگر فقط یک بحث فنی درباره‌ی مدل‌ها نیست؛ انتخابی تجاری و سیاسی است که هر شرکت متفاوت پاسخش می‌دهد و بازار، کارکنان و دولت‌ها هم واکنش‌های متفاوتی نشان می‌دهند. برای مرور بیشتر چنین خبرهایی می‌توانید بخش اخبار مستر چت‌جی‌پی‌تی را دنبال کنید.

بخش ۸؛ چرا این خبر برای کاربران عادی مهم است؟

شاید به نظر برسد استعفای چند پژوهشگر ربطی به کاربر معمولی ندارد، اما سه دلیل برای توجه وجود دارد. اول، مدل‌هایی که امروز برای نوشتن، برنامه‌نویسی و تحلیل استفاده می‌کنید، از همان زیرساخت و تیم‌هایی می‌آیند که قراردادهای دولتی را هم پوشش می‌دهند. دوم، رفتن استعدادها می‌تواند به کیفیت و جهت پژوهش‌های ایمنی اثر بگذارد. سوم، این ماجرا نشان می‌دهد وعده‌های «اصول هوش مصنوعی» شرکت‌ها تا چه حد قابل راستی‌آزمایی است.

اگر تازه با دنیای ابزارهای هوشمند آشنا شده‌اید، پیشنهاد می‌کنیم راهنمای آموزش‌های چت‌جی‌پی‌تی و مقاله‌ی اهمیت هوش مصنوعی در کسب‌وکار را هم بخوانید تا تصویر کامل‌تری از جایگاه این فناوری داشته باشید. همچنین اگر دوست دارید بهتر با این ابزارها گفتگو کنید، پرامپت‌نویسی برای مبتدی‌ها کمک می‌کند.

بخش ۹؛ پیامدهای احتمالی برای آینده‌ی صنعت

اگر موج استعفاها ادامه پیدا کند، دیپ‌مایند با چالشی دوگانه روبه‌رو می‌شود: از یک سو باید استعدادهای برجسته‌ای را نگه دارد که انگیزه‌ی کاری‌شان فقط حقوق نیست و به رسالت اخلاقی شرکت هم اهمیت می‌دهند؛ از سوی دیگر قراردادهای دولتی درآمدی بزرگ و پایدار می‌آورند و رقابت با OpenAI و دیگران را تسهیل می‌کنند. تعادل میان این دو، همان چیزی است که امروز در داخل شرکت‌های بزرگ هوش مصنوعی بحث‌برانگیز شده است.

کارشناسان سیاست‌گذاری می‌گویند وقتی بندهای ایمنی قرارداد تنها بر پایه‌ی حسن نیت نوشته شود و مرجع مستقلی برای راستی‌آزمایی وجود نداشته باشد، اعتماد عمومی هم آسیب می‌بیند. از همین رو انتظار می‌رود فشار برای شفاف‌سازی بیشتر، چه از سوی کارکنان و چه از سوی قانون‌گذاران، در ماه‌های آینده بیشتر شود. هنوز معلوم نیست گوگل پاسخی فراتر از بیانیه‌ی فعلی بدهد یا نه.

برای کاربران و کسب‌وکارهایی که از مدل‌های گوگل استفاده می‌کنند، فعلاً تغییری در خدمات دیده نمی‌شود. با این حال، پیگیری اخبار این حوزه به شما کمک می‌کند هنگام انتخاب ابزار هوش مصنوعی، فقط به قیمت و کیفیت فکر نکنید و سیاست‌های اخلاقی و شفافیت شرکت‌ها را هم در نظر بگیرید. مستر چت‌جی‌پی‌تی این تحولات را برایتان دنبال می‌کند.

بخش ۱۰؛ سؤالات متداول

آیا استعفای این پژوهشگران به معنای توقف قرارداد پنتاگون است؟

خیر. گزارش‌ها نشان می‌دهد گوگل با وجود نامه‌ی اعتراضی و استعفاها قرارداد را ادامه داده و هنوز اعلام نکرده که مسیرش را تغییر می‌دهد.

سوفیا لیگوری و آندریاس کیرش چه کسانی هستند؟

لیگوری مهندس پژوهشی دیپ‌مایند در لندن بود که به گفته‌ی گزارش‌ها روی هوش مصنوعی برای مسیریابی کارآمدتر برق در شبکه‌ها کار می‌کرد. کیرش پژوهشگر هوش مصنوعی است که زودتر در اکتبر ۲۰۲۶ رفت.

قرارداد چه کاربردهایی را ممنوع کرده است؟

طبق گزارش‌ها، مدل‌ها نباید بدون نظارت انسانی مناسب برای نظارت جمعی داخلی یا سلاح‌های خودمختار استفاده شوند، اما منتقدان این بندها را الزام‌آور نمی‌دانند، چون گوگل حق وتوی تصمیم‌های قانونی دولت را ندارد.

آیا ادعای ممنوعیت دائمی انتقاد تأیید شده است؟

خیر. این ادعا فقط از زبان یک کارمند نقل شده و مستقل تأیید نشده است.

این ماجرا با پروژه‌ی Maven چه فرقی دارد؟

در ۲۰۱۸ گوگل زیر فشار کارکنان از پروژه‌ی Maven عقب نشست؛ امسال اما با وجود نامه‌ی بیش از ۶۰۰ امضا قرارداد را امضا و اجرا کرده است. برای نگاه واقع‌بینانه‌تر به حدود توان این ابزارها هم می‌توانید توهم هوش مصنوعی و مهندس واقعی را بخوانید.