مهر
اخبار
اخراج سه محقق ایمنی اوپن‌ای‌آی به‌دلیل افشای اطلاعات محرمانه
شرکت OpenAI سه نفر از محققان تیم ایمنی خود را به‌دلیل افشای اطلاعات محرمانه به یک نهاد بیرونی اخراج کرده است؛ اتفاقی که بار دیگر شکاف میان تیم محصول و تیم ایمنی این شرکت را به تیتر اول اخبار هوش مصنوعی تبدیل کرده.
لیست مطالب
۱. ماجرا از کجا شروع شد؟
همه‌چیز با گزارشی از وال‌استریت‌ژورنال آغاز شد که نوشت شرکت OpenAI همکاری خود را با سه نفر از محققان تیم ایمنی‌اش قطع کرده است. طبق این گزارش، سخنگوی رسمی شرکت تأیید کرده که این سه نفر دیگر در اوپن‌ای‌آی مشغول به کار نیستند، اما از ارائه‌ی جزئیات بیشتر درباره‌ی هویت آن‌ها یا دلیل دقیق تصمیم خودداری کرده است. این سکوت رسمی، خودش به یکی از نکات جنجالی این خبر تبدیل شده.
کاربران شبکه‌های اجتماعی و چند حساب نزدیک به فضای پژوهش هوش مصنوعی، گمانه‌زنی‌هایی درباره‌ی ارتباط این افراد با تیم‌های ایمنی سایر شرکت‌ها مطرح کرده‌اند، اما تا این لحظه هیچ‌کدام از این حدس‌ها از سوی اوپن‌ای‌آی یا خود افراد تأیید نشده است. برای آشنایی بیشتر با ساختار و پیشینه‌ی این شرکت، می‌توانید مقاله‌ی اوپن‌ای‌آی چیست؟ را هم بخوانید.
۲. دلیل رسمی اخراج چه بود؟
بر اساس اظهارات سخنگوی اوپن‌ای‌آی، این سه محقق «سیاست‌های داخلی شرکت درباره‌ی دسترسی و مدیریت اطلاعات حساس» را نقض کرده‌اند. این جمله‌ی کوتاه، تنها توضیح رسمی‌ای است که تا این لحظه منتشر شده و هیچ اشاره‌ای به نوع دقیق اطلاعات، نحوه‌ی افشا یا نام نهادی که این اطلاعات به آن رسیده، در آن نیست.
به گفته‌ی منابع نزدیک به ماجرا، اطلاعات مذکور با یک نهاد مستقل فعال در حوزه‌ی ایمنی هوش مصنوعی در میان گذاشته شده؛ نهادی که وظیفه‌اش معمولاً ارزیابی بی‌طرفانه‌ی ریسک‌های مدل‌های زبانی بزرگ و هشدار درباره‌ی رفتارهای پرخطر آن‌هاست. همین نکته باعث شده برخی ناظران این اتفاق را نه یک نشت ساده، بلکه نوعی افشاگری با انگیزه‌ی ایمنی تعبیر کنند.
۳. سابقه‌ای که دوباره تکرار شد
این اولین باری نیست که اوپن‌ای‌آی با جدایی محققان ایمنی خود روبه‌رو می‌شود. در سال ۲۰۲۴، ایلیا سوتسکور، یکی از بنیان‌گذاران شرکت، از سمت خود کناره‌گیری کرد و کمی بعد یان لایک، سرپرست وقت تیم «سوپرالاینمنت»، نیز شرکت را ترک کرد. لایک در توضیح تصمیمش نوشت که «فرهنگ و فرایندهای ایمنی در برابر محصولات براق، عقب رانده شده‌اند»؛ جمله‌ای که همان زمان بازتاب گسترده‌ای در رسانه‌ها پیدا کرد.
پیش از آن نیز لئوپولد آسکن‌برنر، یکی دیگر از محققان این حوزه، مدعی شده بود که اوپن‌ای‌آی او را به‌خاطر اشتراک‌گذاری یک سند داخلی درباره‌ی ایمنی مدل‌ها با پژوهشگران بیرونی اخراج کرده است. اگر این روایت‌ها را کنار هم بگذاریم، اتفاق اخیر را می‌توان سومین حلقه از یک الگوی تکرارشونده دانست؛ الگویی که نشان می‌دهد مرز میان «محرمانگی شرکتی» و «مسئولیت ایمنی عمومی» در اوپن‌ای‌آی هنوز به‌روشنی تعریف نشده است.
چرا این الگو مهم است؟
وقتی محققانی که مسئول رصد ریسک‌های یک فناوری پرقدرت هستند، بارها در موقعیت انتخاب میان وفاداری سازمانی و افشای نگرانی‌های ایمنی قرار می‌گیرند، این پرسش جدی مطرح می‌شود که آیا کانال‌های داخلی گزارش‌دهی در این شرکت‌ها به‌اندازه‌ی کافی قابل‌اعتماد هستند یا نه. برای درک بهتر محدودیت‌ها و ریسک‌های واقعی فناوری‌های هوش مصنوعی، پیشنهاد می‌کنیم این مقاله درباره‌ی پتانسیل و محدودیت‌های واقعی هوش مصنوعی را هم مطالعه کنید.
۴. بستر گسترده‌تر: سالی پرحادثه برای امنیت عامل‌های هوش مصنوعی
این خبر در شرایطی منتشر می‌شود که اوپن‌ای‌آی و کل صنعت هوش مصنوعی در ماه‌های اخیر با چند حادثه‌ی امنیتی جدی دست‌وپنجه نرم کرده‌اند؛ از نفوذ به زیرساخت‌های هاگینگ‌فیس گرفته تا دسترسی‌های ناخواسته‌ی عامل‌های هوشمند به وب‌سایت‌های دولتی آمریکا مانند سازمان سرشماری و کمیسیون بورس و اوراق بهادار، و حتی یک رخنه در پورتال مدیکر استرالیا. هرکدام از این حوادث، بخشی از یک تصویر بزرگ‌تر را نشان می‌دهند: عامل‌های هوش مصنوعی به‌سرعت در حال گرفتن دسترسی‌های واقعی به سیستم‌های حساس‌اند، در حالی‌که زیرساخت‌های ایمنی و نظارتی هنوز به همان سرعت رشد نکرده‌اند.
در چنین فضایی، هر خبر تازه درباره‌ی تنش داخلی تیم ایمنی یک شرکت پیشرو مثل اوپن‌ای‌آی، حساسیت بیشتری پیدا می‌کند؛ چون نشان می‌دهد چالش فقط فنی نیست، بلکه سازمانی و انسانی هم هست. برای کسب‌وکارهایی که به ابزارهای هوش مصنوعی وابسته شده‌اند، این نوع اخبار یادآوری خوبی است که چرا باید به‌روز بمانند؛ در این مقاله درباره‌ی اهمیت هوش مصنوعی در کسب‌وکار بیشتر درباره‌ی این وابستگی روزافزون خوانده‌اید.
۵. زمان‌بندی عجیب: درست بعد از DevDay
نکته‌ی جالب توجه در این ماجرا، زمان‌بندی آن است. اخراج این سه محقق تنها چند روز پس از برگزاری رویداد بزرگ DevDay ۲۰۲۶ اتفاق افتاده؛ رویدادی که در آن اوپن‌ای‌آی دستیار تازه‌ی خود به نام «دات‌ز» و همچنین مدل جدید GPT-6.1 Sol را معرفی کرد. بسیاری از کاربران و تحلیلگران این هم‌زمانی را بی‌معنا نمی‌دانند و معتقدند فشار برای عرضه‌ی سریع محصولات تازه، می‌تواند یکی از عوامل پس‌زمینه‌ی این تنش‌های داخلی باشد.
البته اوپن‌ای‌آی هیچ ارتباط رسمی‌ای میان این دو رویداد تأیید نکرده و همچنان بر این تأکید دارد که تصمیم اخراج صرفاً به‌خاطر نقض سیاست‌های محرمانگی داده بوده، نه اختلاف‌نظر درباره‌ی جهت‌گیری محصولات شرکت.
۶. مقایسه با رویکرد رقبا
در میان آزمایشگاه‌های بزرگ هوش مصنوعی، رویکردها نسبت به شفافیت ایمنی متفاوت است. برخی شرکت‌ها مانند آنتروپیک تلاش کرده‌اند با انتشار گزارش‌های منظم درباره‌ی رفتار مدل‌ها و همکاری با نهادهای مستقل، اعتماد عمومی بیشتری جلب کنند. رقابت فشرده‌ی این روزها میان مدل‌های بزرگ زبانی، از جمله رقابت تاریخی میان ChatGPT و دیپ‌سیک که در این مقاله‌ی مقایسه‌ای بررسی کرده‌ایم، نشان می‌دهد سرعت توسعه چقدر بالا رفته و چرا مدیریت ریسک در این مسیر پرشتاب، کار ساده‌ای نیست.
نکته‌ی مهم اینجاست که در چنین رقابتی، فاصله‌ی میان کار یک «مهندس واقعی» که سیستم را با دقت و مسئولیت می‌سازد و یک رویکرد سطحی و شتاب‌زده، می‌تواند تفاوت بزرگی در نتیجه‌ی نهایی ایجاد کند؛ موضوعی که در این مقاله درباره‌ی توهم هوش مصنوعی و تفاوت توسعه‌دهنده‌ی تنها با مهندس واقعی هم به آن پرداخته‌ایم.
۷. این خبر چه معنایی برای کاربران ChatGPT دارد؟
برای کاربران عادی ChatGPT، این خبر به‌معنای تغییر فوری در عملکرد یا قابلیت‌های محصول نیست؛ اما نشان می‌دهد پشت‌پرده‌ی هر ابزار هوش مصنوعی‌ای که روزانه استفاده می‌کنید، تصمیم‌های پیچیده‌ای درباره‌ی ایمنی، محرمانگی و مسئولیت‌پذیری در جریان است. اگر می‌خواهید از ابزارهایی مثل ChatGPT هوشمندانه‌تر و ایمن‌تر استفاده کنید، نگاهی به آموزش‌های ChatGPT در سایت ما بیندازید.
از نگاه توسعه‌دهندگان و تیم‌های فنی هم، این اتفاق یادآوری خوبی است که هنگام طراحی پرامپت‌ها و گردش‌کارهای مبتنی بر هوش مصنوعی، باید به محدودیت‌ها و ریسک‌های احتمالی توجه کرد. برای شروع درست در نوشتن پرامپت، این راهنمای ساده‌ی پرامپت‌نویسی نقطه‌ی شروع خوبی است.
۸. واکنش جامعه‌ی هوش مصنوعی
در ساعات پس از انتشار خبر، بسیاری از پژوهشگران و فعالان حوزه‌ی ایمنی هوش مصنوعی در شبکه‌های اجتماعی نسبت به سکوت اوپن‌ای‌آی درباره‌ی جزئیات این ماجرا واکنش نشان دادند. برخی خواستار شفافیت بیشتر شرکت درباره‌ی نوع اطلاعات افشاشده شدند و برخی دیگر این اتفاق را نشانه‌ای از فشار فزاینده روی کارکنانی دانستند که مسئولیت رصد ریسک‌های یک فناوری به‌شدت قدرتمند را بر عهده دارند.
در مقابل، برخی تحلیلگران معتقدند حفظ محرمانگی اطلاعات داخلی، به‌ویژه در حوزه‌ای با رقابت شدید مثل هوش مصنوعی، برای هر شرکتی امری طبیعی و حتی ضروری است و نباید لزوماً آن را نشانه‌ی رفتار نادرست سازمانی تلقی کرد. این دوگانگی دیدگاه‌ها نشان می‌دهد که هنوز توافق روشنی در صنعت هوش مصنوعی درباره‌ی مرز میان شفافیت لازم برای ایمنی عمومی و حق هر شرکت برای حفظ اسرار تجاری خود وجود ندارد، و احتمالاً این بحث در ماه‌های آینده هم ادامه خواهد داشت.
۹. چشم‌انداز پیش رو
هنوز مشخص نیست که این ماجرا به تغییری در سیاست‌های داخلی اوپن‌ای‌آی درباره‌ی مدیریت اطلاعات حساس یا نحوه‌ی تعامل با نهادهای مستقل ایمنی منجر خواهد شد یا نه. آنچه مسلم است، این است که با رشد سریع قابلیت‌های عامل‌های هوش مصنوعی و ورود آن‌ها به سیستم‌های حساس‌تر، فشار برای شفافیت بیشتر درباره‌ی نحوه‌ی مدیریت ریسک در شرکت‌هایی مثل اوپن‌ای‌آی، تنها بیشتر خواهد شد. بسیاری از ناظران صنعت معتقدند تا زمانی‌که کانال‌های داخلی گزارش نگرانی‌های ایمنی به‌اندازه‌ی کافی قابل‌اعتماد نباشند، شاهد تکرار چنین اتفاق‌هایی در این شرکت و سایر آزمایشگاه‌های بزرگ هوش مصنوعی خواهیم بود.
سوالات متداول
چرا اوپن‌ای‌آی این سه محقق را اخراج کرد؟
طبق اعلام رسمی شرکت، این افراد سیاست‌های داخلی مربوط به دسترسی و مدیریت اطلاعات حساس را نقض کرده‌اند؛ به‌طور مشخص، اطلاعات محرمانه را با یک نهاد مستقل فعال در حوزه‌ی ایمنی هوش مصنوعی به اشتراک گذاشته بودند.
هویت این محققان مشخص شده است؟
خیر، تا این لحظه اوپن‌ای‌آی هویت رسمی این سه نفر را منتشر نکرده و گمانه‌زنی‌های منتشرشده در شبکه‌های اجتماعی هیچ‌کدام تأیید رسمی ندارند.
آیا این اتفاق روی کیفیت ChatGPT تأثیر می‌گذارد؟
بر اساس اطلاعات موجود، این ماجرا یک موضوع سازمانی و مربوط به مدیریت اطلاعات داخلی است و تاکنون هیچ گزارشی مبنی بر تأثیر مستقیم آن بر عملکرد یا کیفیت محصولات اوپن‌ای‌آی منتشر نشده است.
آیا سابقه‌ی مشابهی در اوپن‌ای‌آی وجود داشته؟
بله، در سال ۲۰۲۴ هم چند محقق برجسته‌ی تیم ایمنی، از جمله ایلیا سوتسکور، یان لایک و لئوپولد آسکن‌برنر، در شرایط مشابهی از شرکت جدا شدند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
