مرداد
اخبار
خروج مسئول اخلاق OpenAI؛ چرا آینده ایمنی چتجیپیتی نگرانکننده شده است؟
تنها کارشناس رسمی اخلاق OpenAI، کمتر از یک سال پس از استخدام، این شرکت را ترک کرده و بر اساس گزارشها جایگزینی مستقیم برای این سمت در نظر گرفته نشده است. این اتفاق در ادامهی یک روند نگرانکننده از خروج مسئولان ایمنی رخ میدهد و پرسشهای جدی دربارهی آیندهی حکمرانی اخلاقی چتجیپیتی مطرح کرده است.
لیست مطالب
۱. دقیقاً چه اتفاقی افتاده است؟
بر اساس گزارش فایننشال تایمز، خانم کلوئه باکالار که سمت مسئول اخلاق OpenAI را برعهده داشت، تابستان ۲۰۲۶ و پس از کمتر از یک سال فعالیت در این شرکت، آن را ترک کرده است. منابع آگاه به این رسانه گفتهاند OpenAI برنامهای برای جایگزینی مستقیم این سمت ندارد؛ موضوعی که با توجه به جایگاه حساس این نقش در فرآیند توسعهی مدلهای زبانی، توجه بسیاری از تحلیلگران صنعت هوش مصنوعی را جلب کرده است.
این خبر در ابتدا بهصورت محدود و از طریق منابع نزدیک به موضوع منتشر شد، اما بهسرعت در رسانههای فناوری بازتاب گستردهای پیدا کرد؛ چرا که باکالار نه یک عضو سادهی تیم، بلکه تنها فرد دارای عنوان رسمی «مسئول اخلاق» در کل ساختار سازمانی OpenAI بود. نبود چنین جایگاهی، به معنای آن است که دیگر هیچ فرد یا واحد مشخصی، مسئولیت مستقیم و رسمی پاسخگویی دربارهی ابعاد اخلاقی تصمیمهای شرکت را برعهده ندارد؛ حداقل نه با همان عنوان و اختیار قبلی.
۲. کلوئه باکالار که بود و چه نقشی داشت؟
باکالار دکترای علوم سیاسی و حکمرانی خود را از دانشگاه پنسیلوانیا دریافت کرده و پیش از این در دانشگاههای تمپل، پرینستون و کالج دانشگاهی لندن (UCL) فعالیت آکادمیک داشته است. او همچنین عضو شورای مشورتی مرکز سیاست فناوری اطلاعات دانشگاه پرینستون است. پیش از پیوستن به OpenAI، حدود چهار سال یعنی از نوامبر ۲۰۲۱ تا اوت ۲۰۲۵، سرپرست اخلاق شرکت متا بود.
در OpenAI، باکالار مسئولیت رویکردهای اخلاقی توسعهی مدل، تعاملات انسان و هوش مصنوعی، و حتی بحثهای نوظهور دربارهی احتمال آگاهی ماشینی را برعهده داشت؛ حوزهای که با پیشرفت روزافزون مدلهای زبانی بزرگ، اهمیت فزایندهای پیدا کرده است. اگر میخواهید بدانید OpenAI دقیقاً چیست و چه ساختاری دارد، میتوانید نگاهی به این راهنما بیندازید.
سمتی که در سایه بود اما حیاتی
برخلاف تیمهای مهندسی و ایمنی فنی که معمولاً چند ده نفر عضو دارند، سمت مسئول اخلاق در بسیاری از شرکتهای فناوری معمولاً به یک یا چند نفر محدود میشود. همین موضوع باعث میشود خروج یک نفر از این جایگاه، تأثیر نامتناسبی نسبت به اندازهی تیم، بر ساختار تصمیمگیری شرکت بگذارد.
۳. الگویی که نمیتوان نادیده گرفت: خروج پیاپی مسئولان ایمنی
خروج باکالار در ادامهی فهرستی نگرانکننده از خروجهای مهم قرار میگیرد. پیش از او، یوهانس هایدکه، سرپرست تیم سیستمهای ایمنی OpenAI، این شرکت را ترک کرده بود. جاش آچیام نیز که پیشتر مسئولیت همراستایی مأموریت شرکت را برعهده داشت و بعدها به عنوان آیندهنگر ارشد فعالیت میکرد، از OpenAI رفته است.
این روند به سالهای قبلتر هم بازمیگردد. ایلیا ساتسکور، یکی از بنیانگذاران OpenAI و رهبر پیشین تیم فوقهمسویی (Superalignment)، در سال ۲۰۲۴ از این شرکت جدا شد. یان لایکه، همرهبر همان تیم، نیز استعفا داد و در بیانیهای علنی از رویکرد OpenAI به مسئلهی ایمنی انتقاد کرد و گفت فرهنگ ایمنی این شرکت در برابر فشار برای عرضهی محصولات درخشان، عقب نشسته است.
چرا این الگو نگرانکننده است؟
OpenAI بارها از زمان عرضهی چتجیپیتی در پایان سال ۲۰۲۲، تیمهای ایمنی، محصول و پژوهش خود را بازسازماندهی کرده است؛ روندی طبیعی برای شرکتی که به سرعت از یک آزمایشگاه پژوهشی کوچک به یکی از بزرگترین بنگاههای فناوری جهان تبدیل شده. اما وقتی این بازسازماندهیها همزمان با خروج پیاپی چهرههای کلیدی ایمنی و اخلاق رخ میدهد، پرسش اصلی روشن میشود: چه کسی در لحظهی تصمیم، در برابر فشار تجاری برای عرضهی سریعتر یک مدل جدید خواهد ایستاد؟
نکتهی مهم این است که هیچکدام از این خروجها بهتنهایی غیرعادی نیست؛ جابهجایی نیروی متخصص در صنعت هوش مصنوعی، بهویژه در شرکتهایی با رشد سریع مانند OpenAI، امری رایج است. آنچه این روند را قابلتوجه میکند، تجمیع آن در یک بازهی زمانی کوتاه و تمرکز آن روی دقیقاً همان جایگاههایی است که وظیفهشان مراقبت و نظارت بر ابعاد اخلاقی و ایمنی محصول بوده، نه توسعه یا بازاریابی آن.
۴. واکنش رسمی OpenAI به این خبر
یک سخنگوی OpenAI در پاسخ به پرسش خبرنگاران گفته است ملاحظات اخلاقی همچنان بهطور عمیق در دل تیمهای مختلف تحقیقاتی درگیر در فرآیند ساخت مدل جای دارد و نبود یک مسئول مستقل اخلاق، به معنای کنار گذاشتن این اولویت نیست. با این حال، منتقدان معتقدند پخششدن مسئولیت اخلاقی میان تیمهای محصولمحور، در عمل میتواند به تضعیف صدای مستقل و انتقادی در تصمیمهای حساس منجر شود؛ همان صدایی که وظیفهاش گفتن «نه» به یک تصمیم پرریسک است.
۵. این خبر چرا برای کاربران چتجیپیتی اهمیت دارد؟
شاید در نگاه اول به نظر برسد این خبر صرفاً یک تغییر مدیریتی داخلی است، اما واقعیت اینطور نیست. تصمیمهای اخلاقی پشت پرده، مستقیماً روی نحوهی پاسخگویی، محدودیتهای محتوایی و سیاستهای حریم خصوصی محصولی که میلیونها نفر هر روز از آن استفاده میکنند اثر میگذارد. برای درک بهتر اینکه چرا هوش مصنوعی برای کسبوکارها اهمیت روزافزون پیدا کرده، باید توجه داشت که اعتماد کاربران و بنگاهها به این ابزارها، دقیقاً روی همین لایههای نامرئی حکمرانی و اخلاق بنا شده است.
وقتی این لایهی نظارتی تضعیف شود، ریسکهایی مانند سوگیری در پاسخها، کمبود شفافیت دربارهی محدودیتهای واقعی مدل، یا تصمیمهای عجولانه برای عرضهی قابلیتهای جدید بدون بررسی کافی، افزایش پیدا میکند. برای آشنایی با محدودیتهای واقعی این فناوری، مطالعهی این تحلیل دربارهی پتانسیل و محدودیتهای واقعی هوش مصنوعی خالی از لطف نیست.
از سوی دیگر، باید توجه داشت که کاربران عادی معمولاً هیچ دیدی نسبت به مباحثات و کشمکشهای داخلی شرکتهای سازندهی هوش مصنوعی ندارند. تصمیم اینکه یک قابلیت جدید عرضه شود یا نه، یک محدودیت ایمنی سختگیرانهتر شود یا نرمتر، و چگونه با دادههای حساس کاربران رفتار شود، معمولاً پشت درهای بسته گرفته میشود. به همین دلیل، رصد این نوع اخبار مدیریتی، یکی از معدود راههایی است که کاربران بیرونی میتوانند از سلامت فرآیند تصمیمگیری یک شرکت مطلع شوند.
۶. تصویر بزرگتر: هیچ آزمایشگاهی نمرهی بالایی در ایمنی نگرفته است
این تحولات در بستری بزرگتر از چالشهای ایمنی صنعت هوش مصنوعی رخ میدهد. بر اساس تازهترین گزارش رتبهبندی مؤسسهی آیندهی حیات (Future of Life Institute)، هیچیک از آزمایشگاههای بزرگ هوش مصنوعی، از جمله OpenAI و گوگل، نتوانستهاند نمرهای بالاتر از C+ در معیارهای ایمنی کسب کنند. این یافته نشان میدهد نگرانی دربارهی توازن میان سرعت نوآوری و مسئولیتپذیری، مسئلهای فراتر از یک شرکت خاص و در واقع چالشی سراسری در کل صنعت هوش مصنوعی است.
در چنین فضایی، رقابت میان مدلهای مختلف نیز شدت گرفته است. برای نمونه میتوانید مقایسهی چتجیپیتی و دیپسیک را بخوانید تا ببینید چگونه فشار رقابتی میان شرکتهای هوش مصنوعی، سرعت عرضهی محصول را بالا برده است؛ همان فشاری که به گفتهی منتقدان، میتواند اولویت ایمنی را به حاشیه براند.
گزارش مؤسسهی آیندهی حیات معیارهایی مانند مدیریت ریسک، شفافیت گزارشدهی، آمادگی در برابر سوءاستفاده و کنترلهای فنی ایمنی را در آزمایشگاههای مختلف بررسی میکند. نتیجهی کلی این گزارشها طی چند دورهی متوالی نشان داده که حتی شرکتهایی که در بازاریابی خود روی «هوش مصنوعی مسئولانه» تأکید زیادی دارند، هنوز فاصلهی زیادی تا استانداردهای ایدهآل ایمنی دارند. این واقعیت، خروج پیدرپی مسئولان اخلاق و ایمنی از OpenAI را باید در کنار یک چالش صنعتی گستردهتر دید، نه یک استثنای مجزا.
۷. آیا مهندسی بهتنهایی کافی است؟
یکی از پرسشهای مهمی که این ماجرا دوباره مطرح میکند این است که آیا تیمهای مهندسی و پژوهشی بهتنهایی میتوانند نقش ناظر اخلاقی مستقل را هم بازی کنند؟ تجربه نشان داده وقتی مسئولیتهای اخلاقی و ایمنی در دل تیمهای محصولمحور حل میشود، معمولاً صدای انتقادی کمرنگتر میشود. این موضوع شباهت زیادی به بحثی دارد که در مقالهی توهم توسعهدهندهی تنها در برابر مهندس واقعی مطرح شده؛ جایی که نشان داده میشود ساخت مسئولانهی فناوری، به ساختار، نظارت و تخصص چندلایه نیاز دارد، نه فقط سرعت و مهارت فردی.
۸. چه چیزی باید در ادامهی این ماجرا رصد کرد؟
در ماههای آینده باید دید آیا OpenAI سرانجام یک مسئول اخلاق جدید معرفی میکند یا این مسئولیت بهطور کامل در دل تیمهای دیگر حل خواهد شد. همچنین باید منتظر ماند تا ببینیم آیا رگولاتورهای اروپایی و آمریکایی، که پیشتر هم فشارهای نظارتی روی شرکتهای بزرگ هوش مصنوعی افزایش دادهاند، به این روند واکنش نشان میدهند یا نه. کاربران عادی هم میتوانند با دنبالکردن اخبار معتبر و یادگیری نحوهی درست نوشتن پرامپت اصولی، آگاهانهتر و ایمنتر از این ابزارها استفاده کنند.
یکی دیگر از نکاتی که تحلیلگران روی آن تأکید دارند، نحوهی برخورد رسانهها و کاربران با این نوع اخبار است. برخلاف عرضهی یک مدل جدید یا یک ویژگی هیجانانگیز که بهسرعت در صدر اخبار قرار میگیرد، خروج یک مدیر ایمنی یا اخلاق معمولاً کمسروصداتر منتشر میشود؛ در حالی که از نظر پیامدهای بلندمدت، میتواند به همان اندازه یا حتی مهمتر باشد. به همین دلیل رسانههای تخصصی حوزهی هوش مصنوعی، اهمیت زیادی برای پوشش دقیق و پیگیری این نوع تحولات مدیریتی قائل هستند.
۹. پرسشهای پرتکرار
آیا چتجیپیتی بهخاطر این خبر ناامنتر شده است؟
بهطور مستقیم و فوری خیر؛ اما نبود یک ناظر اخلاقی مستقل، ریسک تصمیمهای عجولانه در توسعهی نسخههای آینده را افزایش میدهد.
آیا OpenAI جایگزینی برای این سمت معرفی خواهد کرد؟
بر اساس گزارشهای فعلی، این شرکت برنامهای برای جایگزینی مستقیم اعلام نکرده و میگوید مسئولیت اخلاقی میان تیمهای مختلف پخش شده است.
چرا مسئولان ایمنی OpenAI پیدرپی این شرکت را ترک میکنند؟
دلایل دقیق هر خروج متفاوت است، اما بسیاری از تحلیلگران آن را به تنش میان فشار تجاری برای عرضهی سریع محصول و اولویتهای ایمنی و اخلاقی مرتبط میدانند.
آیا سایر شرکتهای هوش مصنوعی وضعیت بهتری دارند؟
بر اساس رتبهبندی اخیر مؤسسهی آیندهی حیات، هیچ آزمایشگاه بزرگی از جمله رقبای OpenAI هم نمرهی بالایی در ایمنی نگرفته است؛ یعنی این چالش، ویژهی یک شرکت نیست.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
