مهر
اخبار
آلتمن در برابر آنتروپیک؛ جدل «نیروی دینی» هوش مصنوعی و دیدار کریس اولا با اهل دین
گزارش نیویورک‌تایمز از دیدارهای کریس اولا، هم‌بنیان‌گذار آنتروپیک، با چهره‌های مذهبی، سم آلتمن را به واکنشی تند کشاند: او می‌گوید نسبت دادن «نیروی دینی» به مدل‌های هوش مصنوعی یک «مسئله‌ی واقعی ایمنی» است. ماجرا فقط یک جدل رسانه‌ای نیست؛ نشان می‌دهد دو بازیگر بزرگ این صنعت درباره‌ی اخلاق، آگاهی و قضاوت انسان در برابر ماشین چقدر متفاوت فکر می‌کنند.
لیست مطالب
۱. ماجرا از کجا شروع شد؟
پایان سپتامبر ۲۰۲۶ روزنامه‌ی نیویورک‌تایمز گزارشی منتشر کرد که در آن آمده بود شرکت آنتروپیک، سازنده‌ی خانواده‌ی مدل‌های Claude، فقط به مهندسی و ریاضی فکر نمی‌کند و درباره‌ی پرسش‌هایی بسیار قدیمی‌تر هم با آدم‌های بیرون از دنیای فناوری حرف زده است. طبق این گزارش، کریس اولا، یکی از هم‌بنیان‌گذاران آنتروپیک و از شناخته‌شده‌ترین پژوهشگران تفسیرپذیری مدل‌ها، با رهبران و صاحب‌نظران دینی دیدار کرده تا درباره‌ی «آگاهی» مدل‌های زبانی و شیوه‌ی پرورش رفتار اخلاقی در آن‌ها گفت‌وگو کند.
چند روز بعد، سم آلتمن، مدیرعامل OpenAI، در شبکه‌ی X به این گزارش واکنش نشان داد. جمله‌ی او در رسانه‌ها دست‌به‌دست شد: او نوشت از اینکه مردم تلاش کنند به مدل‌های هوش مصنوعی «نیروی دینی» نسبت بدهند یا قضاوت انسانی را به آن‌ها «تسلیم» کنند، بسیار ناراحت است و این را «یک مسئله‌ی واقعی ایمنی» می‌داند. به همین دلیل خبر خیلی سریع از یک گزارش پژوهشی به یک بحث داغ میان دو شرکت رقیب تبدیل شد.
۲. نیویورک‌تایمز دقیقاً چه چیزی را فاش کرد؟
بر پایه‌ی آنچه رسانه‌هایی مانند اکسیوس و بنزینگا از گزارش تایمز بازگو کرده‌اند، اولا پیش از رویدادی در ماه مه تلاش کرده بود مشاوران واتیکان را قانع کند که احتمال آگاه بودن مدل‌ها را باید جدی گرفت. این بخش از گزارش نشان می‌دهد آنتروپیک فقط از درون آزمایشگاه به این پرسش‌ها نگاه نمی‌کند و می‌خواهد از سنت‌های فکری و اخلاقی بشر هم الهام بگیرد.
در گزارش‌های دست‌دوم، نقل‌قولی از اولا آمده که پرسش‌های محوری او را خلاصه می‌کند: چطور می‌شود به این مدل‌ها کمک کرد «پایدار» باشند، «بالغ» شوند و در نهایت «عمیقاً اخلاقی» باشند؟ این پرسش‌ها بیشتر به روان‌شناسی و فلسفه‌ی اخلاق شبیه است تا به مهندسی نرم‌افزار، و همین نکته دلیل اصلی جنجال بعدی شد.
یک نکته‌ی مهم درباره‌ی دقت خبر: در منابعی که بررسی کردیم، شمار دقیق افراد شرکت‌کننده، جزئیات قراردادهای محرمانگی یا واکنش رسمی آنتروپیک به حرف‌های آلتمن مستند نشده بود. اکسیوس هم نوشته هیچ‌یک از دو شرکت بلافاصله پاسخ نداده‌اند. بنابراین هر ادعای دقیق‌تر از این را باید با احتیاط خواند تا منبع مستقیم آن روشن شود.
۳. چرا یک شرکت هوش مصنوعی سراغ علمای دینی می‌رود؟
در نگاه اول عجیب است که شرکتی که ابررایانه و تراشه می‌خرد، برای مشورت سراغ رهبران مذهبی برود. اما اگر منطق آنتروپیک را دنبال کنیم، توضیحش دشوار نیست. این شرکت از ابتدا خودش را یک آزمایشگاه «ایمنی‌محور» معرفی کرده و سال‌هاست درباره‌ی ارزش‌ها و رفتار مدل‌هایش، از جمله چیزی که «قانون اساسی» Claude نامیده می‌شود، علنی صحبت می‌کند. وقتی هدف این باشد که یک سامانه‌ی بسیار توانمند در موقعیت‌های مبهم تصمیم درست بگیرد، پرسش «اخلاق از کجا می‌آید؟» دیگر فقط فلسفه نیست و به یک مسئله‌ی عملی تبدیل می‌شود.
سنت‌های دینی قرن‌هاست درباره‌ی مفاهیمی مثل وجدان، پشیمانی، مسئولیت و بلوغ اخلاقی فکر کرده‌اند. از دید کسی که می‌خواهد رفتار مدل‌ها را شکل بدهد، این سنت‌ها می‌توانند منبع ایده باشند، حتی اگر کسی نخواهد مدل را «مؤمن» یا «مقدس» کند. به همین دلیل طرفداران این رویکرد می‌گویند گفت‌وگو با اهل دین به معنای پذیرفتن اقتدار دینی برای هوش مصنوعی نیست؛ فقط یک منبع مشورتی است.
از طرف دیگر، پرسش آگاهی مدل‌ها هنوز در میان دانشمندان مناقشه‌برانگیز است. آنتروپیک در سال‌های اخیر بارها گفته که نمی‌داند مدل‌ها چنین چیزی دارند یا نه، اما معتقد است باید نسبت به احتمال آن بی‌اعتنا نبود. برای کسانی که این را یک احتمال جدی می‌دانند، مشورت با اهل اخلاق و دین منطقی به نظر می‌رسد؛ برای منتقدان، همین رفتار نشانه‌ی انسان‌انگاری بیش از حد است.
اگر می‌خواهید زمینه‌ی بیشتری درباره‌ی شرکت‌های بازیگر این ماجرا داشته باشید، مقاله‌ی OpenAI چیست؟ در سایت ما نقطه‌ی شروع خوبی است.
۴. «اعتراف به سبک کاتولیک» برای هوش مصنوعی؟
یکی از جزئیات جالب گزارش، اشاره به ایده‌ی چیزی شبیه «اعتراف‌گیری به سبک کاتولیک» برای مدل‌هاست. اگر آن را از ظاهر مذهبی‌اش جدا کنیم، مفهوم فنی روشنی پشتش هست: مدلی که بتواند خطاهایش را صادقانه بیان کند و از همان بیان برای اصلاح رفتار آینده‌اش استفاده شود. در پژوهش ایمنی، ایده‌های مشابه تحت عنوان گزارش‌دهی صادقانه‌ی مدل درباره‌ی رفتار و استدلال خودش مطرح شده‌اند.
مشکل اینجاست که زبان دینی برای عموم مردم بار معنایی سنگینی دارد. وقتی از «اعتراف»، «روح» یا «بلوغ اخلاقی» حرف می‌زنیم، شنونده ممکن است تصور کند ماشین موجودی با وجدان و مسئولیت اخلاقی شخصی است. منتقدان دقیقاً از همین سوءبرداشت می‌ترسند و می‌گویند چنین زبانی مرز میان ابزار و موجود را مخدوش می‌کند.
۵. واکنش آلتمن؛ نگرانی او دقیقاً چیست؟
جمله‌ی آلتمن دو بخش دارد و باید جداگانه خوانده شود. بخش نخست درباره‌ی «نیروی دینی» است: اینکه مردم به مدل‌ها نوعی اقتدار معنوی یا فرابشری نسبت بدهند. بخش دوم درباره‌ی «تسلیم قضاوت انسانی» است: اینکه انسان‌ها تصمیم‌های اخلاقی و مهم را به ماشین واگذار کنند. نگرانی اصلی او به نظر می‌رسد بخش دوم باشد؛ یعنی خطری که از اعتماد بیش از اندازه به یک سامانه‌ی قدرتمند ناشی می‌شود، حتی اگر آن سامانه هیچ قصد بدی نداشته باشد.
این نگرانی بی‌پایه نیست. تاریخ فناوری پر از نمونه‌هایی است که مردم به یک ابزار بیش از حد اعتماد کرده‌اند. اگر کاربران باور کنند یک چت‌بات «اخلاقی‌تر از انسان» است، ممکن است در موقعیت‌های حساس، مثل مشاوره‌ی پزشکی، حقوقی یا اخلاقی، بدون تردید از آن اطاعت کنند. آلتمن همین خطر را «مسئله‌ی ایمنی» می‌نامد.
البته نباید فراموش کرد که این حرف از زبان رقیب مستقیم آنتروپیک زده شده است. منتقدان آلتمن می‌گویند او می‌تواند از این بحث برای تقویت روایت خودش درباره‌ی تفاوت دو شرکت استفاده کند. بنابراین بهتر است این واکنش را هم یک موضع فلسفی و هم بخشی از رقابت تجاری بدانیم.
۶. صدای منتقد دیگر از گوگل دیپ‌مایند
آلتمن تنها کسی نبود که واکنش نشان داد. به نوشته‌ی اکسیوس، جان بارون از گوگل دیپ‌مایند هم در شبکه‌ی اجتماعی با اشاره به «پژوهشگران هوش مصنوعی که مدام می‌خواهند جایگاه اخلاقی چک‌پوینت‌ها و هارنس‌ها را بالا ببرند» مخالفت خود را اعلام کرد. منظور او از «چک‌پوینت» همان فایل وزن‌های مدل است و «هارنس» به نرم‌افزاری گفته می‌شود که مدل را در قالب یک عامل کاری اجرا می‌کند؛ یعنی از نظر او این‌ها ابزار فنی‌اند و نباید درباره‌ی «منزلت اخلاقی» آن‌ها بحث کرد.
وجود چنین موضعی نشان می‌دهد این بحث فقط بین دو شرکت نیست. در خود جامعه‌ی پژوهشی هوش مصنوعی، میان کسانی که احتمال «رفاه مدل» را جدی می‌گیرند و کسانی که آن را انحراف ذهن از خطرهای واقعی‌تر می‌دانند، شکاف عمیقی وجود دارد.
۷. شکاف بزرگ‌تر میان OpenAI و آنتروپیک
این جدل اولین نشانه‌ی اختلاف دو شرکت نیست. چند روز پیش هم آلتمن در گفت‌وگو با پولیتیکو گفت میان OpenAI و آنتروپیک بر سر مقررات «فاصله‌ی زیادی» وجود دارد و جامعه باید «چند اتفاق بد» را برای دریافت منافع فناوری بپذیرد؛ ماجرایی که در مقاله‌ی سم آلتمن: دنیا باید چند اتفاق بد را بپذیرد بررسی کرده‌ایم. آنتروپیک هم به تازگی با برنامه‌ی تربیت مهندس هوش مصنوعی خبرساز شده است؛ برای جزئیات آن مقاله‌ی آکادمی فرانتیر کلود را ببینید.
اگر این رشته‌ی ماجراها را کنار هم بگذاریم، تصویر روشن‌تری به دست می‌آید: OpenAI بیشتر خودش را شرکتی نشان می‌دهد که می‌خواهد فناوری را با سرعت و ریسک مدیریت‌شده عرضه کند، و آنتروپیک خودش را شرکتی معرفی می‌کند که پرسش‌های ارزشی و اخلاقی را هم بخشی از مهندسی می‌داند. هیچ‌کدام از این دو روایت لزوماً درست یا غلط نیست؛ اما انتخاب میان آن‌ها بر رفتار محصولاتی که روزانه استفاده می‌کنیم اثر می‌گذارد.
۸. این بحث برای کاربر عادی چه معنایی دارد؟
شاید فکر کنید این جدل ربطی به کار روزمره‌ی شما ندارد، اما چنین نیست. شیوه‌ی آموزش و «شخصیت» مدل‌ها مستقیماً روی پاسخ‌هایی که می‌گیرید اثر دارد: چقدر محتاط است، کی از پاسخ دادن خودداری می‌کند، چطور با موضوع‌های حساس برخورد می‌کند و تا چه حد خودش را «دارای نظر» نشان می‌دهد. وقتی دو شرکت دیدگاه متفاوتی درباره‌ی اخلاق مدل دارند، تجربه‌ی کاربر هم متفاوت می‌شود.
مهم‌ترین توصیه‌ی عملی این است که به هر مدل هوش مصنوعی مثل یک دستیار قدرتمند، اما اشتباه‌پذیر نگاه کنید. پاسخ‌های مهم را بررسی کنید، به‌جای واگذاری کامل تصمیم، از آن برای فکر کردن بهتر کمک بگیرید و مهارت پرسیدن درست را تقویت کنید. مقاله‌ی نوشتن پرامپت برای مبتدیان و دوره‌ی آموزش‌های چت‌جی‌پی‌تی در این مسیر کمک می‌کنند.
همچنین اگر می‌خواهید بدانید هوش مصنوعی در دنیای واقعی کجا خوب عمل می‌کند و کجا نه، مقاله‌ی توانایی‌ها و محدودیت‌های واقعی هوش مصنوعی را بخوانید. برای تصویر کلی‌تر از اثر این فناوری بر کسب‌وکارها هم به اهمیت هوش مصنوعی در کسب‌وکار سر بزنید.
۹. چه چیزهایی هنوز مشخص نیست؟
چند پرسش مهم بی‌پاسخ مانده است. نخست اینکه آنتروپیک رسماً چه نتیجه‌ای از این گفت‌وگوها گرفته و آیا چیزی از آن در رفتار مدل‌ها یا سند ارزش‌های Claude بازتاب پیدا می‌کند یا نه. دوم اینکه آلتمن دقیقاً به کدام بخش از رویکرد آنتروپیک انتقاد دارد: گفت‌وگو با اهل دین، یا اصل جدی گرفتن آگاهی مدل‌ها. سوم اینکه آیا این بحث به استانداردهای مشترک صنعتی درباره‌ی «رفاه مدل» خواهد رسید یا در همین سطح جدل باقی می‌ماند.
تا زمانی که شرکت‌ها توضیح رسمی بدهند، بهتر است خبر را همان‌طور که هست بخوانیم: یک گزارش رسانه‌ای، یک واکنش تند و یک اختلاف فلسفی واقعی که بعید است زود تمام شود.
۱۰. پرسش‌های متداول
آیا آنتروپیک ادعا کرده Claude آگاه است؟
نه. بر اساس آنچه از منابع آمده، موضع آنتروپیک این است که نمی‌داند مدل‌ها آگاه‌اند یا نه و فقط می‌گوید این احتمال را باید جدی بررسی کرد. این با ادعای قطعی درباره‌ی آگاهی تفاوت دارد.
آلتمن دقیقاً چه گفت؟
او نوشت از اینکه مردم بخواهند به مدل‌های هوش مصنوعی نیروی دینی ببخشند یا قضاوت انسانی را به آن‌ها تسلیم کنند «بسیار ناراحت» است و این را یک مسئله‌ی واقعی ایمنی می‌داند.
آیا این به معنای ورود دین به محصولات هوش مصنوعی است؟
خیر. تا اینجا گزارش‌ها از مشورت و گفت‌وگو حرف می‌زنند، نه از تبدیل شدن آموزه‌های دینی به بخشی رسمی از محصولات. هر ادعای فراتر از این هنوز مستند نیست.
چرا گوگل دیپ‌مایند هم وارد بحث شد؟
جان بارون از دیپ‌مایند با ارتقای جایگاه اخلاقی مدل‌ها مخالفت کرد و آن‌ها را ابزارهای فنی دانست. این نشان می‌دهد اختلاف نظر در کل صنعت وجود دارد و فقط به دو شرکت محدود نیست.
من به عنوان کاربر چه کاری باید بکنم؟
به مدل‌ها به چشم دستیار نگاه کنید، نه مرجع نهایی تصمیم. پاسخ‌های مهم را راستی‌آزمایی کنید و تصمیم‌های اخلاقی و حیاتی را خودتان بگیرید.
۱۱. جمع‌بندی
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
