مهر
اخبار
سم آلتمن: دنیا باید چند اتفاق بد را بپذیرد؛ شکاف اوپن‌ای‌آی و آنتروپیک بر سر مقررات
سم آلتمن، مدیرعامل اوپن‌ای‌آی، در یک گفتگوی تازه گفته دنیا باید بپذیرد که برای بهره‌مندی از مزایای هوش مصنوعی «چند اتفاق بد» هم رخ می‌دهد. او همزمان میان رویکرد شرکتش و آنتروپیک «فاصله‌ی زیادی» می‌بیند و از مقررات سبک‌تر دفاع می‌کند.
لیست مطالب
۱. ماجرا چیست و آلتمن دقیقاً چه گفت؟
خبرنامه‌ی Politico Decoded روز چهارم اکتبر ۲۰۲۶ گفتگویی با سم آلتمن منتشر کرد که خیلی زود در رسانه‌های فناوری بازتاب پیدا کرد. هسته‌ی حرف او این بود که دنیا باید بپذیرد برای بهره‌مندی از مزایای هوش مصنوعی، و برای اینکه مردم اختیار و توان عمل داشته باشند، گاهی چند اتفاق بد هم رخ می‌دهد. این جمله از آن دسته جمله‌هایی است که یک بار خوانده می‌شود و بحث‌های طولانی پس از آن شکل می‌گیرد.
آلتمن توضیح داد که حاضر نیست معامله‌ای را بپذیرد که در آن قول داده شود «هیچ هک بزرگی رخ نمی‌دهد» و در مقابلش دسترسی مردم به فناوری محدود شود. او معتقد است مردم با هوش مصنوعی «ده‌ها برابر» بیشتر از کارهای بد، کارهای خوب انجام می‌دهند و بنابراین هزینه‌ی محدودسازی بیش از فایده‌ی آن است.
مهم است که این اظهارنظر را در قالب خودش بخوانیم. این یک گفتگوی رسانه‌ای و بیان یک فلسفه‌ی کلی است، نه اعلام یک سیاست رسمی یا تغییر در محصولات. با این حال، وقتی مدیرعامل شرکتی که ChatGPT را می‌سازد درباره‌ی سطح قابل‌قبول آسیب حرف می‌زند، طبیعی است که توجه همه جلب شود. اگر هنوز با تاریخچه‌ی این شرکت آشنا نیستید، مقاله‌ی اوپن‌ای‌آی چیست مسیر شکل‌گیری آن را توضیح داده است.
۲. «فاصله‌ی زیاد» با آنتروپیک؛ اختلاف بر سر چیست؟
بخشی از گفتگو به مقایسه‌ی مستقیم با آنتروپیک اختصاص داشت. آلتمن گفت میان نگاه اوپن‌ای‌آی و آنتروپیک «فاصله‌ی زیادی» وجود دارد. او ایده‌ی متمرکز شدن قدرت هوش مصنوعی در یک آزمایشگاه واحد در سان‌فرانسیسکو را مبادله‌ای کاملاً غیرقابل قبول توصیف کرد. این جمله را بسیاری از تحلیل‌گران اشاره‌ای به رویکرد محتاط‌تر آنتروپیک و داریو آمودی تعبیر کرده‌اند، هرچند آلتمن در متن‌های منتشرشده نام شرکت را به شکل صریح در همین جمله نیاورده است.
اختلاف را می‌شود این‌طور خلاصه کرد: یک طرف معتقد است سرعت توسعه‌ی مدل‌های پیشرو باید با احتیاط بیشتری کنترل شود و حتی همکاری میان آزمایشگاه‌ها برای کند کردن این مسیر را مطرح می‌کند. طرف دیگر می‌گوید محدودسازی گسترده یعنی دست‌کم گرفتن فایده‌ها و در عمل سپردن کنترل به تعداد کمی بازیگر.
جالب اینکه برخی گزارش‌ها از نزدیک شدن مواضع دو شرکت در ماه‌های اخیر حرف می‌زنند و آلتمن با همین گفتگو نشان داد که در اصل ماجرا هنوز با آنتروپیک هم‌نظر نیست. اگر مقایسه‌ی عملکرد مدل‌های دو شرکت برایتان جالب است، تحلیل نبرد هوش‌های مصنوعی در شطرنج نمونه‌ای از رقابت مدل‌ها در عمل است.
۳. مقررات «سبک‌تر» یعنی چه؟
آلتمن از رویکردی دفاع کرد که می‌شود آن را «مقررات سبک» نامید. در این مدل، به جای اینکه توسعه‌ی هوش مصنوعی به شکل کلی مهار شود، تمرکز روی شناسایی خطرهای واقعاً فاجعه‌بار قرار می‌گیرد، کنترل انسانی حفظ می‌شود و آزمایش‌های مفید اجازه‌ی ادامه پیدا می‌کنند.
مدافعان این رویکرد می‌گویند قانون‌گذاری سنگین سرعت نوآوری را می‌گیرد، فشار را روی شرکت‌های کوچک بیشتر می‌کند و ممکن است بازار را به دست چند غول بدهد که توان رعایت هزینه‌های انطباق را دارند. منتقدان در مقابل می‌گویند وقتی خطر بالقوه واقعاً بزرگ است، منتظر ماندن تا اتفاق بد رخ دهد یعنی پذیرفتن آسیبی که شاید برگشت‌پذیر نباشد.
نکته‌ی ظریف اینجاست که حتی در همین گفتگو هم آلتمن «خطرهای فاجعه‌بار» را نادیده نمی‌گیرد؛ او فقط می‌خواهد مرز دقیق‌تری میان خطر فاجعه‌بار و آسیب‌های روزمره کشیده شود و بحث ایمنی به بهانه‌ی ترس عمومی همه‌چیز را متوقف نکند.
۴. چرا این حرف‌ها در این زمان مهم است؟
بحث حکمرانی هوش مصنوعی در آمریکا طی ماه‌های اخیر بسیار داغ شده است. از یک سو دولت ساختارهای تازه‌ای برای هماهنگی سیاست‌گذاری ساخته است؛ ماجرای نیروی ابرهوش آمریکا و سپردن سرپرستی آن به رئیس اطلاعات ملی را در بخش اخبار سایت دنبال کرده‌ایم. از سوی دیگر، گزارش‌هایی درباره‌ی استفاده‌ی مهاجمان از مدل‌ها برای پیدا کردن آسیب‌پذیری‌های نرم‌افزاری، نگرانی درباره‌ی امنیت سایبری را بالا برده است.
در چنین فضایی، اظهارنظر مدیرعامل یکی از بزرگ‌ترین شرکت‌های این حوزه درباره‌ی «پذیرش آسیب» از دو جهت خبرساز می‌شود. اول اینکه می‌تواند به عنوان مبنایی برای لابی‌گری به نفع قوانین سبک‌تر خوانده شود. دوم اینکه برای افکار عمومی، که هنوز از ابعاد واقعی خطرها مطمئن نیست، جمله‌ی نگران‌کننده‌ای است.
همزمان باید به یاد داشت که شرکت‌های بزرگ هوش مصنوعی هر کدام منافع تجاری مشخصی دارند. هم‌نوایی یا مخالفت آن‌ها با مقررات، تا حدی بازتاب موقعیت رقابتی‌شان هم هست و بهتر است حرف‌شان را با همین دقت بخوانیم.
۵. پاسخ طرفداران و منتقدان
استدلال طرفداران
طرفداران آلتمن می‌گویند هر فناوری بزرگی، از برق و خودرو تا اینترنت، در مسیر خود آسیب‌هایی داشته و جامعه با یادگیری و اصلاح قوانین به نتیجه‌ی بهتری رسیده است. به باور آن‌ها، اگر قرار بود صفر خطر را شرط پذیرش فناوری بگذاریم، هیچ‌کدام از آن‌ها به دست مردم نمی‌رسید. از همین رو، تمرکز بر نفع بزرگ‌تر و کنترل خطرهای فاجعه‌بار را منطقی‌تر می‌دانند.
استدلال منتقدان
منتقدان می‌گویند مقایسه‌ی هوش مصنوعی با فناوری‌های قبلی ناقص است، چون مدل‌های امروزی می‌توانند خودکار عمل کنند، به ابزارهای واقعی دسترسی داشته باشند و در مقیاسی کار کنند که مهار آسیب را دشوار می‌کند. همچنین وقتی از «پذیرش چند اتفاق بد» حرف می‌زنیم، مهم است بپرسیم چه کسی هزینه‌ی آن اتفاق‌ها را می‌پردازد و آیا او در این معامله حق انتخاب داشته است یا نه.
برای نگاهی متعادل‌تر به ظرفیت‌ها و محدودیت‌های واقعی این فناوری، مقاله‌ی ظرفیت و محدودیت‌های هوش مصنوعی در دنیای واقعی را بخوانید.
۶. این موضوع برای کاربران عادی چه معنایی دارد؟
برای کاربر عادی، این خبر مستقیماً قابلیت یا قیمت محصولی را تغییر نمی‌دهد، اما جهت کلی سیاست‌گذاری را نشان می‌دهد. اگر رویکرد سبک‌تر برنده شود، احتمالاً قابلیت‌های جدید سریع‌تر به دست کاربران می‌رسد و ابزارها کمتر محدود می‌شوند. اگر رویکرد محتاط‌تر غالب شود، ممکن است برخی قابلیت‌های پیشرفته دیرتر یا با محدودیت بیشتر عرضه شوند.
در هر دو حالت، مسئولیت استفاده‌ی درست بخش مهمی از ماجرا باقی می‌ماند. بررسی خروجی مدل‌ها، پرهیز از سپردن اطلاعات حساس به هر ابزار و استفاده از تنظیمات حریم خصوصی، عادت‌هایی هستند که فارغ از نتیجه‌ی این بحث ارزش دارند. اگر تازه شروع کرده‌اید، آموزش نوشتن پرامپت برای مبتدی‌ها نقطه‌ی شروع خوبی است.
۷. اثر این بحث بر کسب‌وکارها و توسعه‌دهندگان
برای شرکت‌هایی که روی مدل‌های زبانی سرمایه‌گذاری کرده‌اند، شکل مقررات آینده مستقیماً روی برنامه‌ریزی اثر می‌گذارد. قوانین سنگین‌تر یعنی هزینه‌ی انطباق بیشتر، الزام به ثبت و ارزیابی ریسک و احتمال محدودیت در برخی کاربردها. قوانین سبک‌تر یعنی چابکی بیشتر، اما با مسئولیت بیشتر روی دوش خود شرکت برای مدیریت ریسک.
پیشنهاد عملی این است که کسب‌وکارها صرف‌نظر از جهت مقررات، ارزیابی ریسک داخلی داشته باشند، به داده‌ها دسترسی حداقلی بدهند و برای خروجی‌های مدل مسیر بازبینی انسانی تعریف کنند. در مقاله‌ی چرا هوش مصنوعی در کسب‌وکار مهم است نمونه‌هایی از این رویکرد آمده است. همچنین در مقاله‌ی توهم توسعه‌دهنده‌ی تنها در برابر مهندس واقعی توضیح داده‌ایم چرا نظارت انسانی هنوز جایگزین‌ناپذیر است.
۸. سناریوهای محتمل برای ماه‌های آینده
سناریوی اول این است که بحث همین‌طور در سطح اظهارنظر رسانه‌ای بماند و هر شرکت مسیر خودش را ادامه دهد. در این حالت، اختلاف نظر آلتمن و آمودی بیشتر یک رقابت روایت‌هاست تا یک تغییر ملموس در قانون.
سناریوی دوم این است که نهادهای دولتی با استناد به نگرانی‌های امنیتی به سمت قواعد الزام‌آورتر بروند. در این حالت، اظهارات اخیر می‌تواند به شکل جدی‌تر در جلسات و لابی‌ها مطرح شود و هر دو طرف برای اثرگذاری روی متن قانون تلاش کنند.
سناریوی سوم، که شاید محتمل‌تر باشد، ترکیبی است: مقررات سبک برای کاربردهای عمومی و الزام‌های سخت‌گیرانه‌تر برای مدل‌های بسیار قدرتمند و حوزه‌های حساس. هنوز زود است که بگوییم کدام مسیر انتخاب می‌شود، اما روشن است که گفتگو درباره‌ی «چه اندازه خطر قابل قبول است» تازه شروع شده است. برای دنبال کردن همین روند، بخش اخبار هوش مصنوعی و آموزش‌های ChatGPT را از دست ندهید.
۹. پرسش‌های متداول
آلتمن دقیقاً کدام جمله را گفت؟
او گفت دنیا باید بپذیرد که برای دریافت مزایای این فناوری و برای اینکه مردم اختیار و توان عمل داشته باشند، چند اتفاق بد هم رخ می‌دهد. این جمله در گفتگوی خبرنامه‌ی Politico Decoded در تاریخ چهارم اکتبر ۲۰۲۶ منتشر شد.
آیا این به معنی بی‌توجهی اوپن‌ای‌آی به ایمنی است؟
نه لزوماً. آلتمن در همان گفتگو از شناسایی خطرهای فاجعه‌بار و حفظ کنترل انسانی حرف زد. اختلاف او با رقبا بیشتر بر سر میزان و شیوه‌ی مقررات است، نه اصل وجود ایمنی.
مقصود از «یک آزمایشگاه در سان‌فرانسیسکو» چیست؟
آلتمن تمرکز قدرت هوش مصنوعی در یک آزمایشگاه واحد را غیرقابل قبول دانست. بسیاری این را اشاره‌ای به رویکرد آنتروپیک تفسیر کرده‌اند، اما او در متن‌های منتشرشده این نام را در همان جمله صریحاً نگفته است.
این گفتگو روی استفاده‌ی من از ChatGPT اثری دارد؟
در کوتاه‌مدت خیر. این یک بیانیه‌ی فلسفی درباره‌ی مقررات است و محصولی را تغییر نمی‌دهد. اثر بلندمدت آن به این بستگی دارد که سیاست‌گذاران کدام رویکرد را انتخاب کنند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
