شهریور
اخبار
تیم تازهی اوپنایآی؛ خطر تمرکز قدرت جدیتر از مدل سرکش
شرکت اوپنایآی اینبار بهجای رونمایی از یک مدل تازه، پرسشی بزرگتر روی میز گذاشته است. این شرکت تیم و نشریهای تازه راه انداخته تا یکی از نگرانکنندهترین پیامدهای هوش مصنوعی را بررسی کند: تمرکز قدرت. استدلال اصلی این است که خطر واقعی لزوماً یک ماشین سرکش نیست، بلکه دنیایی است که در آن حکومتها و شرکتها دیگر برای ادارهی امور به همکاری مردم عادی نیاز ندارند.
لیست مطالب
۱) ماجرا از کجا شروع شد
در فضایی که هر هفته خبر یک مدل تازه، یک قرارداد میلیارد دلاری یا یک رکورد جدید در آزمونهای مرجع منتشر میشود، اوپنایآی تصمیم گرفته بحثی از جنس دیگری را باز کند. این شرکت نشریهای اینترنتی راه انداخته که خروجی تیمی بهنام آیندههای راهبردی است و موضوع اصلیاش نه کارایی مدلها، بلکه اثر آنها بر ساختار قدرت در جوامع آزاد است.
نخستین یادداشت این مجموعه به قلم دین بال منتشر شد و لحن آن با آنچه معمولاً از یک شرکت فناوری انتظار داریم فاصله دارد. این متن بیشتر شبیه یک جستار سیاسی است تا یک اعلامیهی محصول. پرسش محوریاش هم ساده و در عین حال ناراحتکننده است: اگر ماشینها بتوانند بیشتر کارهایی را انجام دهند که تا امروز فقط انسانها میتوانستند، چه چیزی حکومتها و شرکتها را وادار میکند به خواست مردم عادی توجه کنند؟
این پرسش برای شرکتی که خودش یکی از بازیگران اصلی این تحول است، پرسش راحتی نیست. برای آشنایی با پیشینه و مسیر این شرکت میتوانید اوپنایآی چیست را بخوانید.
۲) استدلال اصلی؛ قدرت همیشه به همکاری نیاز داشته است
هستهی بحث این یادداشت یک مشاهدهی تاریخی است. در طول تاریخ، هیچ حکومتی نتوانسته بدون همکاری شمار زیادی از مردم عادی دوام بیاورد. ارتشها از سربازانی تشکیل میشدند که میتوانستند از اجرای فرمان سر باز بزنند. ادارهی کشور به کارمندانی وابسته بود که میتوانستند کارشکنی کنند. درآمد دولت از مالیات مردمی میآمد که باید تا حدی راضی نگه داشته میشدند.
این وابستگی، به گفتهی نویسنده، یک ترمز طبیعی برای قدرت بوده است. حاکمی که همهی مردمش را از خود برنجاند، نه سرباز دارد، نه کارمند، نه درآمد. آزادیهای مدنی که امروز بدیهی میدانیم، بخش زیادی از دوامشان را مدیون همین معادلهاند، نه صرفاً مدیون متن قوانین.
حالا فرض کنید این معادله بشکند. اگر نیروی نظامی بدون سرباز کار کند، اگر ادارهی امور بدون کارمند بچرخد و اگر بخش بزرگی از درآمد بهجای کار انسانی از زیرساختهای خودکار بیاید، آن ترمز طبیعی از کار میافتد. جملهای که در این متن آمده تصویر روشنی از این وضعیت میدهد: شکلها میتوانند بمانند در حالی که محتوا رفته است؛ مردم ممکن است همچنان رأی بدهند و در همان حال قدرتشان را از دست بدهند.
۳) چرا تمرکز قدرت جدیتر از هوش مصنوعی سرکش دانسته شده
در سالهای گذشته بیشتر بحثهای ایمنی هوش مصنوعی حول سناریوی مدل سرکش میچرخید؛ سامانهای که اهداف خودش را دنبال میکند و از کنترل خارج میشود. آن نگرانی همچنان جدی است و در همین یادداشت هم نادیده گرفته نشده. اما استدلال تازه این است که خطر تمرکز قدرت به دلیل دیگری خطرناکتر است: بیسروصدا اتفاق میافتد.
یک مدل سرکش لحظهای قابل تشخیص دارد. اما جابهجایی تدریجی قدرت هیچ لحظهی مشخصی ندارد. هیچ روزی نیست که در آن اعلام شود از امروز نظر شهروندان اهمیتی ندارد. این تغییر در فاصلهی هزاران تصمیم کوچک اتفاق میافتد: یک فرآیند خودکار میشود، یک تیم کوچک میشود، یک سامانهی نظارتی نصب میشود. هر کدام بهتنهایی موجه به نظر میرسند و مجموعشان تصویری میسازد که کسی عمداً طراحیاش نکرده است.
نکتهی دیگر این است که این خطر تنها متوجه دولتها نیست. شرکتهای بزرگ فناوری هم میتوانند به جایگاهی برسند که در آن نه به کارکنان زیادی نیاز دارند و نه به رضایت کاربران. برای درک بهتر مرز میان تواناییهای واقعی و ادعاهای اغراقآمیز این فناوری، پتانسیل و محدودیتهای واقعی هوش مصنوعی را ببینید.
۴) شش اصل راهنمای این تیم
بخش عملیتر این یادداشت مجموعهای از اصول راهنماست که چارچوب کار این تیم را مشخص میکند. اصل نخست بر حفظ استقلال و فرصت فردی در استفاده از هوش مصنوعی تأکید دارد، حتی اگر گاهی با امنیت یا رشد اقتصادی در تعارض باشد. این جملهی صریحی است؛ یعنی نویسنده میپذیرد که آزادی همیشه ارزانترین گزینه نیست.
اصل دوم میگوید استقلال فردی بدون مسئولیت فردی در برابر سوءاستفاده معنا ندارد. اصل سوم دستهی کوچکی از خطرها را به رسمیت میشناسد که به اقدام جمعی نیاز دارند، اما تأکید میکند این اقدام باید تا حد ممکن محدود و کمدامنه بماند.
اصل چهارم شاید سیاسیترین بند این فهرست باشد: قانون باید تا جای ممکن زمین بازی را هموار کند و به افراد و سازمانهای کوچک قدرت بدهد، نه اینکه قدرت را متمرکز کند. اصل پنجم اولویت نهادهای سیاسی، اجتماعی و اقتصادی انسانی در هدایت امور جهان را حفظ میکند و اصل ششم به این میپردازد که حکمرانی بلندمدت این فناوری به سازوکارهای نهادی تازهای نیاز خواهد داشت تا سامانهها تا حد لازم قابل فهم و بازرسی بمانند.
۵) نقدهایی که به این طرح وارد شده است
واکنشها به این یادداشت یکدست نبوده است. مهمترین نقد به موقعیت گوینده برمیگردد. اوپنایآی خودش یکی از بزرگترین بازیگران این حوزه است و هشدار دادن دربارهی تمرکز قدرت از زبان شرکتی که در قلب همان تمرکز قرار دارد، برای بخشی از ناظران متناقض به نظر میرسد.
نقد دوم به فاصلهی میان اصول و عمل مربوط میشود. اصولی مثل حفظ استقلال فردی یا محدود نگهداشتن مداخلهی جمعی در سطح کلمات کمهزینهاند؛ آزمون واقعی زمانی است که این اصول با منافع تجاری در تعارض قرار بگیرند. تا وقتی مصداق روشنی از چنین تعارضی و نحوهی حل آن دیده نشود، ارزیابی دقیق ممکن نیست.
نقد سوم به دوگانهی مطرحشده مربوط است. برخی میگویند مقایسهی خطر تمرکز قدرت با خطر مدل سرکش، انتخاب میان دو چیزی است که لزومی به انتخاب میانشان نیست؛ هر دو میتوانند همزمان اتفاق بیفتند و برجسته کردن یکی ممکن است توجه را از دیگری بردارد.
۶) این بحث برای کاربر عادی چه معنایی دارد
ممکن است این گفتوگو در نگاه اول انتزاعی و دور از زندگی روزمره به نظر برسد. اما پیامدهای عملیاش نزدیکتر از چیزی است که تصور میشود. هر بار که یک تصمیم دربارهی شما — از تأیید یک وام تا رد یک درخواست شغلی — بهجای یک انسان توسط یک سامانهی خودکار گرفته میشود، پرسش پاسخگویی مطرح میشود: چه کسی باید توضیح بدهد و به چه کسی میشود اعتراض کرد؟
اصل مربوط به قابل فهم ماندن سامانهها دقیقاً به همین موضوع برمیگردد. اگر تصمیمی که زندگی شما را تغییر میدهد از دل جعبهای سیاه بیرون بیاید که هیچکس منطق آن را توضیح نمیدهد، حق اعتراض عملاً بیمعنا میشود.
در سطح اقتصادی هم اثر مستقیم وجود دارد. اگر ارزش اقتصادی بیشتری از زیرساختهای خودکار بیاید و کمتر از کار انسانی، سازوکارهای فعلی توزیع درآمد باید بازنگری شوند. مهارتآموزی و درک کارکرد این ابزارها یکی از معدود اهرمهایی است که در سطح فردی در دسترس است؛ یادگیری اصول پرامپتنویسی و آموزشهای چتجیپیتی نقطهی شروع خوبی برای این مسیر است.
۷) نگاهی به تصویر بزرگتر
راهاندازی این نشریه را میتوان بخشی از یک روند دانست. شرکتهای پیشرو هوش مصنوعی در دو سال گذشته بهتدریج از گفتمان صرفاً فنی فاصله گرفتهاند و وارد بحثهای سیاستگذاری، حکمرانی و اقتصاد سیاسی شدهاند. بخشی از این حرکت از سر مسئولیتپذیری است و بخشی هم بیشک به تلاش برای اثرگذاری بر چارچوب مقرراتی آینده برمیگردد.
هر دو انگیزه میتوانند همزمان درست باشند. نکتهی مهم برای خواننده این است که این متون را نه صرفاً بهعنوان تحلیل بیطرف بخواند و نه صرفاً بهعنوان لابیگری. ارزش این یادداشت در پرسشی است که مطرح میکند، نه لزوماً در پاسخهایی که میدهد.
پرسش پایانی همان است که در ابتدا مطرح شد: آیا نهادهای دموکراتیک میتوانند در برابر فناوریای که وابستگی قدرت به مردم را کم میکند دوام بیاورند؟ پاسخ روشنی وجود ندارد و شاید همین نبودن پاسخ، مهمترین پیام این طرح باشد. تازهترین تحولات این حوزه را در بخش اخبار دنبال کنید.
۸) چه چیزی را باید در ماههای آینده دنبال کرد
چند نشانهی مشخص وجود دارد که نشان میدهد این طرح جدی است یا نه. نخست، تداوم انتشار: آیا این نشریه به تولید منظم محتوا ادامه میدهد یا پس از چند یادداشت متوقف میشود؟ دوم، استقلال محتوایی: آیا در این متون نقدی به خود اوپنایآی هم دیده میشود یا همهی انگشتهای اتهام به بیرون اشاره میکنند؟
سوم و مهمتر از همه، اثرگذاری بر تصمیمهای عملی خود شرکت. اگر اصلی مثل توانمندسازی سازمانهای کوچک واقعاً راهنمای عمل باشد، باید ردش را در قیمتگذاری، در سیاستهای دسترسی و در مدلهای باز یا بسته دید. اگر چنین ردی پیدا نشد، این اصول در حد یک متن باقی خواهند ماند. برای مقایسهی رویکرد بازیگران مختلف این صنعت، اهمیت هوش مصنوعی در کسبوکار زمینهی مفیدی به دست میدهد.
پرسشهای پرتکرار دربارهی تیم آیندههای هوش مصنوعی اوپنایآی
این تیم دقیقاً چه کاری انجام میدهد؟
تیم آیندههای راهبردی اوپنایآی روی پیامدهای اجتماعی، سیاسی و اقتصادی هوش مصنوعی پیشرفته کار میکند و خروجیاش در نشریهای اینترنتی بهنام آیندههای هوش مصنوعی منتشر میشود. تمرکز اصلی این تیم بر حفظ حقوق فردی و جلوگیری از تمرکز بیشازحد قدرت است.
منظور از تمرکز قدرت در این بحث چیست؟
منظور وضعیتی است که در آن یک دولت یا یک شرکت بتواند بدون نیاز به همکاری شمار زیادی از انسانها امور را اداره کند. وقتی نیروی کار، ادارهی امور و بخشی از درآمد به سامانههای خودکار منتقل شود، اهرم فشار طبیعی مردم بر صاحبان قدرت تضعیف میشود.
آیا این یعنی خطر هوش مصنوعی سرکش دیگر مطرح نیست؟
خیر. در همین یادداشت هم به خطر سامانههای خودمختاری که فراتر از حدود تعیینشده عمل میکنند اشاره شده است. استدلال مطرحشده این است که خطر تمرکز قدرت به دلیل تدریجی و بیسروصدا بودنش سختتر تشخیص داده میشود، نه اینکه خطر دیگر منتفی باشد.
چرا انتشار این بحث از سوی خود اوپنایآی محل نقد است؟
چون این شرکت خودش یکی از بزرگترین بازیگران بازار هوش مصنوعی است و منتقدان میگویند هشدار دربارهی تمرکز قدرت از زبان یکی از متمرکزکنندگان قدرت، نیازمند شفافیت بیشتری دربارهی عملکرد خود شرکت است. ارزیابی نهایی به این بستگی دارد که این اصول در تصمیمهای عملی چقدر رعایت شوند.
یک کاربر عادی در برابر این روند چه کاری میتواند بکند؟
مهمترین کار، درک کارکرد این ابزارها و استفادهی آگاهانه از آنهاست. آشنایی با نحوهی کار مدلها، شناخت محدودیتهایشان و پیگیری بحثهای مربوط به شفافیت الگوریتمی، جایگاه فرد را از مصرفکنندهی منفعل به کاربر آگاه تغییر میدهد.
