تیر
اخبار
هاسابیس زنگ خطر را به صدا درآورد: هوش مصنوعی فراگیر نزدیک است و جهان به «دیدبان جهانی» نیاز دارد
مدیرعامل گوگل دیپمایند میگوید هوش مصنوعیِ فراگیر تنها چند سال با ما فاصله دارد و جهان برای مهارِ آن باید همین امسال یک «دیدبان جهانی» بسازد.
لیست مطالب
۱) چه اتفاقی افتاد؟ خلاصهی یک هشدارِ مهم
یکی از تأثیرگذارترین چهرههای دنیای هوش مصنوعی، این هفته لحن هشدار به خود گرفت. دمیس هاسابیس، مدیرعامل و همبنیانگذار آزمایشگاه گوگل دیپمایند، در مجموعهای از اظهارات و یک یادداشت جنجالی گفت که هوش مصنوعیِ فراگیر یا همان AGI «احتمالاً فقط چند سال کوتاه» با ما فاصله دارد و بشریت اکنون در «دامنههای آغازینِ تکینگی» ایستاده است. این جملهها از زبان کسی که سالها محتاطانه دربارهی زمانبندی صحبت میکرد، بهخودیِخود یک خبر است.
اما مهمتر از هشدار، راهحلی است که او روی میز گذاشت. هاسابیس پیشنهاد داد یک نهاد ناظرِ مستقل و بینالمللی ساخته شود که همهی مدلهای پیشرفته را پیش از انتشار بررسی کند؛ نهادی که او الگوی آن را از «فینرا»، نهاد خودتنظیمگرِ بازار سرمایهی آمریکا، وام گرفته است. به بیان ساده، همانطور که یک داروی تازه پیش از رسیدن به قفسهی داروخانه باید از فیلتر آزمایشهای ایمنی بگذرد، مدلهای قدرتمند هوش مصنوعی هم باید پیش از عرضه از یک «ایست بازرسیِ ایمنی» عبور کنند.
نکتهی کلیدی این است که به باور هاسابیس این قواعد باید بر همهی مدلهای ردهی مرزی اعمال شود، «فارغ از کشور مبدأ و فارغ از اینکه متنباز باشند یا بسته». او زمانبندی را هم بسیار فشرده میداند و میگوید هدفْ «چند ماه» است و این نهاد در حالت ایدهآل باید «پیش از پایان سال» و تا انتهای ۲۰۲۶ عملیاتی شود. برای دنبالکردن جزئیات اینگونه تحولها میتوانید همیشه به بخش اخبار هوش مصنوعی سر بزنید.
۲) دمیس هاسابیس کیست و چرا حرف او وزن دارد؟
برای درک اهمیت این خبر، باید بدانیم چه کسی آن را مطرح کرده است. دمیس هاسابیس، شطرنجبازِ نوجوانِ سرآمدِ دیروز و دانشمند علوم اعصابِ امروز، یکی از بنیانگذاران دیپمایند است؛ آزمایشگاهی که گوگل آن را خرید و به یکی از قطبهای پژوهش هوش مصنوعی جهان تبدیل شد. کارنامهی او شامل ساخت سامانههایی مثل «آلفاگو» (که قهرمان جهانی بازی گو را شکست داد) و «آلفافولد» (که مسئلهی دیرینهی پیشبینی ساختار پروتئینها را حل کرد) است؛ دستاوردی که برایش جایزهی نوبل شیمی را به ارمغان آورد.
وقتی چنین فردی، که خودش در خط مقدم ساختِ این فناوری است، دربارهی خطرهای آن هشدار میدهد، ماجرا فرق میکند. این دیگر نگرانیِ یک منتقدِ بیرونی نیست؛ صدای کسی است که بهتر از هر کس میداند این سامانهها چه تواناییهایی دارند و با چه شتابی جلو میروند. هاسابیس همیشه به داشتن نگاهی متعادل شهرت داشته: هم به توانِ دگرگونکنندهی هوش مصنوعی برای علم و پزشکی خوشبین بوده و هم دربارهی ریسکها صریح.
همین تعادل است که اظهارات تازهی او را نگرانکننده میکند. وقتی خوشبینترین سازندگان هم میگویند «فرصت کم است»، یعنی باید جدی گرفت. اگر میخواهید تصویر دقیقتری از اینکه هوش مصنوعی امروز واقعاً چه میتواند و چه نمیتواند بکند داشته باشید، مطلب توانها و محدودیتهای واقعی هوش مصنوعی نقطهی شروع خوبی است.
۳) هوش مصنوعیِ فراگیر (AGI) دقیقاً یعنی چه؟
اصطلاح AGI مخفف «هوش مصنوعیِ عمومی یا فراگیر» است. تفاوت آن با هوش مصنوعیِ امروزی در «گستره» است. ابزارهایی مثل ChatGPT یا جمینای در کارهای مشخص فوقالعادهاند، اما هرکدام در دامنهای محدود کار میکنند. AGI به سامانهای گفته میشود که بتواند تقریباً در هر کارِ فکری که یک انسانِ باهوش از پسش برمیآید، به همان اندازه یا بهتر عمل کند؛ از استدلال علمی و برنامهنویسی گرفته تا برنامهریزی بلندمدت و یادگیریِ مهارتهای تازه بدون آموزش ویژه.
چرا میگویند «فقط چند سال»؟
سالها تخمینها برای رسیدن به AGI در بازهی چند دهه بود. اما جهش مدلهای زبانیِ بزرگ در دو سه سال اخیر، بسیاری از پژوهشگران را واداشته که این بازه را کوتاه کنند. هاسابیس با تعبیر «دامنههای آغازینِ تکینگی» در واقع میگوید ما به نقطهای رسیدهایم که پیشرفتها روی هم سوار میشوند و شتاب میگیرند. مدلهایی که حالا میتوانند کدنویسی کنند، در ریاضیات المپیادی رقابت کنند و زنجیرههای پیچیدهی استدلال را دنبال کنند، نشانههایی از همین نزدیکشدن هستند.
البته باید منصف بود: همه با این زمانبندی موافق نیستند و «چند سال» یک پیشبینی است، نه یک قطعیت. بحث بر سر تعریفِ دقیقِ AGI هم هنوز داغ است. با این حال، وقتی بازیگرانی مثل دیپمایند و اوپنایآی عملاً بر سر رسیدن زودتر به این مرز رقابت میکنند، حتی احتمالِ درستبودن این تخمین کافی است تا سیاستگذاران را به تکاپو بیندازد.
۴) طرح «دیدبان جهانی»: نهادِ استانداردهای هوش مصنوعیِ مرزی چگونه کار میکند؟
هستهی پیشنهاد هاسابیس یک نهاد است که او آن را «نهاد استانداردهای هوش مصنوعیِ مرزی» مینامد. الگوی کار آن، ترکیبی از «فینرا» و منطق نظارتیِ کمیسیون بورس آمریکا است: یعنی نهادی که صنعت خودش آن را تأمین مالی میکند اما زیر نظارتی مستقل کار میکند و کارشناسان فنیِ بیطرف در آن حضور دارند.
سازوکار پیشنهادی در یک نگاه
در این طرح، آزمایشگاههای پیشرو در گام نخست بهصورت داوطلبانه مدلهای تازه را تا ۳۰ روز پیش از انتشار در اختیار این نهاد میگذارند. نهاد، مدل را از نظر سه دسته خطر آزمایش میکند: تهدیدهای سایبری، خطرهای زیستی، و رفتارهای فریبکارانهی خودِ مدل. اگر خطری جدی شناسایی شود، این نهاد اختیار دارد که «کند شدنِ روند توسعه» را میان بازیگران هماهنگ کند تا زمان برای رفع مشکل فراهم شود.
هاسابیس تأکید میکند که این چارچوب در بلندمدت باید از حالت داوطلبانه به حالت الزامی برسد و بر همهی مدلهای ردهی مرزیِ مستقر در آمریکا اعمال شود؛ و مهمتر اینکه معیارها باید فارغ از کشور مبدأ و فارغ از باز یا بسته بودنِ مدل یکسان باشند. این جزئیات نشان میدهد او به دنبال یک شعار کلی نیست، بلکه طرحی عملیاتی با زمانبندی مشخص را پیشنهاد میدهد.
۵) چرا هاسابیس اینقدر نگران است؟ «شلیکهای هشدار» و بازهی ۱۸ ماهه
هاسابیس برای توضیح فوریتِ ماجرا از تعبیر جالبی استفاده کرد. او گفت تهدیدهای سایبریِ امروزِ هوش مصنوعی فقط «شلیکهای هشدار» هستند؛ یعنی نمونههای کوچکی از آنچه در راه است. به گفتهی او، ظرف حدود ۱۸ ماه ممکن است تواناییهای واقعاً خطرناک وارد مدلهای متنباز شوند و وقتی چیزی متنباز و در دسترس همه شد، دیگر «از کنترل هر دولتی» خارج میماند.
این نکته هستهی نگرانی اوست. یک مدلِ بسته را میتوان محدود کرد، اما وزنهای یک مدلِ متنبازِ رهاشده روی اینترنت را نمیشود پس گرفت. اگر چنین مدلی توانایی کمک به ساخت سلاحهای سایبری یا زیستی را داشته باشد، خطر بهصورت غیرقابلبازگشت پخش میشود. برای همین است که او بر «آزمایش پیش از انتشار» اینقدر پافشاری میکند.
هاسابیس همچنین به نمونهای واقعی اشاره کرد: برخورد شتابزدهی دولت آمریکا با مدلهای شرکت آنتروپیک. به گفتهی او این نوع واکنشهای موردی و بدونبرنامه نشان میدهد که واشینگتن به چارچوبی «محکمتر از دستورهای ناگهانی» نیاز دارد؛ چارچوبی که پیشبینیپذیر باشد و همه از قواعد بازی خبر داشته باشند. این نگاه با آنچه بسیاری دربارهی اهمیت هوش مصنوعی و لزوم مدیریت درست آن در کسبوکارها میگویند همخوان است: فناوریِ قدرتمند بدون قاعدهی روشن، هم برای جامعه و هم برای بازار پرریسک است.
۶) تصویر بزرگتر: چرخش صنعت از «قدرت خام» به «هزینهی هر کار»
هشدار هاسابیس در یک بزنگاه جالب مطرح شده است. صنعت هوش مصنوعی همین حالا در حال یک چرخش بنیادی است: از رقابت بر سر «چه کسی بزرگترین و قدرتمندترین مدل را دارد» به رقابت بر سر «چه کسی کار را ارزانتر و بهینهتر انجام میدهد». بهجای نمایشِ صرفِ قدرت، حالا صحبت از هزینهی هر وظیفه و بهرهوری است.
نشانههای این چرخش را همهجا میبینیم. مدل گروکِ نسخهی ۴.۵ با قیمتگذاریِ رقابتی (حدود ۲ دلار برای هر میلیون توکن ورودی و ۶ دلار برای خروجی) وارد میدان شده؛ کلود سونت ۵ قابلیت تنظیم «شدتِ استدلال» را به کاربر میدهد تا فقط بهاندازهی نیاز هزینه کند؛ خانوادهی جدید مدلهای اوپنایآی با ردههای قیمتیِ متفاوت عرضه شده؛ و مدلهای چینی مثل نسل تازهی تِنسنت با معماریِ «فعالسازیِ بخشی» تلاش میکنند با مصرف کمترِ منابع، کارایی بالا بدهند.
اقتصاددانان این وضعیت را یک «لحظهی جِوونز» مینامند: وقتی چیزی ارزانتر و کارآمدتر میشود، مصرفش کم نمیشود بلکه بیشتر میشود. یعنی ارزانترشدنِ هوش مصنوعی بهجای کاهش استفاده، آن را به همهجا میبرد. و دقیقاً همین «همهجاییشدن» است که نظارت را ضروریتر میکند؛ چون قدرتی که تا دیروز فقط دست چند آزمایشگاه بود، فردا در دست میلیونها نفر خواهد بود. اگر کنجکاوید ببینید این رقابت میان مدلها چه شکلی دارد، نگاهی به مطلب نبرد ChatGPT و دیپسیک بیندازید.
۷) آیا این طرح شدنی است؟ ابهامها و چالشها
ایدهی یک دیدبان جهانی زیبا به نظر میرسد، اما اجرای آن ساده نیست. نخستین چالش، فاصلهی میان «داوطلبانه» و «الزامی» است. تا وقتی شرکتها بتوانند از زیر بار نظارت شانه خالی کنند، همیشه این خطر هست که برای عقبنماندن از رقیب، مدل را زودتر و بدون بررسی منتشر کنند. تبدیل این چارچوب به قانونِ لازمالاجرا، نیازمند ارادهی سیاسی جدی است.
چالش دوم ژئوپلیتیک است. هاسابیس میگوید قواعد باید فارغ از کشور مبدأ اعمال شوند، اما یک نهادِ «بهرهبری آمریکا» چگونه میتواند آزمایشگاههای چینی یا اروپایی را وادار به همکاری کند؟ رقابت میان قدرتها بر سر برتری در هوش مصنوعی، دقیقاً همان چیزی است که هماهنگیِ جهانی را دشوار میکند. برخی پژوهشگران این ایده را با چارچوبهایی مثل «پلن اِی» مقایسه میکنند که خواهان همکاری بینالمللی برای بهتعویقانداختنِ رسیدن به ابرهوش است.
و چالش سوم، تعادلِ همیشگیِ میان نوآوری و ایمنی است. نظارتِ بیشازحد میتواند نوآوری را کند کند و استارتاپهای کوچک را از میدان به در کند؛ نظارتِ کمترازحد هم میتواند فاجعه بار بیاورد. پیداکردن نقطهی طلایی، کارِ آسانی نیست و همین است که بحث را جذاب و حساس میکند. این تنش را حتی در سطح فردی هم میبینیم؛ چیزی شبیه بحثی که در مطلب توهم هوش مصنوعی؛ برنامهنویس تنها در برابر مهندس واقعی مطرح شده: قدرتِ ابزار بهتنهایی کافی نیست، بلکه نحوهی مهار و بهکارگیریِ درستِ آن است که سرنوشت را تعیین میکند.
۸) این خبر برای کاربران و کسبوکارهای فارسیزبان چه معنایی دارد؟
ممکن است بپرسید بحثِ نهادِ ناظرِ آمریکایی چه ربطی به ما دارد. پاسخ این است: زیرساختِ قواعدی که برای مدلهای مرزی نوشته میشود، در نهایت تعیین میکند که همین ابزارهایی که هر روز استفاده میکنیم چطور ساخته، عرضه و محدود شوند. اگر آزمایشهای ایمنی سختگیرانهتر شوند، ممکن است برخی قابلیتها دیرتر به دست کاربر برسند، اما در عوض مدلهای قابلاعتمادتری خواهیم داشت.
برای کسبوکارها این یعنی ثبات بیشتر و ریسک کمتر در بلندمدت. وقتی قواعدِ بازی روشن باشد، سرمایهگذاری روی ابزارهای هوش مصنوعی مطمئنتر میشود. نکتهی عملی برای همهی ما این است که سوادِ استفاده از این ابزارها را بالا ببریم؛ کسی که بلد باشد درست از مدلها کار بکشد، برندهی این موج است. از همینرو یادگیریِ مهارتهایی مثل نوشتن پرامپت اصولی و مرور آموزشهای ChatGPT بیش از هر زمانِ دیگری ارزشمند شده است.
در یک کلام، هشدار هاسابیس فقط یک بحث سیاستگذاری در واشینگتن نیست؛ نشانهای است از اینکه سرعت این فناوری از سرعت قاعدهگذاری برایش جلو زده است. و این موضوعی است که مستقیم بر آیندهی کاری و شغلیِ همهی ما اثر میگذارد.
۹) پرسشوپاسخ کوتاه (FAQ)
هاسابیس دقیقاً چه پیشنهادی داد؟
او خواستار تأسیس یک نهاد ناظرِ بینالمللی بهسبک «فینرا» شد که مدلهای پیشرفته را تا ۳۰ روز پیش از انتشار آزمایش کند و در صورت خطر بتواند سرعت توسعه را کم کند؛ نهادی که بهگفتهی او باید تا پایان ۲۰۲۶ راه بیفتد.
منظور از AGI چیست؟
هوش مصنوعیِ فراگیر یا AGI به سامانهای گفته میشود که بتواند تقریباً در هر کارِ فکریِ انسانی بهخوبیِ یک انسانِ باهوش یا بهتر عمل کند؛ برخلاف ابزارهای امروزی که فقط در کارهای محدود تخصص دارند.
چرا مدلهای متنباز نگرانکنندهاند؟
چون وقتی وزنهای یک مدل بهصورت متنباز منتشر شوند، دیگر نمیتوان آنها را پس گرفت یا محدود کرد. هاسابیس هشدار داد که ظرف حدود ۱۸ ماه، تواناییهای خطرناک ممکن است وارد چنین مدلهایی شوند و از کنترل دولتها خارج بمانند.
آیا این طرح قطعی است؟
خیر. این فعلاً یک پیشنهاد است، نه قانون. اجرای آن به ارادهی سیاسی، همکاری بینالمللی و توافق میان شرکتهای رقیب بستگی دارد و هنوز چالشهای جدی پیش رو دارد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
