شهریور
اخبار
آنتروپیک: کلود ۲۶ درصد تحقیق و توسعه هوش مصنوعی را هدایت میکند
آنتروپیک برای نخستینبار رقمی دقیق از میزان هدایتگری کلود در تحقیق و توسعهی داخلی خودش منتشر کرد؛ عددی که میتواند به استاندارد شفافیت کل صنعت هوش مصنوعی تبدیل شود.
لیست مطالب
۱. چرا این عدد اهمیت دارد؟
تا پیش از این گزارش، شرکتهای بزرگ هوش مصنوعی معمولاً دربارهی میزان واقعی دخالت مدلهای خودشان در فرایندهای داخلی پژوهش سکوت میکردند. حالا آنتروپیک، سازندهی کلود، اولین آزمایشگاه بزرگی است که یک رقم مشخص و قابل اندازهگیری منتشر کرده است: کلود «هدایتگر» ۲۶ درصد از پروژههای تحقیق و توسعهی هوش مصنوعی در این شرکت است. این نوع شفافیت برای کاربران، سرمایهگذاران و نهادهای قانونگذار اهمیت زیادی دارد، چون برای اولینبار میتوان سرعت واقعی جایگزینی کار انسانی با هوش مصنوعی را با یک عدد مشخص سنجید، نه فقط با شعارهای بازاریابی.
علاقهمندان به این حوزه میتوانند برای پیگیری لحظهبهلحظهی چنین رویدادهایی به بخش اخبار هوش مصنوعی سایت مایچتجیپیتی سر بزنند، جایی که هر تحول مهم این صنعت بهسرعت پوشش داده میشود.
نکتهی دیگری که این گزارش را متمایز میکند، شکل انتشار آن است. برخلاف بسیاری از ادعاهای بازاریابی که معمولاً بدون هیچ چارچوب اندازهگیری مشخصی مطرح میشوند، آنتروپیک اینبار یک روششناسی مشخص برای محاسبهی رقم ۲۶ درصد ارائه داده است. این رویکرد به پژوهشگران مستقل و رسانهها اجازه میدهد ادعاهای مشابه سایر شرکتها را با یک معیار مشترک محک بزنند، بهجای آنکه صرفاً به شعارهای تبلیغاتی هر شرکت دربارهی «انقلاب هوش مصنوعی در پژوهش» اکتفا کنند.
۲. تعریف آنتروپیک از «هدایتگری» هوش مصنوعی در پژوهش
نکتهی کلیدی در این گزارش، تعریف دقیق واژهی «هدایتگر» (Leads) است. به گفتهی آنتروپیک، وقتی کلود «هدایتگر» یک وظیفهی پژوهشی باشد، یعنی میتواند بیشترِ آن کار را از روی یک دستور کلی و سطحبالا، بهطور کامل از ابتدا تا انتها پیش ببرد، در حالی که یک پژوهشگر انسانی همچنان بر روند کار نظارت میکند و نتیجهی نهایی را تأیید یا اصلاح میکند. این تعریف با مفهوم «خودمختاری کامل» بسیار متفاوت است؛ چون در خودمختاری کامل، هیچ انسانی در حلقهی تصمیمگیری حضور ندارد.
گروهی که تمایل دارند بدانند چگونه باید دستورهای دقیق و مؤثر برای چنین همکاری انسان-هوشمصنوعی طراحی کنند، میتوانند از راهنمای نوشتن پرامپت برای مبتدیان در سایت مایچتجیپیتی کمک بگیرند.
۳. کلود در بیش از ۹۰ درصد پروژههای پژوهشی حضور دارد
رقم ۲۶ درصد فقط بخشی از داستان است. آنتروپیک در گزارش خود روشن کرده که کلود در واقع در بیش از ۹۰ درصد از کل پروژههای تحقیقاتی این شرکت نقشی دارد؛ اما در بسیاری از این موارد، کلود صرفاً دستیاری برای انسان است، نه هدایتگر اصلی فرایند. به بیان دیگر، تفاوت میان «حضور داشتن در یک کار» و «هدایت کردن آن کار» موضوعی است که آنتروپیک با دقت از هم جدا کرده تا از تفسیرهای اغراقآمیز دربارهی جایگزینی کامل نیروی انسانی جلوگیری کند.
این رویکرد محتاطانه با یافتههای مقالهی پتانسیل واقعی و محدودیتهای هوش مصنوعی همخوانی دارد؛ جایی که نشان داده میشود هوش مصنوعی مولد در بسیاری از حوزهها هنوز به همراهی انسان نیاز دارد.
آنتروپیک همچنین توضیح داده که این دو رقم، یعنی «۲۶ درصد هدایتگری» و «بیش از ۹۰ درصد حضور»، باید همیشه در کنار هم خوانده شوند. اگر فقط به رقم ۹۰ درصد بسنده شود، ممکن است تصور غلطی از خودمختاری گستردهی هوش مصنوعی در ذهن مخاطب شکل بگیرد؛ در حالی که واقعیت این است که در اکثر این موارد، انسان همچنان تصمیمگیرندهی نهایی است و کلود صرفاً سرعت انجام کار را بالا میبرد.
۴. چرا هنوز خبری از خودمختاری کامل نیست؟
شاید مهمترین بخش این گزارش، تأکید صریح آنتروپیک باشد بر این نکته که کلود «در هیچ بخش اندازهگیریشدهای بهطور کاملاً خودمختار» فعالیت نمیکند. این جمله را باید در کنار نگرانیهای فزاینده دربارهی ریسک عاملهای خودمختار هوش مصنوعی خواند. وقتی یک سامانهی هوش مصنوعی بدون نظارت انسانی تصمیم میگیرد و اجرا میکند، احتمال خطاهای جدی، سوءاستفاده یا رفتارهای پیشبینینشده افزایش مییابد؛ موضوعی که این روزها در کانون توجه پژوهشگران ایمنی هوش مصنوعی قرار دارد.
برای کسبوکارهایی که میخواهند بدانند چرا هوش مصنوعی هنوز جایگزین کامل نیروی انسانی متخصص نشده، مطالعهی مطلب توهم هوش مصنوعی؛ توسعهدهندهی تنها در برابر مهندس واقعی در سایت مایچتجیپیتی خالی از لطف نیست.
۵. سه معیار پیشنهادی آنتروپیک برای سنجش سرعت توسعهی هوش مصنوعی
آنتروپیک در کنار این افشاگری، یک چارچوب سهگانه برای سنجش شفافتر سرعت پیشرفت هوش مصنوعی در کل صنعت پیشنهاد داده است. هدف این چارچوب آن است که همهی آزمایشگاههای پیشرو هوش مصنوعی، از جمله رقبای این شرکت، بتوانند از معیارهای مشترکی برای گزارشدهی استفاده کنند تا مقایسهای واقعی و قابلاتکا در دسترس عموم قرار گیرد.
معیار اول؛ مقیاس درجهبندی هدایتگری هوش مصنوعی
نخستین معیار، یک مقیاس خودکارسازی است که مشخص میکند چهقدر از یک پروژه توسط هوش مصنوعی «هدایت» میشود، نه فقط «کمک» میشود. همین مقیاس است که رقم ۲۶ درصد از آن استخراج شده است.
معیار دوم؛ پایش سطح نظارت انسانی
دومین معیار به میزان و کیفیت نظارت انسانی بر عاملهای هوش مصنوعی میپردازد؛ یعنی مشخص میکند در هر پروژه، انسان چهقدر و در چه نقاطی از فرایند دخالت و تأیید میکند.
معیار سوم؛ ردیابی تخصیص قدرت پردازشی
سومین معیار میزان تخصیص منابع محاسباتی (کامپیوت) به پروژههای پژوهش هوش مصنوعی را دنبال میکند؛ رقمی که میتواند نشان دهد یک شرکت چهقدر واقعاً روی توسعهی خودکار هوش مصنوعی سرمایهگذاری میکند.
۶. زمینهی این اعلامیه و نگرانی از عاملهای خودمختار
انتشار این گزارش تصادفی نیست. این افشاگری همزمان با اظهارنظرهای مدیرعامل آنتروپیک دربارهی ایمنی هوش مصنوعی صورت گرفته و در فضایی از نگرانی فزاینده دربارهی ریسک عاملهای خودمختار هوش مصنوعی در کل صنعت منتشر شده است. در ماههای اخیر، بحث دربارهی رفتارهای پیشبینینشدهی عاملهای هوش مصنوعی و لزوم هماهنگی میان آزمایشگاههای بزرگ برای رعایت استانداردهای ایمنی، به یکی از داغترین موضوعات صنعت تبدیل شده است.
گزارشهای اخیر رسانهها نشان میدهند که کارکنان برخی از بزرگترین آزمایشگاههای هوش مصنوعی جهان از سرعت بالای رقابت میان شرکتها برای عرضهی سریعتر قابلیتهای تازه ابراز نگرانی کردهاند. در چنین فضایی، انتشار یک چارچوب شفاف و قابلاندازهگیری از سوی آنتروپیک را میتوان تلاشی برای نشاندادن این پیام خواند که پیشرفت سریع لزوماً به معنای کنار گذاشتن نظارت انسانی نیست، و میتوان هم سرعت گرفت و هم شفاف و مسئولانه عمل کرد.
برای درک بهتر اینکه چرا کسبوکارها باید به چنین جزئیاتی دربارهی نحوهی کارکرد هوش مصنوعی توجه کنند، مطلب چرا هوش مصنوعی در کسبوکار ۲۰۲۵ اهمیت دارد منبع خوبی است.
۷. واکنش نهادهای نظارتی و آیندهی مقررات
واکنشها به این نوع افشاگریها در سطح سیاستگذاری هنوز یکدست نیست. برخی مدیران ارشد صنعت هوش مصنوعی به کندشدن روند توسعهی مدلهای جدید اذعان کردهاند و خواستار دقت بیشتر در انتشار قابلیتهای تازه شدهاند. در مقابل، برخی مقامهای دولتی در ایالات متحده رویکردی محتاطانهتر و کمنگرانتر نسبت به ریسکهای هوش مصنوعی در پیش گرفتهاند؛ تفاوتی که باعث شده آیندهی مقررات این حوزه همچنان نامشخص باقی بماند.
این کشمکش میان سرعت نوآوری و لزوم مقرراتگذاری، شباهت زیادی به رقابت میان مدلهای بزرگ هوش مصنوعی دارد؛ موضوعی که در مطلب چتجیپیتی در برابر دیپسیک از زاویهای دیگر بررسی شده است.
در نبود یک قانون فراگیر و جهانی برای هوش مصنوعی، احتمال میرود چارچوبهای داوطلبانهای از همین دست، دستکم در کوتاهمدت، نقش پررنگتری در شکلدادن به هنجارهای صنعت ایفا کنند. اگر رقبای اصلی آنتروپیک نیز معیارهای مشابهی منتشر کنند، کاربران و نهادهای نظارتی برای اولینبار امکان مقایسهی مستقیم و مبتنی بر داده میان آزمایشگاههای مختلف را خواهند داشت؛ چیزی که تا امروز بهشدت کمیاب بوده است.
۸. این خبر برای توسعهدهندگان و کسبوکارهای ایرانی چه معنایی دارد؟
برای توسعهدهندگان، مدیران محصول و صاحبان کسبوکارهایی که از ابزارهایی مانند کلود یا چتجیپیتی در گردشکار روزمره استفاده میکنند، این عدد یک پیام روشن دارد: هوش مصنوعی مولد در حال حاضر یک «همتیمی» قدرتمند در تحقیق و توسعه است، نه جایگزین کامل نیروی انسانی متخصص. این یعنی سرمایهگذاری روی یادگیری کار با این ابزارها، نه ترس از حذفشدن توسط آنها، همچنان استراتژی هوشمندانهتری است.
افرادی که میخواهند بدانند شرکتهای بزرگی مانند OpenAI دقیقاً چهطور شکل گرفتهاند و چه رقابتی با آنتروپیک دارند، میتوانند مطلب شرکت OpenAI دقیقاً چیست را در سایت مایچتجیپیتی مطالعه کنند. همچنین، علاقهمندان به یادگیری عملی کار با چتجیپیتی میتوانند از آموزشهای تخصصی چتجیپیتی این سایت بهره ببرند.
۹. پرسشهای متداول
آیا کلود جایگزین کامل پژوهشگران انسانی شده است؟
خیر. آنتروپیک بهصراحت اعلام کرده کلود در هیچ بخش اندازهگیریشدهای کاملاً خودمختار عمل نمیکند و همیشه یک ناظر انسانی در جریان کار حضور دارد. حتی در پروژههایی که کلود «هدایتگر» محسوب میشود، تأیید نهایی و مسئولیت تصمیم بر عهدهی پژوهشگر انسانی باقی میماند.
تفاوت «هدایتگری» با «کمککردن» در تعریف آنتروپیک چیست؟
وقتی کلود هدایتگر است، میتواند بیشتر یک وظیفه را از روی یک دستور کلی، از ابتدا تا انتها پیش ببرد. اما وقتی صرفاً کمک میکند، نقش دستیار را دارد و انسان همچنان بخش اصلی کار را انجام میدهد. تفکیک این دو مفهوم باعث میشود رقم ۲۶ درصد بهمراتب دقیقتر و واقعیتر از رقم کلی ۹۰ درصد باشد.
سه معیار پیشنهادی آنتروپیک چه کاربردی دارند؟
این سه معیار برای سنجش شفافتر سرعت پیشرفت هوش مصنوعی طراحی شدهاند: سنجش میزان هدایتگری هوش مصنوعی با یک مقیاس درجهبندی، پایش سطح و کیفیت نظارت انسانی بر عاملها، و ردیابی میزان تخصیص قدرت پردازشی به پروژههای پژوهشی. هدف نهایی، ایجاد زبانی مشترک میان همهی آزمایشگاههای هوش مصنوعی برای گزارشدهی است.
آیا سایر شرکتهای هوش مصنوعی هم چنین آمارهایی منتشر میکنند؟
تا امروز آنتروپیک اولین آزمایشگاه بزرگی است که چنین رقم مشخصی را منتشر کرده و هدف آن ترغیب سایر شرکتها به پذیرش استانداردی مشترک برای گزارشدهی شفاف است. اینکه رقبایی مانند OpenAI یا گوگل چنین رقمی را منتشر کنند یا نه، موضوعی است که در ماههای آینده باید دنبال شود.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
