مرداد
اخبار
واترمارک نامرئی کلود: آنتروپیک چگونه متنهای هوش مصنوعی را نشانگذاری میکند؟
شرکت آنتروپیک اعلام کرد از این پس هر متنی که مدل کلود تولید میکند، با یک نشان نامرئی و قابلردیابی همراه خواهد بود؛ تصمیمی که ریشه در قانون تازهی شفافیت اتحادیه اروپا دارد و میتواند آیندهی محتوای تولیدشده با هوش مصنوعی را برای همیشه تغییر دهد.
لیست مطالب
۱. دقیقاً چه اتفاقی افتاده است؟
آنتروپیک، شرکت سازندهی کلود، رسماً اعلام کرد که تمام متنهای تولیدشده توسط این مدل هوش مصنوعی از این پس یک نشان نامرئی همراه خود دارند. این نشان برای چشم انسان کاملاً غیرقابلتشخیص است؛ یعنی وقتی متنی از کلود میگیرید، هیچ کاراکتر عجیب، فاصلهی اضافه یا علامت خاصی در آن نمیبینید. با این حال، با ابزار تشخیصی که بهزودی از سوی آنتروپیک عرضه میشود، میتوان با درجهی بالایی از اطمینان فهمید که آیا کلود در نگارش آن متن نقش داشته یا نه.
جالب اینجاست که این واترمارک فقط محدود به چتبات کلود نیست. بر اساس اعلام رسمی، این فناوری در سطح مدل پیادهسازی شده و بنابراین در تمام محصولاتی که از مدل کلود استفاده میکنند فعال است؛ از پلتفرم API و اپلیکیشن اصلی کلود گرفته تا Claude Code و Claude Cowork.
۲. چرا آنتروپیک الان چنین تصمیمی گرفته؟
دلیل اصلی این تغییر، اجراییشدن آییننامهی شفافیت هوش مصنوعی اتحادیه اروپا از تاریخ دوم اوت است. آنتروپیک از ژوئیهی امسال رسماً به این کد رفتاری پیوست و طبق تعهدات آن، موظف شد محتوای تولیدشده یا ویرایششده توسط کلود را به شکلی قابل شناسایی علامتگذاری کند. این قانون بخشی از تلاش گستردهتر اتحادیه اروپا برای مقابله با اطلاعات نادرست و افزایش شفافیت در فضای دیجیتال است.
نکتهی مهم این است که آنتروپیک بهتنهایی این مسیر را طی نمیکند. شرکتهای بزرگ دیگری همچون گوگل، متا، مایکروسافت و همچنین سازندهی چتجیپیتی نیز متعهد به رعایت همین کد رفتاری اروپا شدهاند. برای آشنایی بیشتر با یکی از این بازیگران اصلی، میتوانید مقالهی OpenAI دقیقاً چه شرکتی است و چه میکند را در سایت Mr ChatGPT بخوانید.
۳. این واترمارک فنی چگونه کار میکند؟
فناوری استفادهشده در واترمارک متنی کلود، نسخهای از رویکردی به نام SynthID-Text است که پیشتر توسط گوگل دیپمایند معرفی شده بود و ریشهی اصلی آن به پیشنهادی از دانشمند کامپیوتر، اسکات آرونسون، در سال ۲۰۲۲ برمیگردد. ایدهی اصلی این است: وقتی یک مدل زبانی میخواهد کلمهی بعدی را انتخاب کند، معمولاً از میان چند گزینهی همارزش، یکی را بهصورت تصادفی برمیگزیند.
در نسخهی واترمارکدار، این تصادفیبودن حذف نمیشود، اما جهت آن تغییر میکند. کلود بهجای استفاده از یک ژنراتور تصادفی معمولی، از یک کلید مخفی بههمراه چند کلمهی قبلی متن استفاده میکند تا مشخص کند کدام گزینه را انتخاب کند. نتیجه، متنی است که از نظر خواننده کاملاً طبیعی و تصادفی به نظر میرسد، اما الگوی انتخاب کلماتش با کلید مذکور سازگار است و میتوان بعداً آن را تشخیص داد.
۳-۱. آیا این روش شبیه به کدهای مخفی سنتی است؟
نه دقیقاً. روشهای قدیمی واترمارکگذاری معمولاً با اضافهکردن کاراکترهای پنهان یا تغییر در فاصلهها انجام میشدند که بهراحتی با کپی و پیست از بین میرفتند. اما این روش آماری، در سطح انتخاب کلمات عمل میکند و به گفتهی آنتروپیک، حتی پس از کپیشدن متن در جای دیگر نیز باقی میماند و ممکن است حتی از برخی ویرایشهای جزئی هم جان سالم به در ببرد.
۳-۲. ابزار تشخیص واترمارک چه زمانی در دسترس قرار میگیرد؟
طبق برنامهی اعلامشده، آنتروپیک بهزودی یک واترمارک دیتکشن API عرضه میکند که به ناشران، پژوهشگران، آموزشدهندگان و پلتفرمهای خبری اجازه میدهد بررسی کنند آیا یک متن مشخص با کلید کلود سازگار است یا نه. این رویکرد با ابزارهای تشخیص هوش مصنوعی رایج مانند Pangram تفاوت اساسی دارد؛ چون آن ابزارها بر پایهی الگوهای آماری و حدسزدن سبک نوشتاری کار میکنند، در حالیکه روش کلود مبتنی بر تایید رمزنگاریشده است و از نظر فنی قابل اعتمادتر تلقی میشود.
۴. آیا این نشانگذاری روی کیفیت پاسخهای کلود تاثیر میگذارد؟
بر اساس آزمایشهای داخلی آنتروپیک، پاسخ به این سوال منفی است. شرکت اعلام کرده که در تستهای کاربری، هیچ تفاوت معناداری بین امتیازدهی کاربران به پاسخهای واترمارکدار و پاسخهای عادی مشاهده نشده است. همچنین این فناوری هیچ توکن اضافهای به خروجی تحمیل نمیکند و از نظر هزینه و سرعت پردازش، تغییری در تجربهی کاربری ایجاد نمیشود.
برای کسانی که هر روز از کلود برای نوشتن ایمیل، مقاله یا کد استفاده میکنند، این یعنی عملاً هیچ تغییری در تجربهی کاربری حس نخواهند کرد؛ نه سرعت کندتر میشود، نه هزینه بالا میرود و نه کیفیت متن افت میکند.
۵. کدام نوع محتواها را شامل میشود؟
پوشش این فناوری فراتر از متن ساده است. برای فایلهای تصویری مانند PNG، JPG و SVG، آنتروپیک از استاندارد صنعتی C2PA استفاده میکند که یک برچسب رمزنگاریشده در متادیتای فایل قرار میدهد و نشان میدهد آن فایل توسط کلود ساخته یا پردازش شده است. در مورد کد برنامهنویسی، ماجرا کمی متفاوت است؛ چون خروجی کد معمولاً باید دقیق و مشخص باشد، واترمارک فقط در جاهایی که انتخاب کلمهای وجود دارد، مثل کامنتهای داخل کد، اعمال میشود.
برای ترجمهها هم این نشان بهطور کامل اعمال میشود، چون هر کلمه توسط کلود انتخاب شده است. اما وقتی کلود صرفاً متن نوشتهشده توسط یک انسان را ویرایش یا اصلاح میکند، داستان فرق میکند؛ چون بیشتر کلمات همان کلمات اصلی کاربر هستند، عملاً فضای کمی برای جاسازی واترمارک باقی میماند.
۶. محدودیتها و نگرانیهای این فناوری چیست؟
هیچ فناوریای کامل نیست و این واترمارک هم استثنا نیست. اولین محدودیت این است که این سیستم نمیتواند تفاوت بگذارد بین متنی که کلود از صفر نوشته و متنی که کلود فقط کمی روی آن ویرایش انجام داده است. محدودیت دوم این است که این روش نمیتواند بگوید متن توسط کدام هوش مصنوعی دیگری نوشته شده؛ فقط میتواند حضور احتمالی کلود را نشان دهد.
محدودیت سوم و شاید مهمترین، مربوط به متنهای کوتاه یا کاملاً واقعیتمحور است؛ جایی که گزینههای کلمهای کمی برای انتخاب تصادفی وجود دارد، قدرت واترمارک بهشدت افت میکند. و در نهایت، اگر کاربری متن را بهطور کامل بازنویسی کند بهطوریکه تقریباً هیچ کلمهای از نسخهی اصلی باقی نماند، نشان واترمارک از بین میرود. همین موضوع باعث شده برخی کاربران در فضای آنلاین نسبت به کارایی واقعی این ابزار در برابر تقلب علمی یا محتوای جعلی تردید داشته باشند.
واکنش کاربران در فضای آنلاین هم یکدست نبوده است. برخی از این اقدام آنتروپیک بهعنوان گامی مثبت در مسیر مسئولیتپذیری استقبال کردهاند، اما گروهی دیگر نگراناند که این نوع نشانگذاری در آینده مبنای قضاوت نادرست دربارهی کار انسانی قرار بگیرد؛ مثلاً دانشآموز یا نویسندهای که فقط از کلود برای ویرایش جزئی متن خودش کمک گرفته، بهاشتباه متهم به «تقلب کامل» شود. همین ابهام باعث شده بحث دربارهی مرز میان «کمک گرفتن» و «تولید کامل با هوش مصنوعی» دوباره داغ شود.
۷. حریم خصوصی کاربران چه میشود؟
یکی از سوالات مهمی که پس از این خبر مطرح شد، نگرانی دربارهی ردیابی هویت کاربران بود. آنتروپیک بهصراحت اعلام کرده که این واترمارک هیچ اطلاعات شناساییکنندهای ندارد و به هیچ فرد، سازمان یا مکالمهی خاصی قابل ردیابی نیست. به بیان دیگر، این ابزار فقط میگوید «این متن احتمالاً توسط کلود نوشته شده»، نه اینکه چه کسی از کلود برای نوشتن آن استفاده کرده است.
۸. این خبر برای کاربران و کسبوکارهای فارسیزبان چه معنایی دارد؟
برای بسیاری از تولیدکنندگان محتوا، بازاریابها و صاحبان کسبوکارهایی که از هوش مصنوعی برای نوشتن متن سایت، شبکههای اجتماعی یا حتی کد استفاده میکنند، این خبر یک زنگ هشدار ملایم است. اگر برای استفاده از هوش مصنوعی در کسبوکار برنامه دارید، بهتر است بدانید که محتوای تولیدی ممکن است در آینده قابل شناسایی باشد، حتی اگر امروز این موضوع اهمیت چندانی نداشته باشد.
از طرف دیگر، این تحول نشان میدهد که مرز میان محتوای انسانی و محتوای هوش مصنوعی هر روز دقیقتر مشخص میشود. اگر هنوز با نحوهی نوشتن پرامپت حرفهای برای گرفتن بهترین خروجی از این مدلها آشنا نیستید، مقالهی آموزش نوشتن پرامپت برای مبتدیان نقطهی شروع خوبی است. همچنین برای درک بهتر از تفاوت واقعیت و تبلیغات دربارهی هوش مصنوعی، سری مقالات پتانسیل واقعی و محدودیتهای هوش مصنوعی را از دست ندهید.
این موضوع همچنین یادآور بحث قدیمیتری است که در مقالهی توهم هوش مصنوعی در برنامهنویسی بررسی شده بود؛ اینکه اتکای بیشازحد به خروجی هوش مصنوعی بدون درک واقعی، همیشه ریسکهای خودش را دارد. برای مقایسهی عملکرد ابزارهای مختلف هوش مصنوعی هم میتوانید نگاهی به مقایسهی چتجیپیتی و DeepSeek بیندازید.
۹. این تحول برای موتورهای جستوجو و سئوی محتوا چه اهمیتی دارد؟
با گسترش استفاده از هوش مصنوعی برای تولید محتوای سایت، موتورهای جستوجو هم بهتدریج معیارهای دقیقتری برای تشخیص کیفیت و اصالت محتوا در پیش میگیرند. ابزارهایی مانند واترمارک کلود میتوانند در آینده مبنایی برای رتبهبندی یا حتی شفافسازی محتوای تولیدشده با هوش مصنوعی در نتایج جستوجو باشند. برای صاحبان سایت و تولیدکنندگان محتوا، این یعنی ترکیب هوشمندانهی کمک هوش مصنوعی با ویرایش و نظارت انسانی، همچنان بهترین راهبرد برای حفظ کیفیت و اعتماد مخاطب باقی میماند.
سوالات متداول دربارهی واترمارک نامرئی کلود
آیا میتوانم واترمارک متن کلود را خودم ببینم؟ خیر، این نشان کاملاً نامرئی است و فقط با ابزار تشخیصی رسمی آنتروپیک که بهزودی عرضه میشود قابل بررسی خواهد بود.
آیا کپی و پیست کردن متن، واترمارک را از بین میبرد؟ نه لزوماً. طبق اعلام آنتروپیک، این نشان معمولاً حتی پس از کپی و پیست در جای دیگر نیز باقی میماند و ممکن است در برابر ویرایشهای جزئی هم مقاوم باشد.
آیا این فناوری فقط برای متن است؟ خیر، فایلهای تصویری هم با استاندارد C2PA نشانگذاری میشوند و کدنویسی هم تا حدی، مخصوصاً در بخش کامنتها، پوشش داده میشود.
آیا مدلهای قدیمیتر کلود هم واترمارک دارند؟ مدلهایی که بعد از دوم اوت منتشر شدهاند بهصورت خودکار این قابلیت را دارند و آنتروپیک اعلام کرده این پشتیبانی طی ماههای آینده برای مدلهای قدیمیتر هم گسترش مییابد.
آیا این واترمارک هویت من را لو میدهد؟ خیر، این نشان هیچ اطلاعات شناساییکنندهای دربارهی کاربر، سازمان یا مکالمه ندارد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
