مرداد
اخبار
آنتروپیک واترمارک نامرئی را در تمام متنهای کلود فعال کرد
آنتروپیک با راهاندازی واترمارک نامرئی در کلود، مسیر تازهای برای شفافیت محتوای هوش مصنوعی باز کرده است؛ اتفاقی که میتواند آیندهی تشخیص متن مصنوعی را برای همیشه تغییر دهد.
لیست مطالب
۱. واترمارک نامرئی کلود دقیقاً چیست؟
واترمارک نامرئی یا نشان دیجیتال پنهان، فناوریای است که در ساختار متن تولیدشده توسط هوش مصنوعی جاسازی میشود بدون اینکه کوچکترین تغییری در معنا، سبک نگارش یا خوانایی آن ایجاد کند. برخلاف واترمارکهای تصویری که معمولاً بهشکل یک لوگوی نیمهشفاف روی عکس دیده میشوند، این نوع نشانگذاری کاملاً در سطح کلمات و الگوی انتخاب آنها اتفاق میافتد و با چشم غیرمسلح قابل تشخیص نیست. آنتروپیک اعلام کرده که این قابلیت از دوم اوت سال جاری روی مدلهای تازهمنتشرشدهی کلود فعال شده و بهمرور روی مدلهای قدیمیتر هم پیادهسازی خواهد شد.
نکتهی مهم این است که این واترمارک برای کاربر عادی هیچ تفاوتی در تجربهی استفاده از کلود ایجاد نمیکند؛ متن تولیدشده دقیقاً همان کیفیت و لحنی را دارد که قبلاً داشت، اما در پسزمینه، یک الگوی قابل تشخیص برای ابزارهای اختصاصی آنتروپیک ثبت میشود. اگر میخواهید بدانید هوش مصنوعی مولد دقیقاً چگونه متن تولید میکند، مطالعهی مقالهی OpenAI چیست در سایت ما میتواند نگاه خوبی به مبانی این فناوری بدهد.
۲. چرا آنتروپیک این تصمیم را گرفت؟
دلیل اصلی این اقدام، پایبندی آنتروپیک به آییننامهی شفافیت مادهی پنجاه (بند دو) قانون هوش مصنوعی اتحادیهی اروپا معروف به EU AI Act است. بر اساس این قانون، تمام شرکتهایی که ابزارهای هوش مصنوعی مولد ارائه میدهند، موظفاند خروجیهای مصنوعی خود را به شکلی قابل تشخیص علامتگذاری کنند تا کاربران، رسانهها و نهادهای نظارتی بتوانند محتوای انسانی را از محتوای ماشینی تفکیک کنند. آنتروپیک با امضای این آییننامه، خود را متعهد به اجرای آن در سطح جهانی کرده است، نه فقط برای کاربران اروپایی.
این رویکرد نشان میدهد که فشار قانونگذاران اروپایی چطور میتواند مسیر توسعهی محصولات هوش مصنوعی را در سراسر دنیا تغییر دهد. برای درک بهتر اهمیت اینگونه تصمیمها در دنیای کسبوکار، پیشنهاد میکنیم نگاهی به مطلب چرا هوش مصنوعی در کسبوکار ۲۰۲۵ اهمیت دارد بیندازید.
۳. این قابلیت روی کدام محصولات کلود فعال میشود؟
بر اساس اعلامیهی رسمی آنتروپیک، واترمارک نامرئی محدود به یک محصول خاص نیست و در طیف گستردهای از خدمات کلود اعمال میشود؛ از جمله چتبات وب و موبایل کلود، رابط برنامهنویسی یا API، کلود کد که ابزار برنامهنویسان است، و کوورک که برای مدیریت فایل و وظایف طراحی شده. جالبتر اینکه این نشانگذاری روی سرویسهای ابری شریک آنتروپیک هم فعال است؛ یعنی اگر از طریق آمازون وب سرویسز، گوگل کلود یا مایکروسافت فاندری هم از مدلهای کلود استفاده کنید، همان واترمارک نامرئی روی خروجی متن شما اعمال خواهد شد.
این پوشش گسترده نشان میدهد آنتروپیک قصد دارد یک استاندارد یکپارچه برای تمام کانالهای توزیع کلود ایجاد کند، نه یک راهحل موقتی برای محصول اصلی. برنامهنویسانی که از کلود کد استفاده میکنند نیز باید بدانند کدهای تولیدی هم میتواند مشمول این نشانگذاری باشد، هرچند تمرکز اصلی فعلاً روی متن طبیعی است.
۴. واترمارک متن در برابر ویرایش و ترجمه چقدر مقاوم است؟
یکی از پرسشهای کلیدی کاربران این است که آیا این نشان دیجیتال با کپی و پیست کردن متن یا ویرایش آن از بین میرود یا نه. طبق توضیحات آنتروپیک، واترمارک با کپیپیست ساده باقی میماند و حتی اگر بخشی از متن را در جای دیگری استفاده کنید، همچنان قابل تشخیص خواهد بود. اما داستان با ویرایش سنگین فرق میکند؛ بازنویسی گسترده، تغییر ساختار جملات یا ترجمه به زبان دیگر میتواند سیگنال واترمارک را بهشدت ضعیف یا کاملاً حذف کند. برای متنهای خیلی کوتاه هم ممکن است دادهی کافی برای تشخیص مطمئن وجود نداشته باشد.
این محدودیتها یادآور این نکتهاند که هیچ فناوری تشخیصی صددرصد قابلاتکا نیست. اگر به محدودیتهای واقعی هوش مصنوعی علاقه دارید، مطلب پتانسیل واقعی و محدودیتهای هوش مصنوعی در سایت ما بحث مفصلی دربارهی این نوع چالشها دارد.
واترمارک تصویر و فایل چطور کار میکند؟
برای تصاویر و فایلهای تولیدشده با کلود، آنتروپیک از استاندارد باز C2PA برای ثبت اطلاعات منشأ استفاده میکند؛ استانداردی که بهصورت امضاشده مشخص میکند یک فایل توسط چه سیستمی و در چه زمانی ساخته شده است. با این حال، این ابردادهها معمولاً هنگام تبدیل فرمت فایل یا گرفتن اسکرینشات از بین میروند، بنابراین برای تصاویر، سطح اطمینان بهمراتب پایینتر از متن است.
۵. واکنش صنعت نشر و نگرانی از کتابهای تولیدشده با هوش مصنوعی
این اعلامیه دقیقاً در بحبوحهی نگرانیهای فزایندهی صنعت نشر دربارهی کتابهایی مطرح شد که با کمک هوش مصنوعی نوشته شدهاند اما بدون افشای این موضوع، وارد فروشگاههای کتاب و پلتفرمهای نشر دیجیتال شدهاند. چند مورد جنجالی در ماههای اخیر باعث شده ناشران، نویسندگان و انجمنهای صنفی خواستار قوانین سختگیرانهتر برای افشای محتوای تولیدشده با هوش مصنوعی باشند. آنتروپیک تأکید کرده که این اقدام میتواند به شفافسازی این حوزه کمک کند، هرچند بهتنهایی راهحل کاملی برای این معضل نیست.
نکتهی مهمی که آنتروپیک به آن اشاره کرده این است که وجود واترمارک بهتنهایی اثبات نمیکند کل یک متن توسط کلود نوشته شده است، چون بسیاری از کاربران فقط از کلود برای ویرایش، ترجمه یا خلاصهسازی متن انسانی استفاده میکنند. به همین ترتیب، نبود واترمارک هم لزوماً به معنای نگارش کاملاً انسانی نیست، چون مدلهای قدیمیتر یا ویرایشهای سنگین میتوانند نشان را حذف کنند.
۶. مقایسه با SynthID گوگل و رقبای دیگر
آنتروپیک اولین شرکتی نیست که سراغ واترمارک متنی رفته است. گوگل دیپمایند از سال ۲۰۲۴ با فناوری SynthID روی خروجیهای جمینای اقدام مشابهی انجام میدهد و اکنون با ورود آنتروپیک به این عرصه، به نظر میرسد رقابت شرکتهای بزرگ هوش مصنوعی بر سر شفافیت و قابلیت ردیابی محتوای مصنوعی وارد فاز جدیتری شده است. سایر بازیگران بزرگ این حوزه مانند اوپنایآی و ایکسایآی هنوز اعلام رسمی مشابهی دربارهی واترمارک متنی سراسری نداشتهاند، اما با توجه به فشار قانونگذاران اروپایی، احتمال حرکت آنها به همین سمت در آیندهی نزدیک بالاست.
اگر به مقایسهی عملکرد مدلهای مختلف هوش مصنوعی علاقه دارید، مطلب چتجیپیتی در برابر دیپسیک در سایت ما نمونهی خوبی از اینگونه مقایسههاست.
۷. چالشها و انتقادهای احتمالی
واکنش کاربران و فعالان فضای مجازی به این تصمیم آنتروپیک دوگانه بوده است. عدهای از افزایش شفافیت و امکان تشخیص محتوای مصنوعی استقبال کردهاند، بهویژه در حوزههایی مثل آموزش، روزنامهنگاری و انتشار کتاب که اصالت متن اهمیت زیادی دارد. در مقابل، گروهی دیگر نگران ایناند که چنین فناوریای بتواند برای ردیابی گستردهتر کاربران یا محدود کردن آزادی بیان مورد سوءاستفاده قرار گیرد. این نگرانیها بهویژه در کشورهایی که آزادی اینترنت محدودتر است، پررنگتر مطرح میشود.
از منظر فنی هم برخی کارشناسان معتقدند دور زدن این نوع واترمارک با ابزارهای بازنویسی خودکار یا مدلهای هوش مصنوعی دیگر چندان دشوار نخواهد بود، بهخصوص وقتی متن بهطور کامل بازنویسی یا به زبان دیگری ترجمه شود. با این حال، آنتروپیک این را نه یک راهحل نهایی بلکه گامی در مسیر شفافیت بیشتر توصیف کرده است.
۸. این تغییر برای کاربران و توسعهدهندگان فارسیزبان چه معنایی دارد؟
برای کاربران فارسیزبانی که از کلود برای نگارش محتوا، ترجمه یا برنامهنویسی استفاده میکنند، این تغییر عملاً هیچ تفاوتی در نحوهی کار روزمره ایجاد نمیکند، اما دانستن آن اهمیت دارد؛ بهخصوص برای کسانی که محتوای تولیدشده با هوش مصنوعی را بدون ویرایش در وبسایت، شبکههای اجتماعی یا حتی کتاب منتشر میکنند. اگر روی سئوی محتوای تولیدی با هوش مصنوعی حساس هستید یا میخواهید بدانید چطور با پرامپتنویسی درست، خروجی باکیفیتتری بگیرید، مطالعهی راهنمای پرامپتنویسی برای مبتدیان میتواند مفید باشد.
توسعهدهندگانی که از کلود کد استفاده میکنند نیز باید در نظر داشته باشند که استفادهی گسترده از هوش مصنوعی در تولید کد، تفاوت میان یک برنامهنویس واقعی و یک کاربر صرفاً وابسته به ابزار را کمرنگتر میکند؛ موضوعی که در مقالهی توهم هوش مصنوعی؛ برنامهنویس تنها در برابر مهندس واقعی بهطور مفصل بررسی شده است. برای دنبالکردن آخرین تحولات این حوزه هم میتوانید سری به بخش اخبار هوش مصنوعی سایت ما بزنید یا در آموزشهای چتجیپیتی با نحوهی استفادهی درست از این ابزارها بیشتر آشنا شوید.
۹. پرسشهای متداول دربارهی واترمارک نامرئی کلود
آیا واترمارک نامرئی کلود روی نسخهی رایگان هم فعال است؟
بله، بر اساس اعلامیهی آنتروپیک این قابلیت روی تمام مدلهای جدید کلود، صرفنظر از پلن اشتراک کاربر، فعال میشود.
چطور میتوان فهمید یک متن با کلود نوشته شده یا نه؟
در حال حاضر ابزار تشخیص عمومی برای همه در دسترس نیست؛ آنتروپیک قصد دارد ابزارهای تشخیص را بهمرور در اختیار طرفهای ثالث منتخب مانند ناشران و پلتفرمها قرار دهد.
آیا حذف واترمارک با ویرایش متن ممکن است؟
بله، ویرایش سنگین، بازنویسی گسترده یا ترجمه میتواند سیگنال واترمارک را ضعیف یا کاملاً از بین ببرد.
آیا این قابلیت روی تصاویر تولیدشده با کلود هم اعمال میشود؟
برای تصاویر و فایلها بهجای واترمارک متنی، از ابردادهی امضاشده بر اساس استاندارد C2PA استفاده میشود که مقاومت کمتری در برابر تبدیل فرمت یا اسکرینشات دارد.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
