شهریور
اخبار
چین با قانون جدید، دیپفیکهای هوش مصنوعی را غیرقانونی اعلام کرد
دیوانعالی چین برای نخستینبار دستورالعملی رسمی صادر کرده که شرکتهای هوش مصنوعی و کاربران را در قبال دیپفیک، صدای جعلی و قیمتگذاری تبعیضآمیز الگوریتمی مسئول میداند؛ تصمیمی که میتواند الگوی قانونگذاری هوش مصنوعی در سراسر جهان را تغییر دهد.
لیست مطالب
۱. دیوانعالی چین چه چیزی اعلام کرد؟
دیوانعالی خلق چین، بالاترین مرجع قضایی این کشور، دستورالعمل تازهای را منتشر کرده که بهطور مشخص به مناقشات حقوقی مرتبط با هوش مصنوعی میپردازد. این سند حاصل بررسی هزاران پروندهی قضایی است که در سالهای اخیر با گسترش ابزارهای تولید محتوا، دستکاری تصویر و صدا، و تصمیمگیری الگوریتمی در چین شکل گرفتهاند. هدف اصلی این دستورالعمل، پر کردن خلأ قانونی موجود میان سرعت پیشرفت فناوری و کندی وضع قوانین سنتی است.
بر پایهی گزارش رسانههای رسمی چین، این دستورالعمل سه محور اصلی را در بر میگیرد: نخست، ساخت و انتشار دیپفیک و صدای شبیهسازیشده بدون رضایت افراد؛ دوم، قیمتگذاری تبعیضآمیز با کمک الگوریتمهای تحلیل رفتار کاربر؛ و سوم، مسئولیت شرکتها و کاربران در قبال خروجیهای زیانبار و «توهمهای» هوش مصنوعی. برای آشنایی بیشتر با ماهیت این فناوریها، میتوانید نگاهی به پتانسیلها و محدودیتهای واقعی هوش مصنوعی در سایت ما بیندازید.
۲. دیپفیک و شبیهسازی صدا؛ خط قرمز جدید
بر اساس متن دستورالعمل، تولید یا انتشار هرگونه تصویر، ویدئو یا فایل صوتی که چهره یا صدای یک فرد قابلشناسایی را بدون اجازهی او بازسازی کند، نقض آشکار حقوق شخصیتی محسوب میشود. این قاعده بهویژه زمانی اهمیت پیدا میکند که چنین محتوایی برای انتشار شایعات، اتهامات دروغ یا آسیبرساندن به اعتبار افراد به کار گرفته شود؛ در این حالت، فرد یا نهاد مسئول ساخت محتوا با مسئولیت مدنی و در موارد شدیدتر، پیگرد قانونی روبهرو خواهد شد.
این رویکرد بیسابقه نیست. دادگاه اینترنتی پکن در سال ۲۰۲۴ در نخستین پروندهی نقض حق صدا با کمک هوش مصنوعی در چین حکم داد که بازسازی صدای قابلشناسایی یک فرد بدون اجازهی او، حقوق شخصیتی وی را نقض میکند. دستورالعمل جدید دیوانعالی این رویهی قضایی پراکنده را به یک قاعدهی یکپارچه و سراسری برای تمام دادگاههای چین تبدیل کرده است. این یعنی از این پس، قضات سراسر کشور یک چارچوب مشترک برای رسیدگی به این نوع پروندهها در اختیار دارند.
چرا این موضوع برای کاربران عادی هم مهم است؟
با گسترش ابزارهای رایگان و در دسترس ساخت دیپفیک، دیگر تولید محتوای جعلی به متخصصان فناوری محدود نیست. هر کاربر عادی با چند کلیک میتواند چهره یا صدای فردی را در یک ویدیو یا فایل صوتی جعل کند. به همین دلیل، وضع قوانین روشن نهتنها افراد مشهور، بلکه شهروندان عادی را نیز در برابر سوءاستفاده از هویت دیجیتالشان محافظت میکند.
۳. مسئولیت شرکتهای هوش مصنوعی در قبال «توهمها»
یکی از مهمترین بخشهای این دستورالعمل، تعیین حدود مسئولیت شرکتهای ارائهدهندهی خدمات هوش مصنوعی است. طبق این قانون، اگر یک شرکت از تولید محتوای ناقض حقوق توسط سامانهی خود مطلع شود اما در بازهی زمانی معقول اقدامی برای حذف یا اصلاح آن انجام ندهد، مسئولیت مستقیم متوجه همان شرکت خواهد بود. این رویکرد شباهت زیادی به قوانین مسئولیت پلتفرمهای اینترنتی در حوزهی محتوای کاربرساخته دارد، اما اکنون برای اولینبار بهطور مشخص بر خروجی مدلهای هوش مصنوعی نیز تعمیم یافته است.
در سوی دیگر این معادله، کاربرانی قرار دارند که عمداً سامانههای هوش مصنوعی را با روشهایی مانند مهندسی پرامپت هدفمند یا دور زدن فیلترهای ایمنی دستکاری میکنند تا محتوای مضر یا فریبدهنده تولید کنند. این افراد نیز از زیر بار مسئولیت قانونی شانه خالی نمیکنند. اگر میخواهید با اصول درست و ایمن نوشتن دستور برای مدلهای زبانی آشنا شوید، مطالعهی راهنمای نوشتن پرامپت برای مبتدیان میتواند مفید باشد.
این رویکرد دوسویه، هم شرکتهای سازندهی مدلهای زبانی بزرگ مانند اپنایآی، گوگل و آنتروپیک و هم کاربران نهایی را در برابر خروجیهای زیانبار پاسخگو میکند. برای درک بهتر تفاوت رویکرد شرکتهای مختلف در طراحی و ایمنی مدلها، میتوانید مقالهی مقایسهی ChatGPT و DeepSeek را در سایت ما بخوانید.
۴. قیمتگذاری الگوریتمی؛ وقتی الگوریتم تبعیض میگذارد
شاید جنجالیترین بخش این دستورالعمل به قیمتگذاری هوشمند یا الگوریتمی اختصاص داشته باشد. طبق این قانون، اگر یک پلتفرم فروش آنلاین یا اپلیکیشن با تحلیل دادههای رفتاری کاربر، برای یک کالا یا خدمت کاملاً یکسان، قیمتهای متفاوتی از مشتریان مختلف دریافت کند و برای این تفاوت توجیه منطقی و شفافی نداشته باشد، در صورت اثبات آسیب به مصرفکننده، ممکن است مسئول شناخته شود.
این بند میتواند تأثیر مستقیمی بر غولهای تجارت الکترونیک چینی داشته باشد که سالهاست متهم به استفاده از دادههای رفتاری کاربران برای شخصیسازی قیمتها به نفع خود هستند؛ پدیدهای که در ادبیات اقتصادی به «قیمتگذاری بزرگداده» یا «توهین قیمتی الگوریتمی» شهرت دارد. تا پیش از این دستورالعمل، اثبات چنین تبعیضی در دادگاه بسیار دشوار بود، چون کاربران عادی دسترسی به دادهها یا منطق داخلی الگوریتمهای قیمتگذاری نداشتند.
کسبوکارهایی که از هوش مصنوعی برای تحلیل بازار و قیمتگذاری استفاده میکنند اکنون باید شفافیت بیشتری در فرایندهای تصمیمگیری الگوریتمی خود اعمال کنند. برای درک عمیقتر نقش هوش مصنوعی در تصمیمگیریهای تجاری، مطالعهی مقالهی اهمیت هوش مصنوعی در کسبوکار ۲۰۲۵ پیشنهاد میشود.
۵. واکنش کارشناسان و مقامات قضایی
ژو جیاهای، رئیس بخش پژوهش دیوانعالی خلق چین، در تشریح ضرورت این دستورالعمل گفته است که نمیتوان از هر مصرفکنندهای انتظار داشت متخصص تشخیص محتوای جعلی یا فریب دیجیتال باشد؛ به همین دلیل، نظام قضایی موظف است چارچوبی روشن و قابلاجرا برای مسئولیتپذیری ارائه دهد. این اظهارنظر بهخوبی نشان میدهد که چین دیگر مقابله با فریبهای هوش مصنوعی را صرفاً یک چالش فنی نمیداند، بلکه آن را در قالب یک ضرورت حقوقی و اجتماعی درجهیک تعریف میکند.
بسیاری از حقوقدانان بینالمللی نیز این گام را نشانهای از بلوغ نظام حقوقی چین در قبال فناوریهای نوظهور میدانند. برخلاف رویکرد پراکنده و موردی برخی کشورهای دیگر، چین با انتشار یک دستورالعمل یکپارچه، مسیر روشنی برای قضات، شرکتها و کاربران ترسیم کرده است.
۶. جایگاه این دستورالعمل در نقشهی بزرگتر قانونگذاری هوش مصنوعی چین
این دستورالعمل بخشی از یک روند گستردهتر در سیاستگذاری هوش مصنوعی چین محسوب میشود که از سپتامبر ۲۰۲۵ با الزام برچسبگذاری اجباری محتوای تولیدشده توسط هوش مصنوعی آغاز شده بود. هدف چین از این مجموعه اقدامات، ایجاد تعادل میان تشویق نوآوری در صنعت هوش مصنوعی داخلی و حفاظت از حقوق شهروندان در برابر سوءاستفاده از این فناوری است.
در همین حال، دیگر قدرتهای فناوری جهان نیز درگیر چالشهای مشابهی هستند. در آمریکا و اروپا، بحثهای داغی دربارهی نحوهی تنظیمگری عاملهای هوش مصنوعی خودمختار و مسئولیت شرکتهای سازنده در جریان است. برای مطالعهی بیشتر دربارهی نقش شرکتهای پیشرو در این عرصه، پیشنهاد میکنیم سری اخبار ما را در بخش اخبار هوش مصنوعی دنبال کنید.
۷. پیامدها برای کاربران و کسبوکارهای ایرانی
هرچند این دستورالعمل مستقیماً در حوزهی قضایی چین اجرا میشود، اما پیام آن فراتر از مرزهای این کشور است. کسبوکارهای ایرانی که از ابزارهای هوش مصنوعی برای تولید محتوای بازاریابی، تبلیغات یا شخصیسازی قیمت استفاده میکنند، باید توجه بیشتری به رعایت رضایت کاربران و شفافیت الگوریتمی داشته باشند؛ چرا که روند جهانی بهوضوح به سمت مسئولیتپذیری بیشتر در برابر خروجیهای هوش مصنوعی حرکت میکند.
از سوی دیگر، کاربران عادی نیز باید نسبت به محتوای مشکوکی که در شبکههای اجتماعی با آن روبهرو میشوند هوشیارتر باشند. تشخیص دیپفیک یا صدای جعلی هرچند دشوار است، اما آگاهی از وجود چنین قوانینی میتواند به کاربران انگیزه دهد تا در صورت مشاهدهی محتوای مشکوک، آن را گزارش کنند. برای آشنایی بیشتر با مفاهیم پایهی هوش مصنوعی، مطالعهی مقالهی اپنایآی چیست؟ نیز خالی از لطف نیست.
۸. پرسشهای متداول
آیا این قانون فقط شامل شرکتهای چینی میشود؟
خیر، دستورالعمل دیوانعالی چین برای تمام دادگاههای این کشور لازمالاجراست و شامل هر شرکت یا فردی میشود که در قلمرو قضایی چین فعالیت کند یا محتوای آسیبزا در آنجا منتشر شود؛ صرف نظر از اینکه سازندهی اصلی مدل هوش مصنوعی کجا مستقر باشد.
آیا کاربران عادی هم میتوانند تحت پیگرد قانونی قرار بگیرند؟
بله. اگر کاربری عمداً از هوش مصنوعی برای ساخت دیپفیک یا محتوای فریبدهنده استفاده کند و این کار به فرد یا نهاد دیگری آسیب برساند، مسئولیت مدنی و در موارد شدیدتر مسئولیت کیفری متوجه او خواهد بود.
این قانون چه تفاوتی با قانون برچسبگذاری محتوای هوش مصنوعی دارد؟
قانون برچسبگذاری سال ۲۰۲۵ الزام میکند محتوای تولیدشده با هوش مصنوعی بهوضوح مشخص شود، در حالی که دستورالعمل جدید به مسئولیت حقوقی ناشی از سوءاستفاده از این محتوا، از جمله دیپفیک و تبعیض قیمتی، میپردازد؛ این دو مقررات مکمل یکدیگرند.
۹. جمعبندی؛ گامی به سوی هوش مصنوعی مسئولانهتر
دستورالعمل تازهی دیوانعالی چین یکی از روشنترین و جامعترین چارچوبهای قضایی جهان برای مواجهه با پیامدهای منفی هوش مصنوعی به شمار میرود. با تعیین مسئولیت مشخص برای شرکتها و کاربران، این قانون میتواند سرمشقی برای دیگر کشورهایی باشد که هنوز در ابتدای راه تنظیمگری هوش مصنوعی هستند. آینده نشان خواهد داد که آیا این رویکرد در عمل توان بازدارندگی کافی خواهد داشت یا خیر، اما بدون شک گامی مهم در مسیر مسئولیتپذیری فناوری محسوب میشود. برای آشنایی با چالشهای میان توسعهدهندگان مستقل و تیمهای حرفهای در ساخت محصولات هوش مصنوعی، مطالعهی این مقاله نیز خالی از لطف نیست.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
