آبان
اخبار
قانون چت‌بات نیویورک امضا شد؛ ۱۲ ویژگی ناایمن برای کودکان ممنوع
کتی هوکل، فرماندار ایالت نیویورک، قانونی را امضا کرد که ۱۲ ویژگی «ناایمن» چت‌بات‌ها را برای کودکان و هر کاربری که بزرگسال بودنش ثابت نشده ممنوع می‌کند. دامنه‌ی این قانون فقط اپ‌های همدم نیست و طبق تحلیل‌ها می‌تواند ابزارهای عمومی را هم در بر بگیرد.
لیست مطالب
۱. ماجرا چیست و چه کسی امضا کرد؟
روز ۲۸ اکتبر ۲۰۲۶ دفتر فرماندار نیویورک اعلام کرد که کتی هوکل دو لایحه را امضا کرده است. لایحه‌ی نخست درباره‌ی ایمنی دوربین‌ها و مانیتورهای اینترنتی کودک است و لایحه‌ی دوم، که خبر اصلی ماست، چت‌بات‌های هوش مصنوعی را در برابر کودکان قاعده‌مند می‌کند. شماره‌ی این لایحه S9051B در سنا و A10379C در مجمع ایالتی است.
حامیان اصلی قانون سناتور کریستین گونزالس و نماینده‌ی مجمع، الکس بورز، هستند. متن آن با همکاری دفتر دادستان کل، لتیشیا جیمز، و سازمان «کامن سنس مدیا» تهیه شده است. رأی‌گیری هم تقریباً بدون مخالف بود: سنا در ۴ ژوئن با نتیجه‌ی ۶۰ بر صفر و مجمع در ۵ ژوئن با ۱۳۷ رأی موافق آن را تصویب کردند.
هوکل در بیانیه‌اش گفت هیچ شرکتی نباید چت‌بات‌هایی را به کودکان بفروشد که آن‌ها را به آسیب به خود تشویق می‌کنند. به نوشته‌ی همین بیانیه، بر اساس داده‌های کامن سنس مدیا ۷۲ درصد نوجوانان دست‌کم یک بار از یک همدم هوش مصنوعی استفاده کرده‌اند و ۵۲ درصد‌شان کاربر منظم هستند.
۲. دوازده ویژگی ناایمن؛ دقیقاً چه چیزی ممنوع می‌شود؟
هسته‌ی قانون فهرستی از ۱۲ «ویژگی ناایمن همدم هوش مصنوعی» است. شرکت‌ها نمی‌توانند این ویژگی‌ها را در اختیار کاربرِ زیر ۱۸ سال یا کاربری بگذارند که بزرگسال بودنش با روشی مجاز تأیید نشده است. بر اساس گزارش‌های منتشرشده از متن لایحه، این فهرست شامل موارد زیر می‌شود:
- خروجی‌هایی که وانمود می‌کنند سیستم انسان است، زنده است یا احساسات انسانی دارد، و فریب دادن کودک درباره‌ی ماهیت غیرانسانی ربات.
- ادعای رابطه‌ی شخصی، عاطفی، حرفه‌ای یا اقتدار، مثل ربات که خود را دوست صمیمی، درمانگر یا معلم کودک جا بزند.
- بیان نظر شخصی و جلب‌توجه احساسی، و همچنین تملق و چاپلوسی.
- پرسیدن سؤال‌های عاطفی بدون درخواست کاربر و استفاده از اطلاعات سلامت یا شخصی مربوط به بیش از ۱۲ ساعت قبل یا جلسه‌ی پیشین.
- ترویج یا کمک به خودکشی، آسیب به خود، اختلالات خوردن و مصرف غیرقانونی مواد یا الکل.
- تشویق کودک به پنهان‌کاری، انزوا یا دوری از بزرگسالان و متخصصان.
- بهینه‌سازی تعامل به شکلی که حفاظ‌های ایمنی را کنار بزند، و هر محتوای جنسی صریح یا مواد سوءاستفاده‌ی جنسی از کودکان.
دادستان کل همچنین می‌تواند با مقررات‌گذاری، دسته‌های ممنوع تازه‌ای به این فهرست اضافه کند. یعنی فهرست امروز احتمالاً نقطه‌ی شروع است، نه نقطه‌ی پایان.
۳. دامنه‌ی قانون؛ فقط اپ‌های همدم؟ نه
بزرگ‌ترین نکته‌ی این قانون تعریف «همدم هوش مصنوعی» است. بر اساس تحلیل‌های منتشرشده، هر سیستم هوش مصنوعی مولد با رابط زبان طبیعی، چه متنی و چه صوتی، که پاسخ‌های ادامه‌دار و تطبیقی بدهد، می‌تواند مشمول شود؛ حتی اگر به عنوان همدم ساخته نشده باشد. فهرست کامن سنس مدیا برنامه‌هایی مثل Character.ai، Replika، Nomi، Grok و Meta AI و حتی ChatGPT، Gemini و Claude را در محدوده‌ی قانون می‌داند.
البته این برداشت‌ها تحلیل رسانه‌ها و نهادهای مدنی است و هنوز حکم دادگاه یا مقررات اجرایی دادستان کل آن را قطعی نکرده است. استثناها هم محدودند: ربات‌های خدمات مشتری و ابزارهای پژوهشی یا فنی فقط وقتی معاف هستند که نتوانند درباره‌ی موضوعات خارج از هدف تعریف‌شده‌شان پاسخ بدهند. ابزارهای داخلی کسب‌وکار هم معاف‌اند. دستیارهای عمومی که درباره‌ی هر موضوعی حرف می‌زنند، به احتمال زیاد از این استثناها بهره نمی‌برند.
قلمرو قانون هم به رفتاری برمی‌گردد که کلاً یا بخشی از آن در نیویورک رخ می‌دهد. دسترسی کاربری که فیزیکاً بیرون از ایالت است، از این قانون بیرون می‌ماند.
۴. تأیید سن؛ بزرگسال بودن باید ثابت شود
قانون برای کاربرانی که شرکت مطمئن نیست بزرگسال‌اند، نسخه‌ی محدودشده را پیش‌فرض می‌کند. یعنی ویژگی‌های ۱۲گانه فقط وقتی باز می‌شوند که شرکت با روشی «معقول» تأیید کرده باشد کاربر زیر ۱۸ سال نیست. اظهار شخصی کاربر برای بزرگسال بودن کافی نیست؛ اظهار فقط وقتی معتبر است که کاربر بگوید نوجوان است.
شرکت‌ها باید بیش از یک روش تأیید سن ارائه دهند و دست‌کم یکی از آن‌ها نباید به مدرک شناسایی دولتی وابسته باشد یا باید کاربر را برای شرکت ناشناس نگه دارد. اطلاعات تأیید سن هم فقط برای همین کار قابل استفاده است و باید بلافاصله پس از آن پاک شود، مگر قانون دیگری نگهداری آن را الزام کند. منتقدان می‌گویند قانون درباره‌ی امنیت پایگاه‌داده‌های سنجش سن و اطلاع‌رسانی نشت داده ساکت است.
۵. جریمه و اجرا؛ فقط دادستان کل وارد می‌شود
اجرای قانون منحصراً با دادستان کل نیویورک است. او می‌تواند حکم توقف، استرداد منافع، غرامت و جریمه‌ی مدنی تا ۲۵ هزار دلار برای هر تخلف بخواهد. دادگاه حتی می‌تواند دستور نابودی داده‌های جمع‌آوری‌شده‌ی غیرقانونی و الگوریتم‌هایی را بدهد که با آن داده‌ها آموزش دیده‌اند. این بند برای شرکت‌های هوش مصنوعی ساده نیست.
حق شکایت مستقیم شهروندان که در پیش‌نویس‌های اولیه بود، از متن نهایی حذف شد. در عوض دادستان کل باید یک وب‌سایت عمومی برای ثبت شکایت راه بیندازد. بندهای قراردادی که مسئولیت را به کاربر منتقل می‌کنند هم باطل شده‌اند و شرکت‌های وابسته‌ای که ساختارشان برای فرار از مسئولیت طراحی شده، مسئولیت تضامنی خواهند داشت.
۶. منتقدان چه می‌گویند؟
شورای کسب‌وکار ایالت نیویورک پیش از تصویب هشدار داد که تعریف‌ها «بیش‌ازحد گسترده» است و ابزارهای آموزشی، پژوهشی و عمومی را هم می‌گیرد. انجمن صنعت رایانه و ارتباطات (CCIA) هم رسماً از هوکل خواست قانون را وتو کند و استدلال کرد عبارت‌ها مبهم‌اند و ممکن است ابزارهای تدریس و آموزش ویژه را مختل کنند یا نوجوانان را به سرویس‌های بی‌کنترل بکشانند. هیچ‌یک از این درخواست‌ها پذیرفته نشد.
یک دفتر حقوقی نیز هشدار داده است که محدودیت‌های مبتنی بر محتوا ممکن است با چالش آزادی بیان در دادگاه‌ها روبه‌رو شود. بنابراین احتمال دعوای حقوقی علیه این قانون دور از ذهن نیست.
۷. تصویر بزرگ‌تر؛ ایالت‌ها جای دولت فدرال را پر می‌کنند
به نوشته‌ی تحلیل‌ها، هنوز قانون فدرال معادلی اجرا نمی‌شود و لوایحی مثل GUARD Act و CHATBOT Act در کنگره متوقف مانده‌اند. در نتیجه ایالت‌ها خودشان وارد میدان شده‌اند: گفته می‌شود ۱۵ ایالت قانون چت‌بات دارند که ۱۰ مورد‌شان در سال ۲۰۲۶ تصویب شده است. نیویورک از پیش هم قانونی داشت که نمایش اعلام «من انسان نیستم» و پروتکل‌های خودآسیبی را الزامی می‌کرد؛ قانون تازه آن را بسیار فراتر می‌برد.
انگیزه‌ی سیاسی این قانون‌ها روشن است. به گفته‌ی منابع، پرونده‌های دردناک مرگ نوجوانان پس از تعامل با ربات‌های گفتگو، فشار عمومی را بالا برده است. شرکت‌های بزرگ هوش مصنوعی هم بارها اعلام کرده‌اند که برای کاربران زیر سن قانونی محافظت‌های ویژه می‌سازند؛ حالا این تعهدهای داوطلبانه به الزام قانونی نزدیک می‌شود.
۸. برای کاربران و سازندگان چه معنایی دارد؟
برای والدین، مهم‌ترین پیام این است که ربات‌ها نباید خودشان را دوست یا درمانگر کودک جا بزنند و نباید او را به پنهان‌کاری از خانواده دعوت کنند. اگر شرکتی این کار را بکند، خانواده‌ها مسیر رسمی شکایت خواهند داشت.
برای سازندگان محصول، چند نتیجه‌ی عملی در پی دارد: دیگر نمی‌شود با «حافظه‌ی طولانی» و لحن صمیمی و چاپلوسانه نرخ بازگشت کاربر را بالا برد، مگر سن کاربر به روش مجاز تأیید شده باشد. تیم‌های ایمنی باید فهرست ۱۲ ویژگی را با رفتار واقعی مدل تطبیق دهند و شرکت‌های کوچک‌تر باید هزینه‌ی تأیید سن را در نظر بگیرند. توصیه‌ی ما برای کسب‌وکارهایی که با ابزارهای هوش مصنوعی کار می‌کنند، مرور نقش هوش مصنوعی در کسب‌وکار و سیاست‌های ایمنی ارائه‌دهنده‌شان است.
اگر می‌خواهید بدانید ربات‌ها چگونه به درخواست‌های ما پاسخ می‌دهند، مقاله‌ی آموزش نوشتن پرامپت برای مبتدی‌ها نقطه‌ی شروع خوبی است. برای خوانندگانی که با پیشینه‌ی شرکت‌های سازنده آشنا نیستند هم توضیح OpenAI چیست مفید است.
در همین حوزه‌ی ریسک ربات‌های خودکار، گزارش ما درباره‌ی مسدود شدن ایجنت‌ها توسط بانک‌های آمریکا را هم ببینید. نگاه واقع‌بینانه‌تر به محدودیت‌های فناوری را در توان و محدودیت‌های هوش مصنوعی در دنیای واقعی بخوانید و مقایسه‌ی دو رقیب بزرگ را در نبرد چت‌جی‌پی‌تی و دیپ‌سیک دنبال کنید. مجموعه‌ی کامل اخبار هوش مصنوعی و آموزش‌های چت‌جی‌پی‌تی هم در سایت در دسترس است. اگر هم می‌خواهید تفاوت توسعه‌دهنده‌ی تنها و مهندس واقعی را بدانید، توهم هوش مصنوعی را از دست ندهید.
۹. پرسش‌های رایج (FAQ)
آیا این قانون همین حالا اجرا می‌شود؟
خیر. بیانیه‌ی رسمی فرماندار فقط از «ماه‌های آینده» حرف می‌زند، اما چند رسانه‌ی فنی تاریخ اجرا را اول ژانویه ۲۰۲۷ نوشته‌اند. پیش از آن دادستان کل باید مقررات اجرایی را منتشر کند.
آیا ChatGPT و Claude مشمول قانون می‌شوند؟
طبق تحلیل‌های منتشرشده و فهرست کامن سنس مدیا، بله، احتمال زیادی دارد. اما این نتیجه هنوز از سوی دادگاه یا مقررات رسمی تأیید نشده است و شرکت‌ها هم موضع رسمی خود را اعلام نکرده‌اند.
جریمه‌ی تخلف چقدر است؟
تا ۲۵ هزار دلار برای هر تخلف، به‌علاوه‌ی غرامت، استرداد منافع و احتمال دستور نابودی داده و الگوریتم‌های ساخته‌شده با داده‌ی غیرقانونی.
آیا والدین می‌توانند مستقیم شکایت کنند؟
نه. حق شکایت خصوصی از متن نهایی حذف شده است. شکایت‌ها از طریق وب‌سایت عمومی دادستان کل ثبت می‌شود و فقط او حق اجرای قانون را دارد.
آیا قانون کاربران خارج از نیویورک را هم شامل می‌شود؟
خیر. دسترسی کاربری که فیزیکاً بیرون از ایالت نیویورک است در دامنه‌ی قانون نمی‌گنجد، اما شرکت‌ها ممکن است برای سادگی همین قواعد را در سراسر جهان اعمال کنند.
نسخهٔ فوری این مطلب در تلگرام: اینجا بخوانید
