قانون ضد رئیس‌رباتی کالیفرنیا؛ اخراج فقط با تصمیم الگوریتم ممنوع شد

فرماندار کالیفرنیا بسته‌ای از قوانین هوش مصنوعی در محل کار را امضا کرد؛ از این پس تصمیم نهایی اخراج و تنبیه نباید فقط دست یک الگوریتم باشد.

۱. چه اتفاقی افتاد؟

در روز ۳۰ سپتامبر ۲۰۲۶ گاوین نیوسام، فرماندار کالیفرنیا، چند لایحه‌ی مرتبط با هوش مصنوعی و محیط کار را امضا کرد. رسانه‌های آمریکایی این بسته را یکی از جدی‌ترین تلاش‌های یک ایالت برای محدود کردن «مدیریت الگوریتمی» توصیف کرده‌اند. نکته‌ی جالب این است که به گزارش بعضی رسانه‌ها، نیوسام پیش‌تر لایحه‌ی مشابهی را وتو کرده بود و این بار با نسخه‌ای اصلاح‌شده موافقت کرد.

هسته‌ی بسته، قانون SB 947 است که به‌طور غیررسمی «قانون ضد رئیس‌رباتی» نام گرفته است. نام‌گذاری رسانه‌ای دقیقاً همان دغدغه‌ای را نشان می‌دهد که پشت قانون قرار دارد: نگرانی از اینکه سیستم‌های خودکار، بدون هیچ ناظر انسانی، درباره‌ی معیشت آدم‌ها تصمیم بگیرند. در کنار آن، سه قانون دیگر هم به نظارت هوش مصنوعی، حریم خصوصی کارکنان و شفافیت اخراج‌های ناشی از اتوماسیون می‌پردازند.

برای خوانندگانی که تازه با موج خبرهای ایمنی و مقررات هوش مصنوعی آشنا می‌شوند، پیشنهاد می‌کنیم آرشیو اخبار هوش مصنوعی را هم دنبال کنند؛ این خبر یکی از چند تحول نظارتی هفته‌های اخیر است.

۲. قانون SB 947 یا «ضد رئیس‌رباتی» چه می‌گوید؟

طبق گزارش‌های منتشرشده، این قانون کارفرما را موظف می‌کند پیش از آنکه یک «سیستم تصمیم‌گیری خودکار» مبنای تنبیه یا اخراج کارمند قرار بگیرد، یک انسان نتیجه را با شواهد مستقل تطبیق دهد. شواهد مستقل می‌تواند شامل ارزیابی سرپرست، نمونه‌ی کار یا سایر مدارک مرتبط باشد. به بیان ساده، خروجی الگوریتم یک «سرنخ» محسوب می‌شود و نه «حکم».

جنبه‌ی دوم قانون به نوع استنتاج مربوط است. گزارش‌ها می‌گویند استفاده از سیستم خودکار برای حدس زدن ویژگی‌های حفاظت‌شده‌ی کارمند یا پیش‌بینی اینکه او ممکن است اعتراض کند، ممنوع است. اگر این بند اجرا شود، شرکت‌ها نمی‌توانند مدل‌هایی بسازند که «احتمال شکایت یا اعتراض» کارمندان را برآورد کنند.

جنبه‌ی سوم، شفافیت است. پس از تصمیم، کارمند باید اطلاعیه‌ی کتبی دریافت کند که نشان می‌دهد سیستم خودکار در ماجرا نقش داشته، و می‌تواند درباره‌ی داده‌های مورد استفاده توضیح بخواهد. بر اساس منابع، اجرای این قانون از ۱ ژوئیه‌ی ۲۰۲۷ آغاز می‌شود، یعنی شرکت‌ها حدود ده ماه فرصت دارند فرایندهای خود را اصلاح کنند.

۳. قانون AB 1883؛ ممنوعیت تشخیص احساسات و داده‌ی عصبی

این قانون سراغ ابزارهای نظارتی هوش مصنوعی می‌رود که با ویدیو، صدا، ردیابی زمان یا موقعیت مکانی اطلاعات کارمندان را «به غیر از مشاهده‌ی مستقیم توسط یک انسان» جمع می‌کنند. اگر چنین ابزاری حالت عاطفی کارمند را تشخیص دهد یا پیش‌بینی کند، یا «داده‌ی عصبی» او را ثبت کند، استفاده از آن ممنوع خواهد بود.

داده‌ی عصبی یعنی اطلاعاتی که فعالیت سیستم عصبی را اندازه‌گیری می‌کند. با پیشرفت هدبندها و حسگرهای پوشیدنی، چند سال است که بحث «نظارت بر مغز کارکنان» از داستان علمی‌تخیلی به یک موضوع حقوقی تبدیل شده است. کالیفرنیا با این قانون عملاً پیش از فراگیر شدن این ابزارها خط قرمز کشیده است.

طبق یکی از منابع، استثناهایی برای ایمنی و بخش‌هایی از صنایع دفاعی و هوافضا در نظر گرفته شده است. دامنه‌ی دقیق این استثناها باید از متن نهایی قانون و تفسیرهای حقوقی بعدی روشن شود. تاریخ اجرا هم در منابع یکسان گزارش نشده؛ برخی از اجرای فوری و برخی از ۱ ژانویه‌ی ۲۰۲۷ نوشته‌اند، بنابراین شرکت‌ها بهتر است محتاطانه عمل کنند.

۴. قانون AB 1331 و SB 951؛ سرویس بهداشتی و اخراج دسته‌جمعی

قانون AB 1331 هر نوع نظارت در سرویس‌های بهداشتی محل کار را ممنوع می‌کند. دستگاه‌های کنترل ورود مثل کارت یا آلارم، به شرط نداشتن ضبط صوت و تصویر و بدون هوش مصنوعی تعبیه‌شده، همچنان مجاز می‌مانند. این بند ممکن است ساده به نظر برسد، اما نشان می‌دهد قانون‌گذار به محدوده‌ی «حداقل حریم خصوصی» هم حساس است.

قانون SB 951 به شفافیت اخراج‌های گروهی می‌پردازد. به گزارش یکی از منابع، شرکت‌هایی که دست‌کم ۷۵ کارمند دارند و بر اساس قانون WARN کالیفرنیا اطلاعیه‌ی اخراج دسته‌جمعی می‌دهند، باید در صورتی که اخراج‌ها کلاً یا عمدتاً از اتوماسیون ناشی شده، صراحتاً بنویسند که «این اطلاعیه برای جابه‌جایی فناورانه است».

این جمله‌ی کوتاه می‌تواند در عمل داده‌های ارزشمندی بسازد. تحلیلگران بازار کار می‌توانند با بررسی همین اطلاعیه‌ها بفهمند در کدام صنایع و چه زمانی اتوماسیون واقعاً جای نیروی انسانی را گرفته است. تا امروز بیشتر شرکت‌ها از عبارت‌های کلی مثل «بازسازی سازمانی» استفاده می‌کردند و تأثیر هوش مصنوعی پنهان می‌ماند.

۵. جریمه‌ها و ریسک حقوقی برای کارفرماها

طبق گزارش‌ها، برای بعضی از این قوانین جریمه‌ی تا ۵۰۰ دلار برای هر تخلف در نظر گرفته شده است. مبلغ به‌تنهایی کوچک به نظر می‌رسد، اما در شرکتی با هزاران کارمند و ده‌ها ابزار نظارتی، «هر تخلف» می‌تواند به‌سرعت جمع شود. علاوه بر این، گزارش‌ها از احتمال طرح دعوا بر اساس قانون وکلای عمومی خصوصی کالیفرنیا یا همان PAGA سخن می‌گویند که کارکنان را در پیگیری نقض‌ها فعال‌تر می‌کند.

بنابراین ریسک اصلی فقط جریمه نیست. شرکتی که نتواند نشان دهد انسانی تصمیم الگوریتم را بررسی کرده، ممکن است در پرونده‌های اخراج ناعادلانه موقعیت ضعیفی داشته باشد. مستندسازی بررسی انسانی، یعنی اینکه چه کسی، چه زمانی و بر پایه‌ی چه شواهدی تصمیم را تأیید کرده، از این پس بخش حیاتی فرایند منابع انسانی است.

۶. کارفرماها از همین حالا چه کنند؟

نخستین قدم، فهرست‌برداری از همه‌ی ابزارهایی است که در استخدام، ارزیابی عملکرد، زمان‌بندی و نظارت استفاده می‌شوند. بسیاری از شرکت‌ها نمی‌دانند در نرم‌افزارهای منابع انسانی‌شان کدام قابلیت‌ها با هوش مصنوعی کار می‌کنند. بدون این فهرست، نمی‌شود فهمید کدام ابزار زیر پوشش قوانین تازه قرار می‌گیرد.

گام بعدی، بازطراحی فرایند تصمیم‌گیری است. هر پیشنهاد اخراج یا تنبیه که از یک سامانه‌ی خودکار می‌آید باید به یک مدیر انسانی برسد، همراه با مدارک مستقل. شرکت‌ها همچنین باید قالب اطلاعیه‌ی کتبی برای کارمندان آماده کنند و مسیر پاسخ به درخواست توضیح درباره‌ی داده‌ها را مشخص کنند.

گام سوم، بازنگری قراردادها با فروشندگان نرم‌افزار است. اگر محصولی قابلیت تشخیص احساسات یا جمع‌آوری داده‌ی عصبی دارد، باید خاموش یا حذف شود. در حوزه‌ی عمومی‌تر هم مدیران باید بدانند اهمیت هوش مصنوعی در کسب‌وکار فقط به سرعت و صرفه‌جویی محدود نمی‌شود و ریسک مقررات‌گذاری هم بخشی از معادله است.

۷. کارمندان چه حقوقی پیدا می‌کنند؟

از دید کارمند، مهم‌ترین دستاورد «حق دانستن» است. اگر سامانه‌ای در تصمیم دخیل بوده، اطلاعیه‌ی کتبی باید این را روشن کند. کارمند می‌تواند بپرسد چه داده‌هایی استفاده شده و در صورت اشتباه یا ناعادلانه بودن، نسبت به آن اعتراض کند. چنین حقی در بسیاری از کشورها هنوز وجود ندارد.

مزیت دوم، حفاظت از حریم خصوصی هیجانی و ذهنی است. اینکه یک الگوریتم از روی چهره یا صدای شما بگوید «کم‌انگیزه» یا «مضطرب» هستید، همیشه با خطای آماری و سوگیری همراه بوده است. ممنوعیت این رویکرد یعنی ارزیابی شما باید بر پایه‌ی کار واقعی‌تان باشد، نه تفسیر یک مدل از حالت چهره‌تان.

البته قانون جادو نیست. کارمند باید از حقوق خود آگاه باشد و در صورت تخلف مستندات را نگه دارد. اگر در کالیفرنیا کار می‌کنید یا شرکتتان آنجا فعالیت دارد، بهتر است سیاست‌های داخلی را بخوانید و در صورت ابهام از مشاور حقوقی کمک بگیرید. این مقاله مشاوره‌ی حقوقی نیست.

۸. این قانون برای آینده‌ی هوش مصنوعی چه معنایی دارد؟

کالیفرنیا سال‌هاست آزمایشگاه مقررات فناوری آمریکا محسوب می‌شود و بسیاری از قوانین آن بعداً الگوی ایالت‌های دیگر شده است. اگر قانون ضد رئیس‌رباتی در عمل خوب کار کند، می‌تواند به الگویی برای دیگر ایالت‌ها و حتی کشورها تبدیل شود. شرکت‌های چندملیتی هم معمولاً ترجیح می‌دهند یک استاندارد واحد در همه‌جا داشته باشند.

در مقابل، منتقدان ممکن است بگویند الزام به بررسی انسانی، سرعت تصمیم‌گیری را کم می‌کند و بار اداری می‌آورد. طرفداران پاسخ می‌دهند که هزینه‌ی اشتباه الگوریتمی برای یک انسان، یعنی از دست دادن شغل، بسیار سنگین‌تر از هزینه‌ی چند ساعت بررسی است. این بحث همان مناظره‌ی همیشگی میان نوآوری و محافظت است. برای نگاه متعادل به توان و محدودیت‌های این فناوری، پتانسیل و محدودیت‌های هوش مصنوعی در دنیای واقعی را بخوانید.

نکته‌ی مهم دیگر این است که هوش مصنوعی همچنان ابزار مفیدی برای منابع انسانی است؛ از خلاصه‌سازی رزومه تا پیشنهاد برنامه‌ی آموزشی. قانون جدید استفاده از هوش مصنوعی را ممنوع نمی‌کند، بلکه می‌گوید تصمیم نهایی درباره‌ی انسان‌ها باید مسئول انسانی داشته باشد. همان‌طور که در بحث توهم هوش مصنوعی و مهندس واقعی هم دیده‌ایم، ابزار هرچقدر هم قدرتمند باشد، مسئولیت را از دوش انسان برنمی‌دارد.

اگر می‌خواهید خودتان از ابزارهای هوشمند در کار استفاده کنید، یادگیری درست پرامپت‌نویسی شروع خوبی است؛ راهنمای پرامپت‌نویسی برای مبتدی‌ها و مجموعه‌ی آموزش‌های چت‌جی‌پی‌تی و آشنایی با شرکت OpenAI می‌تواند کمک کند.

۹. پرسش‌های متداول

آیا هوش مصنوعی در منابع انسانی کالیفرنیا ممنوع شده است؟

خیر. آنچه ممنوع یا محدود شده، تصمیم نهایی صرفاً الگوریتمی درباره‌ی اخراج و تنبیه، تشخیص احساسات، جمع‌آوری داده‌ی عصبی و نظارت در سرویس‌های بهداشتی است. استفاده‌ی عادی از ابزارهای هوشمند با نظارت انسانی همچنان ممکن است.

قانون SB 947 از چه زمانی اجرا می‌شود؟

طبق منابع، اول ژوئیه‌ی ۲۰۲۷. درباره‌ی تاریخ اجرای سایر قوانین، گزارش‌ها یکسان نیستند و بعضی ژانویه‌ی ۲۰۲۷ را نوشته‌اند.

جریمه‌ی تخلف چقدر است؟

در گزارش‌ها تا ۵۰۰ دلار برای هر تخلف ذکر شده و احتمال دعاوی بر پایه‌ی قانون PAGA هم مطرح است.

آیا قانون فقط شامل شرکت‌های بزرگ می‌شود؟

بر اساس گزارش‌ها، قوانین یادشده همه‌ی کارفرماهای کالیفرنیا را شامل می‌شوند. فقط شرط اطلاعیه‌ی «جابه‌جایی فناورانه» به شرکت‌های دارای دست‌کم ۷۵ کارمند و اخراج‌های دسته‌جمعی مربوط است.

کارمند باید چه کند اگر فکر کند با الگوریتم اخراج شده؟

اطلاعیه‌ی کتبی را بخواهد، درباره‌ی داده‌های استفاده‌شده توضیح بگیرد، مدارک را نگه دارد و برای اقدام قانونی با مشاور حقوقی مشورت کند.