نیوزوم قانون SB 947 کالیفرنیا را برای محدودیت اخراج AI…
قانون "عدم وجود ربات‌های رئیس" تأکید بر تأیید انسانی و افشای اطلاعات کارکنان زمانی که از هوش مصنوعی به‌طور عمده استفاده می‌شود، دارد.
گوvernor کالیفرنیا، گاوین نیوسام، در تاریخ 30 سپتامبر، قانون SB 947 را امضا کرد که به کارفرمایان اجازه نمی‌دهد از سیستم‌های تصمیم‌گیری خودکار به عنوان تنها یا اصلی‌ترین مبنای اخراج یا تنبیه کارکنان استفاده کنند. این قانون نیاز به تأیید انسانی و افشای اطلاعات به کارکنان را اضافه می‌کند، اما یک محرک نامشخص "به‌طور عمده متکی است" را باقی می‌گذارد که گروه‌های تجاری می‌گویند عدم قطعیت در رعایت قوانین را ایجاد می‌کند.
نکات کلیدی
- کالیفرنیا قانون SB 947، معروف به "قانون عدم استفاده از ربات‌های رئیس" را تصویب کرد که به کارفرمایان اجازه نمی‌دهد تنها به سیستم‌های تصمیم‌گیری خودکار برای اخراج یا تنبیه کارکنان تکیه کنند و استفاده از AI را به عنوان "ابزار اصلی" در این تصمیمات محدود می‌کند.
- زمانی که تصمیمات اخراج یا تنبیه عمدتاً تحت تأثیر خروجی AI قرار دارد، این قانون نیازمند آن است که یک بازبینی‌کننده انسانی نتیجه را با استفاده از اطلاعات دیگر، از جمله ارزیابی‌های مدیریتی، بررسی‌های همتا و پرونده‌های پرسنلی تأیید کند.
- کارکنانی که تحت تأثیر یک تصمیم مبتنی بر AI قرار می‌گیرند، باید اطلاعیه کتبی دریافت کنند که در آن ذکر شده است که AI به‌طور عمده استفاده شده، توصیفی از داده‌های کارکنان استفاده شده توسط سیستم و یک نقطه تماس انسانی که می‌تواند تصمیم را توضیح دهد.
- مخالفت‌های تجاری بر محور محرک نامشخص رعایت این لایحه متمرکز بود و استدلال می‌کرد که "به‌طور عمده متکی است" فاقد یک استاندارد عینی است و می‌تواند اختلافات را در مورد اینکه آیا یک ابزار مشاوره‌ای یا تعیین‌کننده بوده است، گسترش دهد.
قانون SB 947 کالیفرنیا در اخراج‌های مبتنی بر AI یک دروازه انسانی قرار می‌دهد.
گوvernor کالیفرنیا، گاوین نیوسام، در تاریخ 30 سپتامبر، قانون SB 947، معروف به "قانون عدم استفاده از ربات‌های رئیس" را امضا کرد که مجموعه جدیدی از محدودیت‌ها را در مورد نحوه استفاده کارفرمایان از سیستم‌های تصمیم‌گیری خودکار (ADS) ایجاد می‌کند، به معنای نرم‌افزاری که از الگوریتم‌ها یا AI برای کمک به اتخاذ یا خودکارسازی تصمیمات استفاده می‌کند، در تنبیه و اخراج.
از نظر مکانیکی، این قانون دو کار را همزمان انجام می‌دهد. این قانون به کارفرمایان اجازه نمی‌دهد تنها به AI یا ADS برای اخراج یا تنبیه کارکنان تکیه کنند و استفاده از AI را به عنوان "ابزار اصلی" در این تصمیمات محدود می‌کند.
محرک عملی رعایت، "به‌طور عمده" است. اگر یک کارفرما "به‌طور عمده" به خروجی AI برای اتخاذ یک تصمیم اخراج یا تنبیهی تکیه کند، قانون SB 947 نیازمند آن است که یک بازبینی‌کننده انسانی تصمیم را با استفاده از اطلاعات اضافی، از جمله ارزیابی‌های مدیریتی، بررسی‌های همتا و پرونده‌های پرسنلی تأیید کند. این یک الزام انسانی در حلقه است که به‌طور خاص به اقدامات اشتغال نامطلوب مربوط می‌شود.
SB 947 همچنین افشای اطلاعات را در نقطه تأثیر اجباری می‌کند. کارمندان تحت تأثیر باید اطلاعیه کتبی دریافت کنند که AI به طور "اصلی" در تصمیم termination یا انضباطی استفاده شده است، توصیفی از داده‌های کارمندی که توسط سیستم استفاده شده و یک نقطه تماس انسانی که می‌تواند تصمیم را بیشتر توضیح دهد.
حامیان این قانون را به عنوان یک توقف سخت در مدیریت صرفاً ماشینی معرفی کردند. سناتور ایالت، جری مک‌نرنی، نویسنده لایحه، گفت: "هیچ کارگری نباید هرگز توسط یک ماشین، چه AI باشد یا نه، اخراج یا تنبیه شود. سیستم‌های هوش مصنوعی پتانسیل افزایش بهره‌وری را دارند، اما همچنین خطاها و قضاوت‌های نادرست و تعصباتی را نشان داده‌اند،" و افزود: "AI باید ابزاری باشد که تحت کنترل انسان‌ها باشد، نه برعکس."
محرک انطباق که معامله‌گران بر آن تمرکز خواهند کرد: "به طور اصلی وابسته است"
محتوای عملی لایحه نه ممنوعیت اصلی تصمیمات صرفاً AI است. بلکه مرز تفسیری است که زمانی که یک کارفرما "به طور اصلی وابسته است" به یک سیستم تصمیم‌گیری خودکار، زیرا این همان چیزی است که جریان تأیید انسانی و افشای کتبی را فعال می‌کند.
گروه‌های تجاری استدلال می‌کنند که این مرز در زبان محرک قانون تعریف نشده است، که انطباق را به یک مبارزه بر اساس حقایق و شرایط تبدیل می‌کند. رابرت سینگلتون، مدیر ارشد سیاست و امور عمومی اتاق پیشرفت برای کالیفرنیا و غرب ایالات متحده، در نامه‌ای که خواستار وتوی این لایحه شد، نوشت: "تعهدات این لایحه به طور کلی زمانی که یک کارفرما 'به طور اصلی وابسته است' به یک سیستم تصمیم‌گیری خودکار اعمال می‌شود، اما آن اصطلاح حیاتی هرگز تعریف نشده است.
کارفرمایان هیچ استاندارد عینی برای تعیین زمان انتقال یک فناوری از صرفاً اطلاع‌رسانی به تصمیم به عنوان یک مبنای اصلی ندارند،" و افزود: "عدم قطعیت در مورد اینکه آیا ابزارهای معمول به عنوان سیستم‌های تصمیم‌گیری خودکار تحت نظارت قرار می‌گیرند می‌تواند کارفرمایان را از استفاده از فناوری‌هایی که ثبات را بهبود می‌بخشند، خطرات ایمنی را شناسایی می‌کنند، یا به مدیران کمک می‌کنند تصمیمات بهتری بگیرند، دلسرد کند."
برای معامله‌گران، آن ابهام جایی است که خطر کوتاه‌مدت نشسته است. قانونی که روی کاغذ واضح است اما در محرک مبهم است، معمولاً به عنوان هزینه فرآیند،حسابرسیکار و وضعیت دعاوی، نه به عنوان یک تعطیلی فوری ابزارها، ظاهر می‌شود.
کارفرمایان و فروشندگانی که سیستم‌های مدیریت الگوریتمی می‌فروشند، به معنای نرم‌افزاری که برای آموزش، نظارت، ارزیابی یا مدیریت کارگران استفاده می‌شود، ممکن است نیاز به ایجاد مسیرهای داخلی تمیزتری داشته باشند که بتوانند پس از واقعیت به دو سوال پاسخ دهند: چه داده‌ای سیستم استفاده کرده و آیا خروجی AI صرفاً مشورتی بود یا به طور عملی تعیین‌کننده.
الزام افشاگری این سوال دوم را دشوارتر می‌کند که از آن طفره بروید. اگر یک شرکت باید اطلاعیه کتبی ارائه دهد که AI به طور "اصلی" استفاده شده و داده‌های کارمندی که توسط سیستم استفاده شده را توصیف کند، نیاز به یک رکورد قابل دفاع از آنچه سیستم انجام داده و چگونه بازبینی انسانی تصمیم را با ورودی‌های غیر AI تأیید کرده است، دارد.
چگونه لایحه پس از وتوی نیوسام تغییر کرد و چرا این بار تصویب شد
مسیر SB 947 مهم است زیرا توضیح می‌دهد که چرا کالیفرنیا به یک قاعده عملیاتی باریک‌تر و نه یک رژیم اطلاع‌رسانی گسترده‌تر رسید. نیوسوم نسخه قبلی را در اکتبر گذشته وتو کرد، حتی پس از اینکه این لایحه با "حمایت قاطع اکثریت" از هر دو مجلس قانون‌گذاری ایالت عبور کرد.
در پیام وتوی خود، نیوسوم نوشت: "من نگرانی نویسنده را به اشتراک می‌گذارم که در برخی موارد استفاده غیرقانونی از ADS [نرم‌افزار تصمیم‌گیری خودکار] توسط کارفرمایان می‌تواند برای کارگران مضر باشد،" اما افزود که این لایحه، "به جای رسیدگی به روش‌های خاصی که کارفرمایان از این فناوری سوءاستفاده می‌کنند، الزامات اطلاع‌رسانی نامشخصی را بر هر کسب‌وکاری که حتی از بی‌ضررترین ابزارها استفاده می‌کند، تحمیل می‌کند."
مک‌نرنی این لایحه را در فوریه با تغییراتی که به منظور پاسخ به آن اعتراض طراحی شده بود، دوباره معرفی کرد. نسخه اصلاح‌شده الزامی برای اطلاع‌رسانی پیش از موعد را حذف کرد که کارفرمایان را ملزم می‌کرد تا به کارگران در مورد استفاده از سیستم‌های AI که می‌توانستند بر شرایط کاری تأثیر بگذارند، هشدار دهند. همچنین زبان‌هایی که می‌توانستند از کارگران گیگ حمایت کنند، حذف شد، که این بند انتقادات شدیدی از شرکت‌های حمل‌ونقل مانند اوبر و لیفت به همراه داشت.
لایحه اصلاح‌شده هنوز با مخالفت کسب‌وکارها مواجه بود، اما شکل باریک‌تر به نظر می‌رسد که نگرانی‌های اعلام‌شده از سوی فرماندار در مورد اطلاع‌رسانی دائمی را برطرف کرده است. گروه‌های کارگری امضای این لایحه را به عنوان یک تغییر قدرت در محل کار تفسیر کردند. لورنا گونزالس، رئیس فدراسیون اتحادیه‌های کارگری کالیفرنیا، AFL-CIO، گفت: "زمانی که کارگران سازمان‌دهی می‌شوند، ما نتایج می‌گیریم.
کارگران در سراسر کالیفرنیا خواستار این شده‌اند که ایالت ما در تنظیم AI در محل‌های کار پیشرو باشد. و امروز، ما می‌بینیم که این آغاز می‌شود،" و افزود: "امروز، کارگران کالیفرنیا و اتحادیه‌های ما روایت ملی را در مورد اینکه چگونه آمریکایی‌ها می‌توانند در برابر تسلط AI بر مشاغل و محل‌های کار خود مبارزه کنند و پیروز شوند، تغییر داده‌اند."
این لایحه همچنین سیگنال سیاسی قابل توجهی از سوی دیگر طرف کنگره دریافت کرد. استیو هیل‌تون، نامزد جمهوری‌خواه کالیفرنیا برای فرمانداری، به‌طور علنی از SB 947 حمایت کرد و استدلال کرد که "این لایحه به اندازه کافی دور نمی‌رود،" نوشت: "اتاق بازرگانی کالیفرنیا... می‌گوید که قوانین نیازمند بررسی انسانی و مسئولیت‌پذیری پایه برای کارفرمایان بسیار سنگین است.
چه چیز مضحکی برای گفتن است،" و افزود: "کارفرمایان نباید اجازه داشته باشند از AI برای تصمیم‌گیری در مورد اینکه آیا کسی اخراج می‌شود، تنزل مقام می‌یابد، ساعات عادی خود را از دست می‌دهد یا از برنامه‌ای که برای درآمد به آن وابسته است، کنار گذاشته می‌شود، استفاده کنند."
سیگنال‌هایی برای نظارت در حالی که کالیفرنیا الگوی دیگری برای ایالت‌های دیگر تعیین می‌کند
ناشناخته فوری عملیاتی است: بخش ارائه شده تاریخ مؤثر SB 947، مکانیزم اجرایی یا ساختار جریمه را مشخص نمی‌کند. این جزئیات تعیین می‌کند که آیا رعایت این قانون یک مسابقه فوری است یا یک اجرای سیاستی کندتر.
سیگنال دوم تفسیر است. هر گونه راهنمایی، قانون‌گذاری یا زبان توضیحی از سوی هر نهاد کالیفرنیا که معنای "به‌طور عمده وابسته است" را در عمل محدود کند، عدم قطعیت را برای کارفرمایان و فروشندگان کاهش می‌دهد و همچنین نحوه‌ای که وکلای شاکی اختلافات را در مورد اینکه آیا یک ابزار از خط توصیه به تصمیم‌گیری عبور کرده است، شکل می‌دهد.
سومین سیگنال سرریز قانونی است. پیشنهادات مشابهی در نیویورک، لوئیزیانا و نیوجرسی مطرح شده است و امضای کالیفرنیا به ایالت‌های دیگر یک الگوی کاری ارائه می‌دهد که حول تأیید انسانی و افشای پس از تصمیم‌گیری به جای اطلاع‌رسانی پیش از موعد گسترده ساخته شده است.
چهارمین سیگنال رفتار شرکتی است. کارفرمایان بزرگ که از ابزارهای مدیریت الگوریتمی استفاده می‌کنند، باید جریان‌های کار termination و انضباط را به‌روزرسانی کنند تا تأیید انسانی را مستند کنند و اطلاعیه‌های کارمندی تولید کنند که داده‌های استفاده شده توسط سیستم را توصیف کند، که این نوع تغییر معمولاً ابتدا در به‌روزرسانی‌های سیاست داخلی و الزامات تأمین‌کننده ظاهر می‌شود.
خواندن من: این یک مالیات حکمرانی بر هوش مصنوعی در محل کار است، نه ممنوعیتی بر آن
آستانه‌ای که اهمیت دارد این نیست که آیا شرکت‌ها از هوش مصنوعی در منابع انسانی استفاده می‌کنند یا نه. بلکه این است که آیا فرآیند آنها می‌تواند به طور معتبر به عنوان "عمدتاً" تحت تأثیر یک خروجی خودکار توصیف شود، زیرا این همان چیزی است که تأیید انسانی، مستندسازی و افشای اطلاعات به کارکنان را الزامی می‌کند.
اگر کالیفرنیا یا یک نهاد اجرایی "عمدتاً وابسته است" را به چیزی قابل حسابرسی روشن کند، این ساختار شروع به شبیه شدن به یک لایه پایش پایدار می‌کند که فروشندگان می‌توانند حول آن محصول‌سازی کنند. اگر این اصطلاح بدون تعریف باقی بماند، ریسک به سمت اختلافات بر سر طبقه‌بندی و روایت‌های پس از واقعیت درباره اینکه سیستم واقعاً چه نقشی ایفا کرده است، تغییر می‌کند، که در آنجا هزینه فرآیند به هزینه دعاوی تبدیل می‌شود.
