Newsom ký SB 947 cấm sa thải chỉ dựa trên AI

Thống đốc California Gavin Newsom đã ký SB 947 vào ngày 30 tháng 9, hạn chế các nhà tuyển dụng sử dụng hệ thống quyết định tự động làm cơ sở duy nhất hoặc chính cho việc sa thải hoặc kỷ luật công nhân. Luật này bổ sung yêu cầu xác nhận từ con người và thông báo cho nhân viên, nhưng để lại một yếu tố “chủ yếu dựa vào” không xác định mà các nhóm doanh nghiệp cho rằng tạo ra sự không chắc chắn về tuân thủ.

Điểm chính

California đã thông qua SB 947, Đạo luật “Không có ông chủ tự động”, cấm các nhà tuyển dụng dựa hoàn toàn vào hệ thống quyết định tự động để sa thải hoặc kỷ luật công nhân và hạn chế việc sử dụng AI như một “công cụ chính” trong các quyết định đó.
Khi các quyết định sa thải hoặc kỷ luật chủ yếu được thúc đẩy bởi đầu ra của AI, luật yêu cầu một người xem xét từ con người xác nhận kết quả bằng cách sử dụng thông tin khác, bao gồm đánh giá của quản lý, đánh giá của đồng nghiệp và hồ sơ nhân sự.
Công nhân bị ảnh hưởng bởi quyết định chủ yếu từ AI phải nhận thông báo bằng văn bản rằng AI đã được sử dụng chủ yếu, mô tả dữ liệu nhân viên được hệ thống sử dụng và một điểm liên hệ từ con người có thể giải thích quyết định.
Sự phản đối từ doanh nghiệp tập trung vào yếu tố tuân thủ không xác định của dự luật, lập luận rằng “chủ yếu dựa vào” thiếu một tiêu chuẩn khách quan và có thể mở rộng tranh chấp về việc liệu một công cụ có mang tính tư vấn hay quyết định.

SB 947 của California Đặt Cổng Nhân Loại lên Các Quyết Định Sa Thải Dựa Trên AI

Thống đốc California Gavin Newsom đã ký SB 947, Đạo luật “Không có ông chủ tự động”, vào ngày 30 tháng 9, tạo ra một bộ ràng buộc mới về cách các nhà tuyển dụng có thể sử dụng hệ thống ra quyết định tự động (ADS), có nghĩa là phần mềm sử dụng thuật toán hoặc AI để giúp đưa ra hoặc tự động hóa các quyết định, trong kỷ luật và sa thải.

Về mặt cơ học, luật này thực hiện hai điều cùng một lúc. Nó cấm các nhà tuyển dụng dựa hoàn toàn vào AI hoặc ADS để sa thải hoặc kỷ luật công nhân, và hạn chế việc sử dụng AI như một “công cụ chính” trong các quyết định đó.

Yếu tố tuân thủ chính là “chủ yếu”. Nếu một nhà tuyển dụng dựa “chủ yếu” vào đầu ra của AI để đưa ra quyết định sa thải hoặc kỷ luật, SB 947 yêu cầu một người xem xét từ con người xác nhận quyết định bằng cách sử dụng thông tin bổ sung, bao gồm đánh giá của quản lý, đánh giá của đồng nghiệp và hồ sơ nhân sự. Đó là một yêu cầu có sự tham gia của con người nhằm mục đích cụ thể vào các hành động lao động bất lợi.

SB 947 cũng buộc phải công bố tại thời điểm tác động. Các nhân viên bị ảnh hưởng phải nhận thông báo bằng văn bản rằng AI đã được "sử dụng chủ yếu" trong quyết định chấm dứt hoặc kỷ luật, mô tả dữ liệu nhân viên được hệ thống sử dụng và một điểm liên lạc con người có thể giải thích thêm về quyết định.

Những người ủng hộ đã định hình luật này như một điểm dừng cứng cho việc quản lý chỉ bằng máy móc. Thượng nghị sĩ bang Jerry McNerney, tác giả của dự luật, cho biết: "Không công nhân nào nên bị sa thải hoặc kỷ luật bởi một cỗ máy, dù là AI hay không.

Các hệ thống trí tuệ nhân tạo có tiềm năng tăng năng suất, nhưng chúng cũng đã mắc lỗi và đánh giá sai và thể hiện sự thiên lệch," và thêm vào: "AI phải vẫn là một công cụ được kiểm soát bởi con người, không phải ngược lại."

Kích hoạt tuân thủ mà các nhà giao dịch sẽ tập trung vào: "Sử dụng chủ yếu"

Cái mà thực sự có tác động của dự luật không phải là lệnh cấm tiêu đề đối với các quyết định chỉ dựa trên AI. Đó là ranh giới giải thích xung quanh khi nào một nhà tuyển dụng "sử dụng chủ yếu" một hệ thống quyết định tự động, vì đó là điều kích hoạt quy trình xác nhận của con người và các công bố bằng văn bản.

Các nhóm doanh nghiệp lập luận rằng ranh giới đó không được định nghĩa trong ngôn ngữ kích hoạt của điều luật, điều này biến việc tuân thủ thành một cuộc chiến về sự thật và hoàn cảnh.

Robert Singleton, giám đốc cấp cao về chính sách và quan hệ công chúng của Phòng Thương mại Tiến bộ cho California và miền Tây Hoa Kỳ, đã viết trong một bức thư kêu gọi phủ quyết: "Các nghĩa vụ của dự luật thường áp dụng khi một nhà tuyển dụng 'sử dụng chủ yếu' một hệ thống quyết định tự động, nhưng thuật ngữ quan trọng đó không bao giờ được định nghĩa.

Các nhà tuyển dụng không được cung cấp tiêu chuẩn khách quan nào để xác định khi nào một công nghệ đã chuyển từ việc chỉ thông báo một quyết định sang trở thành cơ sở chính cho nó," và thêm vào: "Sự không chắc chắn về việc liệu các công cụ thông thường có đủ điều kiện là các hệ thống quyết định tự động được quản lý hay không có thể khiến các nhà tuyển dụng ngần ngại sử dụng các công nghệ cải thiện tính nhất quán, xác định rủi ro an toàn, hoặc giúp các nhà quản lý đưa ra quyết định được thông tin tốt hơn,"

Đối với các nhà giao dịch, sự mơ hồ đó là nơi mà rủi ro ngắn hạn nằm. Một quy tắc rõ ràng trên giấy nhưng mơ hồ tại điểm kích hoạt thường xuất hiện dưới dạng chi phí quy trình,kiểm toáncông việc và tư thế kiện tụng, không phải là một sự ngừng hoạt động ngay lập tức của các công cụ.

Các nhà tuyển dụng và nhà cung cấp bán các hệ thống quản lý thuật toán, có nghĩa là phần mềm được sử dụng để chỉ dẫn, giám sát, đánh giá hoặc quản lý công nhân, có thể cần xây dựng các dấu vết quy attribution nội bộ rõ ràng hơn có thể trả lời hai câu hỏi sau khi sự việc xảy ra: dữ liệu nào mà hệ thống đã sử dụng, và liệu đầu ra của AI chỉ mang tính chất tư vấn hay có tính quyết định chức năng.

Yêu cầu công bố làm cho câu hỏi thứ hai trở nên khó tránh hơn. Nếu một công ty phải cung cấp thông báo bằng văn bản rằng AI đã được "sử dụng chủ yếu" và mô tả dữ liệu nhân viên được hệ thống sử dụng, họ cần có một hồ sơ có thể bảo vệ về những gì hệ thống đã làm và cách mà người xem xét con người đã xác nhận quyết định với các đầu vào không phải AI.

Dự luật đã thay đổi như thế nào sau khi Newsom phủ quyết - và tại sao nó đã được thông qua lần này

Con đường của SB 947 quan trọng vì nó giải thích lý do California chọn một quy tắc hoạt động hẹp hơn thay vì một chế độ thông báo rộng rãi. Newsom đã phủ quyết một phiên bản trước đó vào tháng Mười năm ngoái, ngay cả khi nó đã được thông qua bởi cả hai viện lập pháp của bang với "sự ủng hộ áp đảo".

Trong thông điệp phủ quyết của mình, Newsom viết: “Tôi chia sẻ mối quan tâm của tác giả rằng trong một số trường hợp việc sử dụng ADS [phần mềm ra quyết định tự động] không được quản lý bởi các nhà tuyển dụng có thể gây hại cho người lao động,” nhưng cũng thêm rằng dự luật, “thay vì giải quyết các cách cụ thể mà các nhà tuyển dụng lạm dụng công nghệ này, dự luật áp đặt các yêu cầu thông báo không tập trung lên bất kỳ doanh nghiệp nào sử dụng ngay cả những công cụ vô hại nhất.”

McNerney đã giới thiệu lại dự luật vào tháng Hai với những thay đổi nhằm đáp ứng phản đối đó. Phiên bản sửa đổi đã loại bỏ yêu cầu thông báo trước sẽ buộc các doanh nghiệp phải thông báo cho người lao động trước bất cứ khi nào một hệ thống AI được sử dụng có thể ảnh hưởng đến điều kiện làm việc.

Nó cũng đã loại bỏ ngôn ngữ sẽ mở rộng bảo vệ cho người lao động tự do, một điều khoản đã nhận được nhiều chỉ trích từ các công ty chia sẻ xe như Uber và Lyft.

Dự luật sửa đổi vẫn gặp phải sự phản đối từ doanh nghiệp, nhưng hình thức hẹp hơn dường như đã giải quyết mối quan tâm đã được nêu của thống đốc về việc thông báo luôn luôn. Các nhóm lao động đã thúc đẩy việc ký kết như một sự chuyển giao quyền lực tại nơi làm việc. Lorena Gonzalez, chủ tịch Liên đoàn Lao động California, AFL-CIO, nói: “Khi người lao động tổ chức, chúng tôi đạt được kết quả.

Người lao động trên khắp California đã yêu cầu bang của chúng tôi dẫn đầu trong việc quản lý AI tại nơi làm việc của chúng tôi. Và hôm nay, chúng tôi thấy điều đó bắt đầu xảy ra,” và thêm: “Hôm nay, người lao động California và các công đoàn của chúng tôi đã thay đổi câu chuyện quốc gia về cách người Mỹ có thể chống lại và giành chiến thắng trước AI chiếm lấy công việc và nơi làm việc của chúng tôi.”

Dự luật cũng nhận được một tín hiệu chính trị đáng chú ý từ phía bên kia. Steve Hilton, ứng cử viên đảng Cộng hòa của California cho vị trí thống đốc, đã công khai ủng hộ SB 947 và lập luận rằng nó “không đi đủ xa,” viết: “Phòng Thương mại California… nói rằng các quy tắc yêu cầu xem xét của con người và trách nhiệm cơ bản là quá nặng nề cho các nhà tuyển dụng.

Thật là điều ngớ ngẩn khi họ nói như vậy,” và thêm: “Các nhà tuyển dụng không nên được phép sử dụng AI để quyết định xem ai đó bị sa thải, bị giáng chức, mất giờ làm việc thường xuyên, hoặc bị loại khỏi chương trình mà họ dựa vào để có thu nhập.”

Các tín hiệu cần theo dõi khi California đặt ra một mẫu cho các bang khác

Điều chưa biết ngay lập tức là về mặt hoạt động: đoạn trích được cung cấp không chỉ rõ ngày có hiệu lực của SB 947, cơ chế thực thi, hoặc cấu trúc hình phạt. Những chi tiết đó sẽ xác định xem việc tuân thủ có phải là một cuộc chạy đua ngắn hạn hay một chính sách triển khai chậm hơn.

Tín hiệu thứ hai là mang tính diễn giải. Bất kỳ hướng dẫn, quy định, hoặc ngôn ngữ làm rõ nào của cơ quan California mà thu hẹp ý nghĩa của “chủ yếu dựa vào” trong thực tế sẽ giảm bớt sự không chắc chắn cho các nhà tuyển dụng và nhà cung cấp, và nó cũng sẽ định hình cách mà các luật sư của nguyên đơn định hình các tranh chấp về việc liệu một công cụ đã vượt qua ranh giới từ khuyến nghị sang quyết định hay chưa.

Tín hiệu thứ ba là sự lan tỏa lập pháp. Các đề xuất tương tự đã được đưa ra ở New York, Louisiana và New Jersey, và việc California ký kết cung cấp cho các bang khác một mẫu hoạt động được xây dựng xung quanh sự xác nhận của con người cộng với việc tiết lộ sau quyết định thay vì thông báo trước rộng rãi.

Tín hiệu thứ tư là hành vi của các doanh nghiệp. Các nhà tuyển dụng lớn sử dụng các công cụ quản lý thuật toán sẽ phải cập nhật quy trình chấm dứt và kỷ luật để ghi lại sự xác nhận của con người và tạo ra thông báo cho nhân viên mô tả dữ liệu được sử dụng bởi hệ thống, điều này là loại thay đổi thường xuất hiện đầu tiên trong các cập nhật chính sách nội bộ và yêu cầu mua sắm của nhà cung cấp.

Đọc của tôi: Đây là một loại thuế quản trị đối với AI tại nơi làm việc, chứ không phải là một lệnh cấm.

Ngưỡng quan trọng không phải là việc các công ty có sử dụng AI trong HR hay không. Mà là liệu quy trình của họ có thể được mô tả một cách đáng tin cậy là “chủ yếu” được điều khiển bởi một đầu ra tự động hay không, vì đó là điều buộc phải có sự xác nhận của con người, tài liệu và công khai đối với nhân viên.

Nếu California hoặc một cơ quan thực thi làm rõ “chủ yếu dựa vào” thành một điều gì đó có thể kiểm toán, thì cấu trúc bắt đầu trông giống như một lớp tuân thủ bền vững mà các nhà cung cấp có thể phát triển sản phẩm xung quanh.

Nếu thuật ngữ này vẫn không được định nghĩa, rủi ro sẽ chuyển sang các tranh chấp về phân loại và các câu chuyện sau khi sự việc xảy ra về vai trò thực sự của hệ thống, đây là nơi mà chi phí quy trình chuyển thành chi phí kiện tụng.

Newsom ký SB 947 ngăn chặn sa thải chỉ dựa AI tại California