纽森签署加州SB 947 禁止仅靠AI裁员和惩罚
《无机器人老板法案》要求在主要使用人工智能时进行人类确认和员工披露。
加利福尼亚州州长加文·纽瑟姆于9月30日签署了SB 947法案，限制雇主仅以自动决策系统作为解雇或惩罚员工的唯一或主要依据。该法律增加了人类确认的要求和面向员工的披露，但留下了一个未定义的“主要依赖”触发条件，商业团体表示这会造成合规不确定性。
关键要点
- 加利福尼亚州通过了SB 947，即“无机器人老板法案”，禁止雇主仅依赖自动决策系统来解雇或惩罚员工，并限制AI在这些决策中作为“主要工具”的使用。
- 当解雇或惩罚决策主要由AI输出驱动时，法律要求人类审查员使用其他信息（包括管理评估、同行评审和人事档案）来确认结果。
- 受到AI主导决策影响的员工必须收到书面通知，说明主要使用了AI，描述系统使用的员工数据，以及可以解释该决策的人类联系人。
- 商业反对意见集中在该法案未定义的合规触发条件上，认为“主要依赖”缺乏客观标准，可能扩大关于工具是顾问性还是决定性争议的范围。
加利福尼亚州SB 947对AI驱动的解雇设置了人类门槛
加利福尼亚州州长加文·纽瑟姆于9月30日签署了SB 947，即“无机器人老板法案”，为雇主如何使用自动决策系统（ADS）创建了一套新的约束条件，这意味着使用算法或AI来帮助做出或自动化决策的软件，在纪律和解雇方面。
从机制上讲，该法律同时做了两件事。它禁止雇主仅依赖AI或ADS来解雇或惩罚员工，并限制AI在这些决策中作为“主要工具”的使用。
操作性的合规挂钩是“主要”。如果雇主“主要”依赖AI输出来做出解雇或纪律决策，SB 947要求人类审查员使用额外信息（包括管理评估、同行评审和人事档案）来确认该决策。这是一项针对不利就业行为的人类参与要求。
SB 947 还强制在影响发生时进行披露。受影响的员工必须收到书面通知，说明在解雇或纪律决定中“主要使用”了人工智能，以及系统使用的员工数据的描述，并提供可以进一步解释该决定的人类联系人。
支持者将这项法律框架视为对机器单独管理的坚决制止。该法案的作者，加州州参议员杰瑞·麦克纳尼表示：“没有任何工人应该被机器解雇或处罚，无论是否是人工智能。人工智能系统有可能提高生产力，但它们也犯过错误和误判，并表现出偏见。”他补充道：“人工智能必须始终是由人类控制的工具，而不是相反。”
合规触发交易者将关注的点：“主要依赖”
该法案的实际影响并不是对仅依赖人工智能决策的头条禁令，而是关于雇主何时“主要依赖”自动决策系统的解释性边界，因为这就是触发人类证实工作流程和书面披露的原因。
商业团体辩称，该边界在法规的触发语言中没有定义，这使得合规变成了事实和情况的斗争。进步商会加州及美国西部政策与公共事务高级主任罗伯特·辛格尔顿在一封呼吁否决的信中写道：“该法案的义务通常适用于雇主‘主要依赖’自动决策系统，但这个关键术语从未被定义。雇主没有客观标准来判断技术何时从仅仅通知决策转变为其主要依据。”他补充道：“关于普通工具是否符合受监管的自动决策系统的标准的不确定性，可能会使雇主不愿使用能够提高一致性、识别安全风险或帮助管理者做出更明智决策的技术。”
对于交易者来说，这种模糊性就是短期风险所在。纸面上明确但在触发点模糊的规则往往表现为流程成本、审计工作和诉讼姿态，而不是立即关闭工具。审计工作，以及诉讼姿态，而不是立即关闭工具。雇主和销售算法管理系统的供应商，即用于指导、监控、评估或管理工人的软件，可能需要建立更清晰的内部归因轨迹，以便在事后回答两个问题：系统使用了什么数据，以及人工智能输出是仅仅建议性还是功能性决定性的。
披露要求使得第二个问题更难以回避。如果公司必须提供书面通知，说明人工智能“主要使用”并描述系统使用的员工数据，则需要有一个可辩护的记录，说明系统做了什么，以及人类审查者如何用非人工智能输入证实该决定。
该法案在纽瑟姆否决后如何改变——以及为什么这次通过
SB 947 的路径很重要，因为它解释了为什么加利福尼亚选择了一个较窄的操作规则，而不是一个广泛的通知制度。纽瑟姆在去年十月否决了一个早期版本，即使该版本在两个州立法机构中获得了“压倒性的多数支持”。
在他的否决信中，纽瑟姆写道：“我认同作者的担忧，即在某些情况下，雇主对 ADS [自动决策软件] 的不受监管使用可能对工人造成伤害，”但他补充道，该法案“并没有解决雇主滥用这项技术的具体方式，而是对任何使用即使是最无害工具的企业施加了不聚焦的通知要求。”
麦克纳尼在二月份重新提出了该法案，并进行了旨在满足该反对意见的修改。修订版删除了一个预通知要求，该要求将迫使企业在使用可能影响工作条件的 AI 系统时提前通知工人。它还删除了将保护扩展到零工工人的条款，这一条款曾受到包括优步和莱夫特在内的共享乘车公司的强烈批评。
修订后的法案仍然遭到企业的反对，但其较窄的形态似乎消除了州长对始终在线通知的担忧。劳工团体推动签署该法案作为工作场所权力的转变。加利福尼亚劳工联合会主席洛雷娜·冈萨雷斯表示：“当工人组织起来时，我们就能取得成果。加利福尼亚的工人们要求我们的州在规范工作场所的 AI 方面走在前列。今天，我们看到这一点开始发生。”并补充道：“今天，加利福尼亚的工人和我们的工会改变了全国关于美国人如何反击并赢得 AI 接管我们工作和工作场所的叙述。”
该法案还从另一方获得了显著的政治信号。加利福尼亚州共和党州长候选人史蒂夫·希尔顿公开支持 SB 947，并认为它“还不够”，写道：“加利福尼亚商会……表示，要求人类审查和基本问责的规则对雇主来说负担太重。这真是荒谬的说法。”并补充道：“雇主不应被允许使用 AI 决定某人是否被解雇、降职、失去正常工时或被排除在他们依赖的收入项目之外。”
加利福尼亚为其他州设定模板时需要监测的信号
立即未知的是操作性：提供的摘录没有指定 SB 947 的生效日期、执行机制或处罚结构。这些细节将决定合规是短期内的混乱还是较慢的政策推广。
第二个信号是解释性。任何加利福尼亚机构的指导、规则制定或澄清语言，如果缩小“主要依赖”在实践中的含义，将减少雇主和供应商的不确定性，并且还将影响原告律师如何框定关于某个工具是否越过了从推荐到决策的界限的争议。
第三个是立法溢出。在纽约、路易斯安那州和新泽西州也提出了类似的提案，而加利福尼亚的签署为其他州提供了一个围绕人类证实和后决策披露而非广泛预通知的工作模板。
第四个是企业行为。使用算法管理工具的大型雇主将必须更新解雇和纪律工作流程，以记录人类证实，并生成描述系统使用的数据的员工通知，这种变化往往首先在内部政策更新和供应商采购要求中显现。
我的阅读：这是一种对工作场所AI的治理税，而不是对其的禁令
重要的门槛不是公司是否在HR中使用AI，而是他们的流程是否可以被可信地描述为“主要”由自动化输出驱动，因为这就是迫使人类进行证实、文档记录和员工面对面披露的原因。
如果加利福尼亚州或执法机构将“主要依赖”澄清为某种可审计的内容，那么这个设置开始看起来像是一个可持续的合规层，供应商可以围绕其进行产品化。如果这个术语保持未定义，风险就会转向对分类的争议以及关于系统实际扮演何种角色的事后叙述，这就是流程成本转变为诉讼成本的地方。
