Newsom aprova lei para proibir demissões só por IA na…
A "Lei dos Chefes Robôs Não" exige a corrobor ação humana e divulgações dos funcionários quando a IA é utilizada principalmente.
O governador da Califórnia, Gavin Newsom, assinou a SB 947 em 30 de setembro, restringindo os empregadores de usarem sistemas de decisão automatizados como a única ou principal base para demitir ou disciplinar trabalhadores. A lei adiciona um requisito de corroboracão humana e divulgações voltadas para os funcionários, mas deixa um gatilho indefinido de "principalmente depende" que grupos empresariais dizem criar incerteza de conformidade.
Principais Conclusões
- A Califórnia promulgou a SB 947, a "Lei dos Sem Chefes Robôs", proibindo os empregadores de dependerem exclusivamente de sistemas de decisão automatizados para demitir ou disciplinar trabalhadores e limitando o uso de IA como uma "ferramenta principal" nessas decisões.
- Quando as decisões de demissão ou disciplina são principalmente impulsionadas pela saída da IA, a lei exige que um revisor humano corrobore o resultado usando outras informações, incluindo avaliações gerenciais, revisões de colegas e arquivos de pessoal.
- Os trabalhadores afetados por uma decisão primariamente baseada em IA devem receber um aviso por escrito de que a IA foi utilizada principalmente, uma descrição dos dados do funcionário usados pelo sistema e um ponto de contato humano que possa explicar a decisão.
- A oposição empresarial se concentrou no gatilho de conformidade indefinido do projeto de lei, argumentando que "principalmente depende" carece de um padrão objetivo e poderia ampliar disputas sobre se uma ferramenta era consultiva ou determinante.
A SB 947 da Califórnia Coloca um Portão Humano nas Demissões Impulsionadas por IA
O governador da Califórnia, Gavin Newsom, assinou a SB 947, a "Lei dos Sem Chefes Robôs", em 30 de setembro, criando um novo conjunto de restrições sobre como os empregadores podem usar sistemas de tomada de decisão automatizada (ADS), ou seja, software que usa algoritmos ou IA para ajudar a tomar ou automatizar decisões, em disciplina e demissão.
Mecanicamente, a lei faz duas coisas ao mesmo tempo. Ela proíbe os empregadores de dependerem exclusivamente de IA ou ADS para demitir ou disciplinar trabalhadores, e restringe o uso de IA como uma "ferramenta principal" nessas decisões.
O gancho de conformidade operacional é "principalmente". Se um empregador depende "principalmente" da saída da IA para tomar uma decisão de demissão ou disciplina, a SB 947 exige que um revisor humano corrobore a decisão usando informações adicionais, incluindo avaliações gerenciais, revisões de colegas e arquivos de pessoal. Isso é um mandato de humano no loop voltado especificamente para ações adversas de emprego.
O SB 947 também obriga a divulgação no momento do impacto. Os funcionários afetados devem receber um aviso por escrito de que a IA foi "principalmente utilizada" na decisão de demissão ou disciplina, uma descrição dos dados dos funcionários utilizados pelo sistema e um ponto de contato humano que possa explicar melhor a decisão.
Os apoiadores enquadraram a lei como uma interrupção drástica na gestão apenas por máquinas. O senador estadual Jerry McNerney, autor do projeto de lei, disse: “Nenhum trabalhador deve ser demitido ou disciplinado por uma máquina, com ou sem inteligência artificial.
Sistemas de inteligência artificial têm o potencial de aumentar a produtividade, mas também cometeram erros e julgamentos equivocados e exibiram preconceitos”, acrescentando: “A IA deve permanecer como uma ferramenta controlada por humanos, e não o contrário.”
O Gatilho de Conformidade em que os Traders se Fixarão: “Depende Principalmente”
O impacto prático do projeto de lei não é a proibição principal de decisões apenas por IA. É o limite interpretativo em torno de quando um empregador "se baseia principalmente" em um sistema de decisão automatizado, pois é isso que aciona o fluxo de trabalho de corrobor ação humana e as divulgações escritas.
Grupos empresariais argumentam que o limite não está definido na linguagem acionadora do estatuto, o que transforma a conformidade em uma disputa de fatos e circunstâncias.
Robert Singleton, diretor sênior de políticas e assuntos públicos da Chamber of Progress para a Califórnia e o Oeste dos EUA, escreveu em uma carta pedindo um veto: “As obrigações do projeto geralmente se aplicam quando um empregador ‘depende principalmente’ de um sistema de decisão automatizado, mas esse termo crítico nunca é definido.
Os empregadores não têm um padrão objetivo para determinar quando uma tecnologia passou de meramente informar uma decisão para ser a base principal dela,” acrescentando: “A incerteza sobre se ferramentas comuns se qualificam como sistemas de decisão automatizados regulados pode desencorajar os empregadores de usar tecnologias que melhoram a consistência, identificam riscos de segurança ou ajudam os gerentes a tomar decisões mais bem informadas.”
Para os traders, essa ambiguidade é onde o risco de curto prazo se encontra. Uma regra que é clara no papel, mas vaga no momento da execução tende a se manifestar como custo de processo,auditoriatrabalho e postura de litígios, não como um desligamento imediato de ferramentas.
Empregadores e fornecedores que vendem sistemas de gestão algorítmica, ou seja, software usado para instruir, monitorar, avaliar ou gerenciar trabalhadores, podem precisar construir trilhas de atribuição interna mais claras que possam responder a duas perguntas após o fato: quais dados o sistema utilizou e se a saída da IA foi meramente consultiva ou funcionalmente determinante.
A exigência de divulgação torna a segunda pergunta mais difícil de evitar. Se uma empresa precisa fornecer um aviso por escrito de que a IA foi "principalmente utilizada" e descrever os dados dos funcionários usados pelo sistema, ela precisa de um registro defensável do que o sistema fez e de como o revisor humano corroborou a decisão com entradas não baseadas em IA.
Como o Projeto Mudou Após o Veto de Newsom—e Por Que Ele Foi Aprovado Desta Vez
O caminho do SB 947 é importante porque explica por que a Califórnia adotou uma regra operacional mais restrita em vez de um regime amplo de notificação. Newsom vetou uma versão anterior em outubro passado, mesmo após ela ter sido aprovada em ambas as câmaras legislativas estaduais com "apoio esmagador".
Em sua mensagem de veto, Newsom escreveu: "Compartilho da preocupação do autor de que, em certos casos, o uso não regulamentado de ADS [software de tomada de decisão automatizada] por empregadores pode ser prejudicial aos trabalhadores", mas acrescentou que o projeto, "em vez de abordar as maneiras específicas como os empregadores abusam dessa tecnologia, impõe requisitos de notificação pouco focados a qualquer empresa que use até mesmo as ferramentas mais inócuas."
McNerney reintroduziu o projeto em fevereiro com mudanças destinadas a atender essa objeção. A versão revisada removeu um requisito de pré-notificação que teria obrigado as empresas a alertar os trabalhadores com antecedência sempre que um sistema de IA estivesse em uso e pudesse afetar as condições de trabalho.
Também eliminou a linguagem que teria estendido proteções aos trabalhadores de gig, uma disposição que havia recebido fortes críticas de empresas de transporte como Uber e Lyft.
O projeto revisado ainda enfrentou oposição empresarial, mas a forma mais restrita parece ter resolvido a preocupação expressa pelo governador sobre a notificação sempre ativa. Grupos trabalhistas pressionaram pela assinatura como uma mudança de poder no local de trabalho. Lorena Gonzalez, presidente da Federação de Sindicatos da Califórnia, AFL-CIO, disse: "Quando os trabalhadores se organizam, obtemos resultados.
Trabalhadores de toda a Califórnia exigiram que nosso estado liderasse o caminho na regulamentação da IA em nossos locais de trabalho. E hoje, vemos isso começar a acontecer", acrescentando: "Hoje, os trabalhadores da Califórnia e nossos sindicatos mudaram a narrativa nacional sobre como os americanos podem lutar e vencer contra a IA que está assumindo nossos empregos e locais de trabalho."
O projeto também recebeu um sinal político notável do outro lado do espectro. Steve Hilton, o candidato republicano da Califórnia para governador, apoiou publicamente o SB 947 e argumentou que "não vai longe o suficiente", escrevendo: "A Câmara de Comércio da Califórnia... diz que regras que exigem revisão humana e responsabilidade básica são muito onerosas para os empregadores.
Que coisa ridícula para eles dizerem", e acrescentando: "Os empregadores não deveriam ter permissão para usar IA para decidir se alguém é demitido, rebaixado, perde horas regulares ou é excluído do programa do qual depende para obter renda."
Sinais a Monitorar enquanto a Califórnia Estabelece um Modelo para Outros Estados
A imediata incógnita é operacional: o excerto fornecido não especifica a data de entrada em vigor do SB 947, o mecanismo de aplicação ou a estrutura de penalidades. Esses detalhes determinarão se a conformidade será uma corrida de curto prazo ou um lançamento de política mais lento.
O segundo sinal é interpretativo. Qualquer orientação, elaboração de regras ou linguagem esclarecedora de uma agência da Califórnia que restrinja o que "principalmente depende" significa na prática reduziria a incerteza para empregadores e fornecedores, e também moldaria como os advogados dos demandantes enquadram disputas sobre se uma ferramenta ultrapassou a linha de recomendação para decisão.
O terceiro é o transbordamento legislativo. Propostas semelhantes foram apresentadas em Nova York, Louisiana e Nova Jersey, e a assinatura da Califórnia oferece a outros estados um modelo funcional baseado na corroboracão humana mais a divulgação pós-decisão em vez de uma ampla pré-notificação.
O quarto é o comportamento corporativo. Grandes empregadores que utilizam ferramentas de gestão algorítmica terão que atualizar os fluxos de trabalho de demissão e disciplina para documentar a corroboracão humana e gerar avisos para os funcionários que descrevem os dados utilizados pelo sistema, que é o tipo de mudança que tende a surgir primeiro em atualizações de políticas internas e requisitos de aquisição de fornecedores.
Minha Leitura: Isso é um Imposto de Governança sobre a IA no Local de Trabalho, Não uma Proibição
O limiar que importa não é se as empresas usam IA em RH. É se seu processo pode ser credivelmente descrito como “principalmente” impulsionado por uma saída automatizada, porque isso é o que força a corroboracão humana, documentação e divulgação para os funcionários.
Se a Califórnia ou uma agência de fiscalização esclarecer “principalmente depende” em algo auditável, a configuração começa a parecer uma camada de conformidade durável que os fornecedores podem transformar em produto. Se o termo permanecer indefinido, o risco se desloca para disputas sobre classificação e narrativas posteriores sobre qual papel o sistema realmente desempenhou, que é onde o custo do processo se transforma em custo de litígios.
