Newsom firma SB 947 para frenar despidos solo por IA
La "Ley de No Jefes Robots" exige corroboración humana y divulgaciones por parte de los empleados cuando se utiliza principalmente IA.
El gobernador de California, Gavin Newsom, firmó la SB 947 el 30 de septiembre, restringiendo a los empleadores de utilizar sistemas de decisión automatizados como la única o principal base para despedir o disciplinar a los trabajadores.
La ley añade un requisito de corroboración humana y divulgaciones dirigidas a los empleados, pero deja un desencadenante de "principalmente depende" indefinido que los grupos empresariales dicen que crea incertidumbre en el cumplimiento.
Puntos clave
- California promulgó la SB 947, la "Ley No a los Jefes Robots", que prohíbe a los empleadores depender únicamente de sistemas de decisión automatizados para despedir o disciplinar a los trabajadores y limita el uso de IA como una "herramienta principal" en esas decisiones.
- Cuando las decisiones de despido o disciplina son impulsadas principalmente por la salida de IA, la ley requiere que un revisor humano corrobore el resultado utilizando otra información, incluidas evaluaciones gerenciales, revisiones de pares y archivos de personal.
- Los trabajadores afectados por una decisión primaria de IA deben recibir un aviso por escrito de que se utilizó principalmente IA, una descripción de los datos del empleado utilizados por el sistema y un punto de contacto humano que pueda explicar la decisión.
- La oposición empresarial se centró en el desencadenante de cumplimiento indefinido del proyecto de ley, argumentando que "principalmente depende" carece de un estándar objetivo y podría ampliar las disputas sobre si una herramienta era consultiva o determinante.
La SB 947 de California pone una puerta humana en los despidos impulsados por IA
El gobernador de California, Gavin Newsom, firmó la SB 947, la "Ley No a los Jefes Robots", el 30 de septiembre, creando un nuevo conjunto de restricciones sobre cómo los empleadores pueden utilizar sistemas de toma de decisiones automatizados (ADS), es decir, software que utiliza algoritmos o IA para ayudar a tomar o automatizar decisiones, en disciplina y despido.
Mecánicamente, la ley hace dos cosas a la vez. Prohíbe a los empleadores depender únicamente de IA o ADS para despedir o disciplinar a los trabajadores, y restringe el uso de IA como una "herramienta principal" en esas decisiones.
El gancho operativo de cumplimiento es "principalmente". Si un empleador depende "principalmente" de la salida de IA para tomar una decisión de despido o disciplinaria, la SB 947 requiere que un revisor humano corrobore la decisión utilizando información adicional, incluidas evaluaciones gerenciales, revisiones de pares y archivos de personal. Esa es una obligación de intervención humana dirigida específicamente a acciones laborales adversas.
El SB 947 también obliga a la divulgación en el punto de impacto. Los empleados afectados deben recibir un aviso por escrito de que se utilizó “principalmente” IA en la decisión de despido o disciplina, una descripción de los datos del empleado utilizados por el sistema y un punto de contacto humano que pueda explicar mejor la decisión.
Los partidarios enmarcaron la ley como una detención total en la gestión solo por máquinas. El senador estatal Jerry McNerney, autor del proyecto de ley, dijo: “Ningún trabajador debería ser despedido o disciplinado por una máquina, sea IA o no.
Los sistemas de inteligencia artificial tienen el potencial de aumentar la productividad, pero también han cometido errores y juicios erróneos y han mostrado sesgo”, añadiendo: “La IA debe seguir siendo una herramienta controlada por humanos, no al revés.”
El desencadenante de cumplimiento en el que se fijarán los comerciantes: “Principalmente se basa”
El impacto práctico del proyecto de ley no es la prohibición principal sobre decisiones solo de IA. Es el límite interpretativo sobre cuándo un empleador “se basa principalmente” en un sistema de decisión automatizado, porque eso es lo que activa el flujo de trabajo de corroboración humana y las divulgaciones por escrito.
Los grupos empresariales argumentan que ese límite no está definido en el lenguaje del desencadenante del estatuto, lo que convierte el cumplimiento en una lucha de hechos y circunstancias. Robert Singleton, director senior de políticas y asuntos públicos de la Cámara de Progreso para California y el Oeste de EE.
UU., escribió en una carta instando a un veto: “Las obligaciones del proyecto de ley generalmente se aplican cuando un empleador ‘se basa principalmente’ en un sistema de decisión automatizado, pero ese término crítico nunca se define.
A los empleadores no se les proporciona un estándar objetivo para determinar cuándo una tecnología ha pasado de simplemente informar una decisión a ser una base principal para ella,” añadiendo: “La incertidumbre sobre si las herramientas ordinarias califican como sistemas de decisión automatizados regulados podría desanimar a los empleadores de utilizar tecnologías que mejoran la consistencia, identifican riesgos de seguridad o ayudan a los gerentes a tomar decisiones mejor informadas.”
Para los comerciantes, esa ambigüedad es donde se encuentra el riesgo a corto plazo. Una regla que es clara sobre el papel pero difusa en el desencadenante tiende a manifestarse como costo de proceso,auditoríatrabajo y postura de litigio, no como un cierre inmediato de herramientas.
Los empleadores y proveedores que venden sistemas de gestión algorítmica, es decir, software utilizado para instruir, monitorear, evaluar o gestionar trabajadores, pueden necesitar construir caminos de atribución interna más claros que puedan responder a dos preguntas después del hecho: qué datos utilizó el sistema y si la salida de la IA fue meramente consultiva o funcionalmente determinante.
El requisito de divulgación hace que esa segunda pregunta sea más difícil de eludir. Si una empresa tiene que proporcionar un aviso por escrito de que se utilizó “principalmente” IA y describir los datos del empleado utilizados por el sistema, necesita un registro defendible de lo que hizo el sistema y cómo el revisor humano corroboró la decisión con entradas no de IA.
Cómo cambió el proyecto de ley después del veto de Newsom—y por qué se aprobó esta vez
El camino de SB 947 es importante porque explica por qué California optó por una regla operativa más estrecha en lugar de un régimen de notificación amplio. Newsom vetó una versión anterior el octubre pasado, incluso después de que superara ambas cámaras legislativas estatales con "un apoyo abrumador".
En su mensaje de veto, Newsom escribió: "Comparto la preocupación del autor de que en ciertos casos el uso no regulado de ADS [software de toma de decisiones automatizado] por parte de los empleadores puede ser perjudicial para los trabajadores", pero agregó que el proyecto de ley, "en lugar de abordar las formas específicas en que los empleadores malutilizan esta tecnología, impone requisitos de notificación poco enfocados a cualquier negocio que utilice incluso las herramientas más inocuas."
McNerney reintrodujo el proyecto de ley en febrero con cambios diseñados para abordar esa objeción. La versión revisada eliminó un requisito de pre-notificación que habría obligado a las empresas a alertar a los trabajadores con anticipación cada vez que se utilizara un sistema de IA que pudiera afectar las condiciones laborales.
También eliminó un lenguaje que habría extendido las protecciones a los trabajadores de gig, una disposición que había recibido fuertes críticas de empresas de transporte compartido como Uber y Lyft.
El proyecto de ley revisado aún enfrentó oposición empresarial, pero su forma más estrecha parece haber despejado la preocupación expresada por el gobernador sobre la notificación constante. Los grupos laborales impulsaron la firma como un cambio de poder en el lugar de trabajo. Lorena Gonzalez, presidenta de la Federación de Sindicatos de Trabajo de California, AFL-CIO, dijo: "Cuando los trabajadores se organizan, obtenemos resultados.
Los trabajadores de California han exigido que nuestro estado lidere el camino en la regulación de la IA en nuestros lugares de trabajo. Y hoy, vemos que eso comienza a suceder", añadiendo: "Hoy, los trabajadores de California y nuestros sindicatos han cambiado la narrativa nacional sobre cómo los estadounidenses pueden luchar y ganar contra la IA que toma el control de nuestros trabajos y lugares de trabajo."
El proyecto de ley también recibió una señal política notable del otro lado del pasillo. Steve Hilton, el candidato republicano de California para gobernador, apoyó públicamente SB 947 y argumentó que "no va lo suficientemente lejos", escribiendo: "La Cámara de Comercio de California... dice que las reglas que requieren revisión humana y responsabilidad básica son demasiado gravosas para los empleadores.
Qué cosa tan ridícula para que digan", y añadiendo: "Los empleadores no deberían poder usar IA para decidir si alguien es despedido, degradado, pierde horas regulares o es excluido del programa del que dependen para obtener ingresos."
Señales a Monitorear mientras California Establece un Modelo para Otros Estados
Lo inmediato desconocido es operativo: el extracto proporcionado no especifica la fecha de entrada en vigor de SB 947, el mecanismo de aplicación o la estructura de penalización. Esos detalles determinarán si el cumplimiento es una carrera a corto plazo o un despliegue de políticas más lento.
La segunda señal es interpretativa. Cualquier orientación, elaboración de reglas o lenguaje aclaratorio de alguna agencia de California que limite lo que significa "depender principalmente" en la práctica reduciría la incertidumbre para empleadores y proveedores, y también daría forma a cómo los abogados de los demandantes enmarcan disputas sobre si una herramienta cruzó la línea de recomendación a decisión.
La tercera es el desbordamiento legislativo. Se han propuesto propuestas similares en Nueva York, Luisiana y Nueva Jersey, y la firma de California brinda a otros estados un modelo funcional basado en la corroboración humana más la divulgación posterior a la decisión en lugar de una pre-notificación amplia.
La cuarta es el comportamiento corporativo. Los grandes empleadores que utilizan herramientas de gestión algorítmica tendrán que actualizar los flujos de trabajo de terminación y disciplina para documentar la corroboración humana y generar avisos para empleados que describan los datos utilizados por el sistema, que es el tipo de cambio que tiende a aparecer primero en las actualizaciones de políticas internas y en los requisitos de adquisición de proveedores.
Mi lectura: Este es un impuesto de gobernanza sobre la IA en el lugar de trabajo, no una prohibición sobre ella
El umbral que importa no es si las empresas utilizan IA en recursos humanos. Es si su proceso puede describirse de manera creíble como “principalmente” impulsado por un resultado automatizado, porque eso es lo que obliga a la corroboración humana, la documentación y la divulgación hacia los empleados.
Si California o una agencia de aplicación aclaran “principalmente depende” en algo auditable, la configuración comienza a parecerse a una capa de cumplimiento duradera que los proveedores pueden productizar. Si el término permanece indefinido, el riesgo se desplaza hacia disputas sobre clasificación y narrativas posteriores sobre qué papel jugó realmente el sistema, que es donde el costo del proceso se convierte en costo de litigio.
