Newsom signe la loi SB 947 pour bloquer les licenciements AI

Le gouverneur de Californie, Gavin Newsom, a signé le SB 947 le 30 septembre, interdisant aux employeurs d'utiliser des systèmes de décision automatisés comme seule ou principale base pour licencier ou discipliner les travailleurs.

La loi ajoute une exigence de corroboration humaine et des divulgations à l'intention des employés, mais laisse un déclencheur « s'appuie principalement » non défini que les groupes d'affaires disent créer une incertitude de conformité.

Principaux enseignements

La Californie a adopté le SB 947, la « Loi sur l'absence de patrons robots », interdisant aux employeurs de s'appuyer uniquement sur des systèmes de décision automatisés pour licencier ou discipliner les travailleurs et limitant l'utilisation de l'IA comme « outil principal » dans ces décisions.
Lorsque les décisions de licenciement ou de discipline sont principalement motivées par la sortie de l'IA, la loi exige qu'un examinateur humain corrobore le résultat en utilisant d'autres informations, y compris des évaluations managériales, des évaluations par les pairs et des dossiers du personnel.
Les travailleurs affectés par une décision principalement fondée sur l'IA doivent recevoir un avis écrit indiquant que l'IA a été principalement utilisée, une description des données des employés utilisées par le système, et un point de contact humain qui peut expliquer la décision.
L'opposition des entreprises s'est concentrée sur le déclencheur de conformité non défini du projet de loi, arguant que « s'appuie principalement » manque d'un standard objectif et pourrait élargir les litiges sur la question de savoir si un outil était consultatif ou déterminant.

Le SB 947 de Californie impose une porte humaine sur les licenciements pilotés par l'IA

Le gouverneur de Californie, Gavin Newsom, a signé le SB 947, la « Loi sur l'absence de patrons robots », le 30 septembre, créant un nouvel ensemble de contraintes sur la façon dont les employeurs peuvent utiliser des systèmes de prise de décision automatisée (ADS), c'est-à-dire des logiciels qui utilisent des algorithmes ou de l'IA pour aider à prendre ou automatiser des décisions, dans la discipline et le licenciement.

Mécaniquement, la loi fait deux choses à la fois. Elle interdit aux employeurs de s'appuyer uniquement sur l'IA ou les ADS pour licencier ou discipliner les travailleurs, et elle restreint l'utilisation de l'IA comme « outil principal » dans ces décisions.

Le crochet de conformité opérationnel est « principalement ». Si un employeur s'appuie « principalement » sur la sortie de l'IA pour prendre une décision de licenciement ou de discipline, le SB 947 exige qu'un examinateur humain corrobore la décision en utilisant des informations supplémentaires, y compris des évaluations managériales, des évaluations par les pairs et des dossiers du personnel. C'est un mandat humain dans la boucle visant spécifiquement les actions d'emploi défavorables.

Le SB 947 impose également une divulgation au moment de l'impact. Les employés concernés doivent recevoir un avis écrit indiquant que l'IA a été "principalement utilisée" dans la décision de licenciement ou de discipline, une description des données des employés utilisées par le système, et un point de contact humain qui peut expliquer davantage la décision.

Les partisans ont présenté la loi comme un arrêt net de la gestion uniquement par des machines. Le sénateur d'État Jerry McNerney, l'auteur du projet de loi, a déclaré : « Aucun travailleur ne devrait jamais être licencié ou discipliné par une machine, qu'elle soit dotée d'IA ou non.

Les systèmes d'intelligence artificielle ont le potentiel d'augmenter la productivité, mais ils ont également commis des erreurs et des jugements erronés et ont montré des biais », ajoutant : « L'IA doit rester un outil contrôlé par des humains, et non l'inverse. »

Le déclencheur de conformité sur lequel les traders vont se concentrer : « repose principalement »

La portée pratique du projet de loi ne réside pas dans l'interdiction principale des décisions uniquement basées sur l'IA. C'est la limite interprétative concernant le moment où un employeur « s'appuie principalement » sur un système de décision automatisé, car c'est cela qui déclenche le processus de corroboration humaine et les divulgations écrites.

Les groupes d'affaires soutiennent que la frontière n'est pas définie dans le langage déclencheur du statut, ce qui transforme la conformité en un combat de faits et de circonstances.

Robert Singleton, directeur senior des politiques et des affaires publiques de la Chambre de Progrès pour la Californie et l'Ouest des États-Unis, a écrit dans une lettre appelant à un veto : « Les obligations du projet de loi s'appliquent généralement lorsqu'un employeur 's'appuie principalement' sur un système de décision automatisé, mais ce terme critique n'est jamais défini.

Les employeurs n'ont aucun critère objectif pour déterminer quand une technologie est passée de simplement informer une décision à être une base principale pour celle-ci », ajoutant : « L'incertitude quant à savoir si des outils ordinaires peuvent être considérés comme des systèmes de décision automatisés réglementés pourrait décourager les employeurs d'utiliser des technologies qui améliorent la cohérence, identifient les risques pour la sécurité ou aident les gestionnaires à prendre des décisions mieux informées. »

Pour les traders, cette ambiguïté est là où se situe le risque à court terme. Une règle qui est claire sur le papier mais floue au moment de l'exécution tend à se traduire par un coût de processus,audittravail et posture de litige, et non comme une fermeture immédiate des outils.

Les employeurs et les fournisseurs qui vendent des systèmes de gestion algorithmique, c'est-à-dire des logiciels utilisés pour instruire, surveiller, évaluer ou gérer les travailleurs, pourraient avoir besoin de créer des pistes d'attribution internes plus claires qui peuvent répondre à deux questions a posteriori : quelles données le système a utilisées et si la sortie de l'IA était simplement consultative ou fonctionnellement déterminante.

L'exigence de divulgation rend cette deuxième question plus difficile à éviter. Si une entreprise doit fournir un avis écrit indiquant que l'IA a été "principalement utilisée" et décrire les données des employés utilisées par le système, elle doit avoir un dossier défendable de ce que le système a fait et comment le réviseur humain a corroboré la décision avec des entrées non-IA.

Comment le projet de loi a changé après le veto de Newsom - et pourquoi il a été adopté cette fois-ci

Le parcours du SB 947 est important car il explique pourquoi la Californie a opté pour une règle opérationnelle plus étroite plutôt qu'un régime de notification large. Newsom a opposé son veto à une version antérieure en octobre dernier, même après qu'elle ait été adoptée par les deux chambres législatives de l'État avec un "soutien écrasant".

Dans son message de veto, Newsom a écrit : "Je partage l'inquiétude de l'auteur selon laquelle, dans certains cas, l'utilisation non réglementée des ADS [logiciels de prise de décision automatisée] par les employeurs peut être nuisible aux travailleurs", mais a ajouté que le projet de loi, "plutôt que de traiter les manières spécifiques dont les employeurs abusent de cette technologie, impose des exigences de notification non ciblées à toute entreprise utilisant même les outils les plus innocents."

McNerney a réintroduit le projet de loi en février avec des modifications conçues pour répondre à cette objection. La version révisée a supprimé une exigence de pré-notification qui aurait contraint les entreprises à alerter les travailleurs à l'avance chaque fois qu'un système d'IA était en usage et pouvait affecter les conditions de travail.

Elle a également supprimé le langage qui aurait étendu les protections aux travailleurs de l'économie de plateforme, une disposition qui avait suscité de vives critiques de la part des entreprises de covoiturage, y compris Uber et Lyft.

Le projet de loi révisé a toujours suscité l'opposition des entreprises, mais sa forme plus étroite semble avoir apaisé les préoccupations exprimées par le gouverneur concernant la notification permanente. Les groupes de travailleurs ont poussé à la signature comme un changement de pouvoir au sein des lieux de travail.

Lorena Gonzalez, présidente de la Fédération des syndicats de Californie, AFL-CIO, a déclaré : "Lorsque les travailleurs s'organisent, nous obtenons des résultats. Les travailleurs de Californie ont exigé que notre État montre la voie en réglementant l'IA dans nos lieux de travail.

Et aujourd'hui, nous voyons cela commencer à se produire", ajoutant : "Aujourd'hui, les travailleurs de Californie et nos syndicats ont changé le récit national sur la façon dont les Américains peuvent se défendre et gagner contre l'IA qui prend le contrôle de nos emplois et de nos lieux de travail."

Le projet de loi a également reçu un signal politique notable de l'autre côté de l'allée. Steve Hilton, le candidat républicain à la gouvernance de Californie, a publiquement soutenu le SB 947 et a soutenu qu'il "n'allait pas assez loin", écrivant : "La Chambre de commerce de Californie... dit que les règles exigeant un examen humain et une responsabilité de base sont trop contraignantes pour les employeurs.

Quelle chose ridicule à dire", et ajoutant : "Les employeurs ne devraient pas être autorisés à utiliser l'IA pour décider si quelqu'un est licencié, rétrogradé, perd ses heures régulières ou est exclu du programme sur lequel il compte pour ses revenus."

Signaux à surveiller alors que la Californie établit un modèle pour d'autres États

L'inconnu immédiat est opérationnel : l'extrait fourni ne précise pas la date d'entrée en vigueur du SB 947, le mécanisme d'application ou la structure des pénalités. Ces détails détermineront si la conformité est une course à court terme ou un déploiement de politique plus lent.

Le deuxième signal est interprétatif. Toute orientation, réglementation ou langage clarificateur d'une agence californienne qui précise ce que signifie "s'appuyer principalement" dans la pratique réduirait l'incertitude pour les employeurs et les fournisseurs, et cela façonnerait également la manière dont les avocats des plaignants cadrent les litiges concernant le fait de savoir si un outil a franchi la ligne entre recommandation et décision.

Le troisième est le débordement législatif. Des propositions similaires ont été avancées à New York, en Louisiane et au New Jersey, et la signature de la Californie donne à d'autres États un modèle opérationnel construit autour de la corroboration humaine plus la divulgation post-décision plutôt qu'une pré-notification large.

Le quatrième est le comportement des entreprises. Les grands employeurs qui utilisent des outils de gestion algorithmique devront mettre à jour les flux de travail de licenciement et de discipline pour documenter la corroboration humaine et générer des avis aux employés décrivant les données utilisées par le système, ce qui est le genre de changement qui a tendance à apparaître en premier dans les mises à jour de politique interne et les exigences d'approvisionnement des fournisseurs.

Ma lecture : Il s'agit d'une taxe de gouvernance sur l'IA au travail, pas d'une interdiction.

Le seuil qui compte n'est pas de savoir si les entreprises utilisent l'IA dans les RH. C'est de savoir si leur processus peut être décrit de manière crédible comme étant « principalement » guidé par un résultat automatisé, car c'est ce qui impose une corroboration humaine, une documentation et une divulgation aux employés.

Si la Californie ou une agence d'application précise « s'appuie principalement » sur quelque chose d'auditable, la configuration commence à ressembler à une couche de conformité durable autour de laquelle les fournisseurs peuvent créer des produits.

Si le terme reste indéfini, le risque se déplace vers des disputes sur la classification et des récits a posteriori sur le rôle réel du système, ce qui est là où le coût du processus se transforme en coût de litige.

Newsom signe la loi SB 947 pour protéger contre les…