Newsom, Kaliforniya SB 947'yi AI ile işten çıkarmaya karşı…

California Valisi Gavin Newsom, 30 Eylül'de SB 947'yi imzaladı ve işverenlerin otomatik karar sistemlerini işçileri işten çıkarmak veya disiplin cezası vermek için tek veya ana temel olarak kullanmalarını kısıtladı. Yasa, insan onayı gereksinimi ve çalışanlara yönelik açıklamalar ekliyor, ancak iş gruplarının uyum belirsizliği yarattığını söylediği tanımsız bir "öncelikle dayanma" tetikleyicisi bırakıyor.

Anahtar Noktalar

California, işverenlerin işçileri işten çıkarmak veya disiplin cezası vermek için yalnızca otomatik karar sistemlerine güvenmelerini yasaklayan ve AI'nın bu kararlar için "ana araç" olarak kullanımını sınırlayan SB 947, "No Robo Bosses Act" yasasını yürürlüğe koydu.
İşten çıkarma veya disiplin kararları öncelikle AI çıktısı tarafından yönlendirildiğinde, yasa, bir insan gözden geçirenin sonucu doğrulamasını gerektiriyor; bu, yönetsel değerlendirmeler, akran incelemeleri ve personel dosyaları gibi diğer bilgilerle yapılmalıdır.
AI-öncelikli bir kararın etkilendiği işçiler, AI'nın öncelikle kullanıldığına dair yazılı bir bildirim, sistem tarafından kullanılan çalışan verilerinin bir tanımı ve kararı açıklayabilecek bir insan iletişim noktası almalıdır.
İş dünyası, tasarının tanımsız uyum tetikleyicisi etrafında toplandı ve "öncelikle dayanma" ifadesinin nesnel bir standart içermediğini ve bir aracın danışmanlık mı yoksa belirleyici mi olduğu konusunda anlaşmazlıkları genişletebileceğini savundu.

California'nın SB 947, AI ile Yönetilen İşten Çıkarma İşlemlerine İnsan Kapısı Koyuyor

California Valisi Gavin Newsom, 30 Eylül'de SB 947'yi, "No Robo Bosses Act" yasasını imzaladı ve işverenlerin otomatik karar verme sistemlerini (ADS) nasıl kullanabileceklerine dair yeni bir dizi kısıtlama oluşturdu; bu, kararları almak veya otomatikleştirmek için algoritmalar veya AI kullanan yazılımları ifade ediyor.

Mekanik olarak, yasa aynı anda iki şey yapıyor. İşverenlerin işçileri işten çıkarmak veya disiplin cezası vermek için yalnızca AI veya ADS'ye güvenmelerini yasaklıyor ve bu kararlar için AI'nın "ana araç" olarak kullanımını kısıtlıyor.

İşleyen uyum bağlantısı "öncelikle"dir. Bir işveren, bir işten çıkarma veya disiplin kararı almak için AI çıktısına "öncelikle" dayanıyorsa, SB 947, kararın doğrulanması için bir insan gözden geçirenin ek bilgilerle, yönetsel değerlendirmeler, akran incelemeleri ve personel dosyaları dahil olmak üzere, kullanmasını gerektirir. Bu, özellikle olumsuz istihdam eylemleri için hedeflenen bir insan döngüsü zorunluluğudur.

SB 947 ayrıca etki anında açıklama yapılmasını zorunlu kılar. Etkilenen çalışanlar, işten çıkarma veya disiplin kararında AI'nın "esas olarak kullanıldığına" dair yazılı bir bildirim almalı, sistem tarafından kullanılan çalışan verilerinin bir tanımını ve kararı daha fazla açıklayabilecek bir insan iletişim noktası belirtilmelidir.

Destekçiler, yasayı yalnızca makine yönetimine sert bir duruş olarak çerçeveledi. Tasarının yazarı Eyalet Senatörü Jerry McNerney, “Hiçbir işçi asla bir makine tarafından, ister yapay zeka olsun ister olmasın, işten çıkarılmamalı veya disipline edilmemelidir.

Yapay zeka sistemleri verimliliği artırma potansiyeline sahip, ancak aynı zamanda hatalar yapmış, yanlış değerlendirmelerde bulunmuş ve önyargılar sergilemiştir,” diyerek ekledi: “Yapay zeka, insanların kontrolünde bir araç olarak kalmalıdır, tam tersi değil.”

Uyum Tetikleyicisi Tüccarların Odaklanacağı: “Temelde Bağlıdır”

Tasarıdaki pratik etki, yalnızca AI tabanlı kararlar üzerindeki başlık yasağı değildir. Bir çalışanın, bir otomatik karar verme sistemine "esas olarak güvendiği" zamanla ilgili yorumlayıcı sınırdır, çünkü bu, insan onay sürecini ve yazılı açıklamaları tetikleyen unsurdur.

İş grupları, sınırın yasadaki tetikleyici dilinde tanımlanmadığını savunuyor, bu da uyumu bir olgu ve koşullar mücadelesine dönüştürüyor.

California ve ABD Batısı için İlerleme Odası'nın politika ve kamu işleri kıdemli direktörü Robert Singleton, bir veto talep eden bir mektupta şunları yazdı: “Tasarıdaki yükümlülükler genel olarak bir işverenin ‘esas olarak’ otomatik karar verme sistemine dayanması durumunda geçerlidir, ancak bu kritik terim asla tanımlanmamıştır.

İşverenlere, bir teknolojinin yalnızca bir kararı bilgilendirmekten, onun için birincil bir temel haline geçtiğini belirlemek için hiçbir nesnel standart verilmemektedir,” ekleyerek: “Sıradan araçların düzenlenmiş otomatik karar verme sistemleri olarak nitelendirilip nitelendirilmeyeceği konusundaki belirsizlik, işverenleri tutarlılığı artıran, güvenlik risklerini belirleyen veya yöneticilerin daha iyi bilgilendirilmiş kararlar almasına yardımcı olan teknolojileri kullanmaktan caydırabilir,” dedi.

Tüccarlar için, o belirsizlik kısa vadeli riskin bulunduğu yerdir. Kağıt üzerinde net olan ama tetikleyici aşamasında belirsiz kalan bir kural, genellikle süreç maliyeti olarak kendini gösterir.denetimÇalışma ve dava durumu, araçların anında kapatılması olarak değil.

Algoritmik yönetim sistemleri satan işverenler ve satıcılar, yani çalışanları yönlendirmek, izlemek, değerlendirmek veya yönetmek için kullanılan yazılımlar, olaydan sonra iki soruyu yanıtlayabilecek daha temiz iç atıf izleri oluşturmak zorunda kalabilir: sistemin hangi verileri kullandığı ve AI çıktısının yalnızca tavsiye niteliğinde mi yoksa işlevsel olarak belirleyici mi olduğu.

Açıklama gerekliliği, ikinci soruyu atlatmayı zorlaştırıyor. Bir şirket, AI'nın "esas olarak kullanıldığını" bildiren yazılı bir bildirim sağlamak zorundaysa ve sistem tarafından kullanılan çalışan verilerini tanımlamak zorundaysa, sistemin ne yaptığını ve insan inceleyicinin kararı nasıl AI dışı girdilerle doğruladığına dair savunulabilir bir kayda ihtiyaç duyar.

Tasarı, Newsom'un veto etmesinden sonra nasıl değişti ve bu sefer neden geçti

SB 947'nin yolu önemlidir çünkü Kaliforniya'nın neden daha dar, operasyonel bir kural benimsediğini, geniş bir bildirim rejimi yerine, açıklamaktadır. Newsom, geçen Ekim ayında, her iki eyalet yasama odasından "baskın bir çoğunluk desteği" ile geçmesine rağmen, önceki bir versiyonu veto etti.

Veto mesajında Newsom, "Yazarın endişesini paylaşıyorum; bazı durumlarda işverenlerin ADS [otomatik karar verme yazılımı] kullanımı işçiler için zararlı olabilir," yazdı, ancak tasarının, "işverenlerin bu teknolojiyi kötüye kullanma yollarını ele almak yerine, en masum araçları kullanan herhangi bir işletmeye odaklanmamış bildirim gereklilikleri getirdiğini" ekledi.

McNerney, bu itirazı karşılamak için tasarıyı Şubat ayında değişikliklerle yeniden tanıttı. Gözden geçirilmiş versiyon, işverenlerin, çalışma koşullarını etkileyebilecek bir AI sisteminin kullanıldığı her durumda işçileri önceden bilgilendirmeye zorlayacak bir ön bildirim gerekliliğini kaldırdı. Ayrıca, Uber ve Lyft gibi araç paylaşım şirketlerinden yoğun eleştiri alan, gig işçilere koruma sağlayacak bir dil de kaldırıldı.

Gözden geçirilmiş tasarı hala iş dünyası karşıtlığına maruz kaldı, ancak daha dar şekli, valinin sürekli bildirim konusundaki endişesini gidermiş gibi görünüyor. Kaliforniya İşçi Sendikaları Federasyonu, AFL-CIO başkanı Lorena Gonzalez, "Çalışan insanlar örgütlendiğinde, sonuç alırız. Kaliforniya genelindeki işçiler, eyaletimizin işyerlerimizde AI'yı düzenlemede öncü olmasını talep etti.

Ve bugün, bunun gerçekleşmeye başladığını görüyoruz," diyerek ekledi: "Bugün, Kaliforniya'nın işçileri ve sendikalarımız, Amerikalıların AI'nın işimizi ve işyerlerimizi ele geçirmesine karşı nasıl mücadele edebileceği ve kazanabileceği konusundaki ulusal anlatıyı değiştirdi."

Tasarı ayrıca, diğer tarafın siyasi bir sinyalini de aldı. Kaliforniya'nın Cumhuriyetçi vali adayı Steve Hilton, SB 947'yi kamuya açık bir şekilde destekledi ve bunun "yeterince ileri gitmediğini" savundu, yazarak: "Kaliforniya Ticaret Odası... insan incelemesi ve temel hesap verebilirlik gerekliliklerinin işverenler için çok ağır olduğunu söylüyor.

Bunun söylenmesi ne kadar saçma," diyerek ekledi: "İşverenlerin, birinin işten çıkarılıp çıkarılmayacağına, terfi edip etmeyeceğine, düzenli saatlerini kaybedip kaybetmeyeceğine veya gelir için güvendikleri programdan dışlanıp dışlanmayacağına karar vermek için AI kullanmalarına izin verilmemelidir."

Kaliforniya'nın Diğer Eyaletler İçin Bir Şablon Oluştururken İzlenecek Sinyaller

Acil bilinmeyen operasyoneldir: sağlanan alıntı, SB 947'nin yürürlük tarihi, uygulama mekanizması veya ceza yapısını belirtmemektedir. Bu detaylar, uyumun kısa vadeli bir karmaşa mı yoksa daha yavaş bir politika uygulaması mı olacağını belirleyecektir.

İkinci sinyal yorumlayıcıdır. Kaliforniya ajansının, "esas olarak güveniyor" ifadesinin pratikte ne anlama geldiğini daraltan herhangi bir kılavuz, kural koyma veya açıklayıcı dil, işverenler ve tedarikçiler için belirsizliği azaltacak ve aynı zamanda davacı avukatlarının bir aracın öneriden karara geçip geçmediği konusundaki anlaşmazlıkları nasıl çerçeveleyeceğini şekillendirecektir.

Üçüncüsü yasama sızıntısıdır. Benzer öneriler New York, Louisiana ve New Jersey'de gündeme getirilmiştir ve Kaliforniya'nın imzası, diğer eyaletlere insan onayı ve karar sonrası açıklama etrafında inşa edilmiş bir çalışma şablonu sunmaktadır, geniş bir ön bildirim yerine.

Dördüncüsü kurumsal davranıştır. Algoritmik yönetim araçları kullanan büyük işverenler, insan onayını belgelemek ve sistem tarafından kullanılan verileri tanımlayan çalışan bildirimleri oluşturmak için fesih ve disiplin iş akışlarını güncellemek zorunda kalacaklardır; bu, genellikle iç politika güncellemeleri ve tedarikçi alım gerekliliklerinde ilk önce ortaya çıkan bir tür değişimdir.

Benim Okumam: Bu, İş Yerinde AI Üzerine Bir Yönetim Vergisidir, Onun Yasağı Değildir

Önemli olan eşik, şirketlerin İK'da AI kullanıp kullanmadığı değil. Önemli olan, süreçlerinin 'esas olarak' otomatik bir çıktıya dayandığına dair güvenilir bir şekilde tanımlanıp tanımlanamayacağıdır, çünkü bu, insan onayı, belgeler ve çalışanlara yönelik açıklama gerektirir.

Eğer Kaliforniya veya bir uygulayıcı ajans 'esas olarak dayanıyor'u denetlenebilir bir şeye netleştirirse, bu yapı, satıcıların etrafında ürünleştirebileceği kalıcı bir uyum katmanı gibi görünmeye başlar. Terim tanımsız kalırsa, risk, sistemin gerçekten hangi rolü oynadığına dair sınıflandırma ve sonradan anlatılar üzerine anlaşmazlıklara kayar; işte burada süreç maliyeti, dava maliyetine dönüşür.

Newsom, AI ile işten çıkarma ve disiplin kararlarını…