न्यूसोम ने AI आधारित नौकरी से निकाले जाने पर रोक लगाई

कैलिफ़ोर्निया के गवर्नर गेविन न्यूज़म ने 30 सितंबर को SB 947 पर हस्ताक्षर किए, जो नियोक्ताओं को स्वचालित निर्णय प्रणालियों का उपयोग करके श्रमिकों को निकालने या अनुशासनात्मक कार्रवाई करने के लिए एकमात्र या मुख्य आधार के रूप में प्रतिबंधित करता है। यह कानून मानव-सहयोग की आवश्यकता और कर्मचारी-समर्थित खुलासे जोड़ता है, लेकिन एक अनिर्धारित "मुख्य रूप से निर्भर" ट्रिगर छोड़ता है जिसे व्यापार समूहों का कहना है कि यह अनुपालन में अनिश्चितता पैदा करता है।

मुख्य बिंदु

• कैलिफ़ोर्निया ने SB 947, "नो रोबो बॉस एक्ट" को लागू किया, जो नियोक्ताओं को श्रमिकों को निकालने या अनुशासनात्मक कार्रवाई करने के लिए स्वचालित निर्णय प्रणालियों पर केवल निर्भर रहने से रोकता है और उन निर्णयों में AI के उपयोग को "मुख्य उपकरण" के रूप में सीमित करता है।
• जब समाप्ति या अनुशासनात्मक निर्णय मुख्य रूप से AI आउटपुट द्वारा संचालित होते हैं, तो कानून एक मानव समीक्षक की आवश्यकता करता है जो अन्य जानकारी का उपयोग करके परिणाम की पुष्टि करे, जिसमें प्रबंधकीय मूल्यांकन, समकक्ष समीक्षाएँ और व्यक्तिगत फ़ाइलें शामिल हैं।
• AI-प्राथमिक निर्णय से प्रभावित श्रमिकों को लिखित सूचना प्राप्त करनी चाहिए कि AI का मुख्य रूप से उपयोग किया गया था, सिस्टम द्वारा उपयोग किए गए कर्मचारी डेटा का विवरण, और एक मानव संपर्क बिंदु जो निर्णय को स्पष्ट कर सकता है।
• व्यापार का विरोध बिल के अनिर्धारित अनुपालन ट्रिगर पर केंद्रित था, यह तर्क करते हुए कि "मुख्य रूप से निर्भर" एक वस्तुनिष्ठ मानक की कमी है और यह यह विवाद बढ़ा सकता है कि क्या एक उपकरण सलाहकार था या निर्णायक।

कैलिफ़ोर्निया का SB 947 AI-चालित निकालने पर एक मानव गेट लगाता है

कैलिफ़ोर्निया के गवर्नर गेविन न्यूज़म ने 30 सितंबर को SB 947, "नो रोबो बॉस एक्ट" पर हस्ताक्षर किए, जो नियोक्ताओं के लिए स्वचालित निर्णय-निर्माण प्रणालियों (ADS) का उपयोग करने के तरीके पर नए प्रतिबंधों का एक सेट बनाता है, जिसका अर्थ है सॉफ़्टवेयर जो निर्णय लेने या स्वचालित करने में मदद करने के लिए एल्गोरिदम या AI का उपयोग करता है।

यांत्रिक रूप से, कानून एक साथ दो बातें करता है। यह नियोक्ताओं को श्रमिकों को निकालने या अनुशासनात्मक कार्रवाई करने के लिए केवल AI या ADS पर निर्भर रहने से रोकता है, और उन निर्णयों में AI के उपयोग को "मुख्य उपकरण" के रूप में सीमित करता है।

प्रभावी अनुपालन हुक "मुख्य रूप से" है। यदि एक नियोक्ता समाप्ति या अनुशासनात्मक निर्णय लेने के लिए AI आउटपुट पर "मुख्य रूप से" निर्भर करता है, तो SB 947 एक मानव समीक्षक की आवश्यकता करता है जो अतिरिक्त जानकारी का उपयोग करके निर्णय की पुष्टि करे, जिसमें प्रबंधकीय मूल्यांकन, समकक्ष समीक्षाएँ और व्यक्तिगत फ़ाइलें शामिल हैं। यह विशेष रूप से प्रतिकूल रोजगार क्रियाओं के लिए एक मानव-इन-द-लूप अनिवार्यता है।

SB 947 प्रभाव के बिंदु पर प्रकटीकरण को भी मजबूर करता है। प्रभावित कर्मचारियों को लिखित सूचना प्राप्त करनी चाहिए कि AI को समाप्ति या अनुशासन निर्णय में "मुख्य रूप से उपयोग किया गया" था, सिस्टम द्वारा उपयोग किए गए कर्मचारी डेटा का विवरण, और एक मानव संपर्क बिंदु जो निर्णय को आगे समझा सकता है।

समर्थकों ने कानून को मशीन-केवल प्रबंधन पर एक कठोर रोक के रूप में प्रस्तुत किया। राज्य के सेन जेरी मैकनेर्नी, बिल के लेखक, ने कहा: "कोई भी श्रमिक कभी भी मशीन, AI या नहीं, द्वारा निकाला या अनुशासित नहीं होना चाहिए। कृत्रिम बुद्धिमत्ता प्रणाली उत्पादकता को बढ़ाने की क्षमता रखती हैं, लेकिन उन्होंने गलतियाँ और गलत निर्णय भी किए हैं और पूर्वाग्रह प्रदर्शित किया है," जोड़ते हुए: "AI को मानवों द्वारा नियंत्रित एक उपकरण बने रहना चाहिए, न कि इसके विपरीत।"

अनुपालन ट्रिगर व्यापारी जिस पर ध्यान केंद्रित करेंगे: "मुख्य रूप से निर्भर करता है"

बिल का व्यावहारिक प्रभाव AI-केवल निर्णयों पर शीर्षक प्रतिबंध नहीं है। यह उस व्याख्यात्मक सीमा के चारों ओर है जब एक नियोक्ता "मुख्य रूप से निर्भर करता है" एक स्वचालित निर्णय प्रणाली पर, क्योंकि यही मानव पुष्टि कार्यप्रवाह और लिखित प्रकटीकरण को सक्रिय करता है।

व्यापार समूहों का तर्क है कि वह सीमा कानून के ट्रिगर भाषा में परिभाषित नहीं है, जो अनुपालन को तथ्यों और परिस्थितियों की लड़ाई में बदल देता है। कैलिफ़ोर्निया और यूएस वेस्ट के चैंबर ऑफ प्रोग्रेस के नीति और सार्वजनिक मामलों के वरिष्ठ निदेशक रॉबर्ट सिंगलटन ने एक पत्र में वीटो की अपील करते हुए लिखा: "बिल की बाध्यताएँ सामान्यतः तब लागू होती हैं जब एक नियोक्ता 'मुख्य रूप से निर्भर करता है' एक स्वचालित निर्णय प्रणाली पर, लेकिन वह महत्वपूर्ण शब्द कभी परिभाषित नहीं किया गया। नियोक्ताओं को यह निर्धारित करने के लिए कोई वस्तुनिष्ठ मानक नहीं दिया गया है कि कब एक तकनीक केवल निर्णय को सूचित करने से लेकर इसके लिए प्राथमिक आधार बनने के लिए चली गई है," जोड़ते हुए: "यह अनिश्चितता कि क्या सामान्य उपकरण विनियमित स्वचालित निर्णय प्रणालियों के रूप में योग्य हैं, नियोक्ताओं को उन तकनीकों का उपयोग करने से हतोत्साहित कर सकती है जो स्थिरता में सुधार करती हैं, सुरक्षा जोखिमों की पहचान करती हैं, या प्रबंधकों को बेहतर-सूचित निर्णय लेने में मदद करती हैं।"

व्यापारियों के लिए, वह अस्पष्टता निकट-अवधि के जोखिम का स्थान है। एक नियम जो कागज पर स्पष्ट है लेकिन ट्रिगर पर धुंधला है, प्रक्रिया लागत के रूप में प्रकट होता है,ऑडिटकार्य, और मुकदमेबाजी की स्थिति, न कि उपकरणों के तत्काल बंद होने के रूप में। नियोक्ता और विक्रेता जो एल्गोरिदमिक प्रबंधन प्रणालियाँ बेचते हैं, अर्थात् श्रमिकों को निर्देशित करने, निगरानी करने, मूल्यांकन करने या प्रबंधित करने के लिए उपयोग किया जाने वाला सॉफ़्टवेयर, उन्हें दो प्रश्नों का उत्तर देने के लिए साफ आंतरिक श्रेय ट्रेल्स बनाने की आवश्यकता हो सकती है: सिस्टम ने कौन सा डेटा उपयोग किया, और क्या AI आउटपुट केवल सलाहकार था या कार्यात्मक रूप से निर्णायक।

प्रकटीकरण की आवश्यकता उस दूसरे प्रश्न को टालना कठिन बनाती है। यदि एक कंपनी को लिखित सूचना प्रदान करनी है कि AI "मुख्य रूप से उपयोग किया गया" था और सिस्टम द्वारा उपयोग किए गए कर्मचारी डेटा का विवरण देना है, तो इसे यह दिखाने के लिए एक बचाव योग्य रिकॉर्ड की आवश्यकता है कि सिस्टम ने क्या किया और मानव समीक्षक ने गैर-AI इनपुट के साथ निर्णय की पुष्टि कैसे की।

बिल ने न्यूसोम के वीटो के बाद कैसे बदला - और यह इस बार क्यों पारित हुआ

SB 947 का मार्ग महत्वपूर्ण है क्योंकि यह बताता है कि कैलिफ़ोर्निया एक संकीर्ण, संचालनात्मक नियम पर क्यों उतरा, न कि एक व्यापक सूचना शासन पर। न्यूज़म ने पिछले अक्टूबर में एक पूर्व संस्करण को वीटो किया, भले ही यह दोनों राज्य विधान मंडलों में "अत्यधिक बहुमत समर्थन" के साथ पारित हो गया था।

अपने वीटो संदेश में, न्यूज़म ने लिखा: "मैं लेखक की चिंता साझा करता हूं कि कुछ मामलों में नियोक्ताओं द्वारा ADS [स्वचालित निर्णय लेने वाले सॉफ़्टवेयर] का अनियंत्रित उपयोग श्रमिकों के लिए हानिकारक हो सकता है," लेकिन यह भी जोड़ा कि विधेयक, "विशिष्ट तरीकों को संबोधित करने के बजाय जिनसे नियोक्ता इस तकनीक का दुरुपयोग करते हैं, विधेयक किसी भी व्यवसाय पर अनियोजित सूचना आवश्यकताएँ लगाता है जो यहां तक कि सबसे निर्दोष उपकरणों का भी उपयोग करता है।"

मैकनेर्नी ने फरवरी में उस आपत्ति को पूरा करने के लिए बदलावों के साथ विधेयक को फिर से प्रस्तुत किया। संशोधित संस्करण ने एक पूर्व- सूचना आवश्यकता को हटा दिया जो व्यवसायों को श्रमिकों को पहले से सूचित करने के लिए मजबूर करता जब भी कोई AI प्रणाली काम की परिस्थितियों को प्रभावित कर सकती थी। इसने उस भाषा को भी हटा दिया जो गिग श्रमिकों को सुरक्षा प्रदान करती, एक प्रावधान जिसने उबर और लिफ्ट जैसी राइडशेयर कंपनियों से भारी आलोचना प्राप्त की।

संशोधित विधेयक ने अभी भी व्यवसायों का विरोध प्राप्त किया, लेकिन संकीर्ण आकार ने गवर्नर की हमेशा-ऑन सूचना के बारे में व्यक्त की गई चिंता को स्पष्ट रूप से दूर किया। श्रमिक समूहों ने हस्ताक्षर को कार्यस्थल की शक्ति में बदलाव के रूप में धकेला। कैलिफ़ोर्निया श्रमिक संघों के संघ, AFL-CIO की अध्यक्ष लोरेना गोंजालेज ने कहा: "जब श्रमिक लोग संगठित होते हैं, तो हमें परिणाम मिलते हैं। कैलिफ़ोर्निया के श्रमिकों ने मांग की है कि हमारा राज्य हमारे कार्यस्थलों में AI को विनियमित करने में आगे बढ़े। और आज, हम इसे होते हुए देख रहे हैं," जोड़ते हुए: "आज, कैलिफ़ोर्निया के श्रमिकों और हमारे संघों ने यह राष्ट्रीय कथा बदल दी है कि अमेरिकियों को AI के हमारे कामों और कार्यस्थलों पर कब्जा करने के खिलाफ कैसे लड़ना और जीतना चाहिए।"

विधेयक ने दूसरी ओर से एक महत्वपूर्ण राजनीतिक संकेत भी प्राप्त किया। कैलिफ़ोर्निया के गवर्नर के लिए रिपब्लिकन नामांकित स्टीव हिल्टन ने सार्वजनिक रूप से SB 947 का समर्थन किया और तर्क किया कि यह "पर्याप्त दूर नहीं जाता," लिखते हुए: "कैलिफ़ोर्निया चैंबर...

कहता है कि मानव समीक्षा और बुनियादी जवाबदेही की आवश्यकताएँ नियोक्ताओं के लिए बहुत भारी हैं। उनके लिए यह कहने के लिए कितना हास्यास्पद है," और जोड़ते हुए: "नियोक्ताओं को यह तय करने के लिए AI का उपयोग करने की अनुमति नहीं दी जानी चाहिए कि क्या किसी को निकाल दिया जाए, पदावनत किया जाए, नियमित घंटे खोए जाएं, या उस कार्यक्रम से बाहर रखा जाए जिस पर वे आय के लिए निर्भर करते हैं।"

सिग्नल्स को मॉनिटर करें क्योंकि कैलिफ़ोर्निया अन्य राज्यों के लिए एक टेम्पलेट सेट करता है।

तुरंत अज्ञात संचालनात्मक है: प्रदान किया गया अंश SB 947 की प्रभावी तिथि, प्रवर्तन तंत्र, या दंड संरचना को निर्दिष्ट नहीं करता। ये विवरण निर्धारित करेंगे कि अनुपालन एक निकट-अवधि की भागदौड़ है या एक धीमी नीति रोलआउट।

दूसरा संकेत व्याख्यात्मक है। कोई भी कैलिफ़ोर्निया एजेंसी मार्गदर्शन, नियम निर्माण, या स्पष्ट भाषा जो "मुख्य रूप से निर्भर करता है" का अर्थ व्यवहार में संकीर्ण करती है, नियोक्ताओं और विक्रेताओं के लिए अनिश्चितता को कम करेगी, और यह भी निर्धारित करेगी कि वादी के वकील विवादों को कैसे ढालते हैं कि क्या कोई उपकरण सिफारिश से निर्णय की सीमा को पार कर गया।

तीसरा विधायी फैलाव है। न्यूयॉर्क, लुइज़ियाना, और न्यू जर्सी में समान प्रस्तावों को पेश किया गया है, और कैलिफ़ोर्निया के हस्ताक्षर ने अन्य राज्यों को मानव पुष्टि और निर्णय के बाद की जानकारी के चारों ओर निर्मित एक कार्यशील टेम्पलेट दिया है, न कि व्यापक पूर्व- सूचना के।

चौथा कॉर्पोरेट व्यवहार है। बड़े नियोक्ताओं को जो एल्गोरिदम प्रबंधन उपकरणों का उपयोग करते हैं, उन्हें मानव पुष्टि को दस्तावेज करने और कर्मचारियों को सूचनाएं उत्पन्न करने के लिए समाप्ति और अनुशासन कार्यप्रवाह को अपडेट करना होगा जो प्रणाली द्वारा उपयोग किए गए डेटा का वर्णन करती है, जो वह प्रकार का परिवर्तन है जो आमतौर पर पहले आंतरिक नीति अपडेट और विक्रेता खरीद आवश्यकताओं में सामने आता है।

मेरा पढ़ा: यह कार्यस्थल AI पर एक शासन कर है, न कि इसका प्रतिबंध

जो सीमा महत्वपूर्ण है वह यह नहीं है कि कंपनियां HR में AI का उपयोग करती हैं। यह है कि क्या उनकी प्रक्रिया को विश्वसनीय रूप से "मुख्य रूप से" एक स्वचालित आउटपुट द्वारा संचालित के रूप में वर्णित किया जा सकता है, क्योंकि यही मानव पुष्टि, दस्तावेजीकरण और कर्मचारी-समर्थन प्रकटीकरण को मजबूर करता है।

यदि कैलिफोर्निया या कोई प्रवर्तन एजेंसी "मुख्य रूप से निर्भर" को कुछ ऑडिट करने योग्य में स्पष्ट करती है, तो सेटअप एक स्थायी अनुपालन परत की तरह दिखने लगता है जिसके चारों ओर विक्रेता उत्पाद बना सकते हैं। यदि यह शब्द अपरिभाषित रहता है, तो जोखिम वर्गीकरण और बाद के कथनों के बारे में विवादों की ओर बढ़ जाता है कि प्रणाली ने वास्तव में क्या भूमिका निभाई, जो प्रक्रिया की लागत को मुकदमे की लागत में बदल देता है।

स्रोत

• CNBC
• गवर्नर गेविन न्यूज़म का कार्यालय
• चेंबर ऑफ प्रोग्रेस