EU तकनीकी प्रमुख: AI कानून "बागी" AI एजेंटों को संभालेगा

यूरोपीय संघ के तकनीकी प्रमुख हेनना विर्क्कुनेन ने कहा कि यूरोप अत्यधिक सक्षम एआई मॉडलों से सुरक्षा और सुरक्षा जोखिमों का सामना करने के लिए "अच्छी तरह से सुसज्जित" है, यह तर्क करते हुए कि ब्लॉक के नियम "बागी" एआई एजेंटों के मानव नियंत्रण से परे कार्य करने के डर को संभाल सकते हैं। उनके टिप्पणियाँ उस समय आई हैं जब यूरोपीय आयोग ने अगस्त के अंत में 30 से अधिक एआई कंपनियों से सुरक्षा और सुरक्षा जानकारी की समीक्षा की है।

हेनना विर्क्कुनेन, जो यूरोपीय संघ की तकनीकी प्रमुख हैं, यूरोपीय संघ के आर्टिफिशियल इंटेलिजेंस अधिनियम पर जोर दे रही हैं, इसे अग्रणी मॉडल सुरक्षा के लिए एक तैयार ढांचे के रूप में प्रस्तुत करते हुए, इसे "बागी एजेंट" परिदृश्यों को संभालने में सक्षम बताती हैं जो अब अंतरराष्ट्रीय बहस को प्रेरित कर रहे हैं।

"हम देखते हैं कि बहुत सक्षम मॉडलों की सुरक्षा और सुरक्षा अंतरराष्ट्रीय स्तर पर एक बहुत गर्म विषय है और हम यूरोप में इसके लिए अच्छी तरह से सुसज्जित हैं," विर्क्कुनेन ने शुक्रवार को रॉयटर्स के साथ एक साक्षात्कार में कहा।

उनका तर्क प्रक्रियात्मक है, दार्शनिक नहीं। विर्क्कुनेन ने ईयू एआई अधिनियम के जोखिम-आधारित डिज़ाइन की ओर इशारा किया, जहां दायित्व जोखिम के स्तर के साथ बढ़ते हैं, और यह जोर दिया कि कानून का उद्देश्य एआई मॉडलों के पूरे जीवन चक्र को कवर करना है न कि केवल उनके प्रारंभिक विमोचन को। "हमारे पास हमारा एआई अधिनियम है और एआई अधिनियम इन मॉडलों के पूरे जीवन चक्र को कवर करता है," उसने कहा।

विर्क्कुनेन ने उद्योग और नीति सर्कलों से एक परिचित आलोचना पर भी प्रतिक्रिया दी कि यूरोप के नियम पहले से ही पीछे हैं। उसने यह कहते हुए दावों को खारिज कर दिया कि ब्लॉक के एआई नियम पुराने हो गए हैं, यह बताते हुए कि एआई अधिनियम दो साल पहले अपनाया गया था।

यहां आयोग की स्थिति क्रिप्टो-संबंधित स्वचालन के लिए महत्वपूर्ण है क्योंकि "बागी एजेंट" अब केवल एक प्रयोगशाला-सुरक्षा वाक्यांश नहीं है। इसका उपयोग तेजी से उन स्वायत्त प्रणालियों के लिए संक्षिप्त रूप में किया जा रहा है जो कार्रवाई कर सकते हैं, उपकरणों को श्रृंखला में जोड़ सकते हैं, और ऐसे तरीकों से बने रह सकते हैं जो मानव नियंत्रण को पार करते हैं या उससे बचते हैं, जो ठीक वही क्षमता है जो भुगतान, निगरानी संचालन, और एआई-संचालित व्यापार कार्यप्रवाहों के साथ इंटरसेक्ट करना शुरू करती है जब एजेंटों को वास्तविक दुनिया की रेलों को छूने की अनुमति दी जाती है।

ब्रसेल्स 30+ एआई कंपनियों से सुरक्षा प्रतिक्रियाओं की समीक्षा कर रहा है

विर्क्कुनेन की टिप्पणियाँ एक सक्रिय जानकारी-एकत्रित करने के चक्र के बीच में आ रही हैं। यूरोपीय आयोग ने अगस्त के अंत में 30 से अधिक अज्ञात एआई कंपनियों से उनकी सुरक्षा और सुरक्षा उपायों के विवरण के लिए जानकारी मांगी। विर्क्कुनेन ने कहा कि वह अब प्रतिक्रियाओं का आकलन कर रही हैं।

आयोग ने यह पहचान नहीं की है कि किन कंपनियों ने अनुरोध प्राप्त किया, और उसने यह भी नहीं बताया कि प्रतिक्रियाओं में क्या था या क्या कोई अनुवर्ती कदम योजना बनाई गई है। इससे बाजार को एक प्रवर्तन-संबंधित संकेत मिलता है, लेकिन अभी तक विवरण नहीं है जो व्यापारियों को यह आकलन करने की अनुमति देगा कि कौन सी कंपनियाँ या मॉडल परिवार एआई अधिनियम की उच्च-जोखिम आवश्यकताओं के तहत सबसे अधिक घर्षण का सामना करने की संभावना रखते हैं।

विर्क्कुनेन ने आयोग के दृष्टिकोण को तकनीकी और आवर्ती के रूप में प्रस्तुत किया, जिसमें नियामक कंपनियों को उनके मॉडलों का मूल्यांकन करने के लिए मार्गदर्शन प्रदान कर रहे हैं। उसने कहा कि यह मार्गदर्शन 60 एआई विशेषज्ञों की सिफारिशों को ध्यान में रखते हुए तैयार किया जा रहा है, यह एक ऐसा विवरण है जो इस आलोचना को पूर्ववत करने का प्रयास करता है कि एक विधायी ढांचा तेजी से चलने वाली मॉडल क्षमताओं के साथ तालमेल नहीं रख सकता।

नीति की पृष्ठभूमि में "रोग" पर बढ़ती वैश्विक ध्यान केंद्रित है।एआई एजेंट्स," ओपनएआई और एंथ्रोपिक में हुए घटनाओं के संदर्भों के साथ बहस को तेज किया गया। विशेष घटनाओं का विवरण नहीं दिया गया, जिससे आयोग की वर्तमान समीक्षा को विफलता के निश्चित तरीकों या खतरे के मॉडलों से जोड़ना कठिन हो जाता है।

सुरक्षा वार्ता को कैसे ढाला जा रहा है, इसका एक ठोस संकेत एंथ्रोपिक के CEO डारियो अमोडेई से आया, जिन्होंने पहले चेतावनी दी थी कि AI विकास की गति “हमारी इन प्रणालियों को समझने और नियंत्रित करने की क्षमता से आगे निकल सकती है।” इसी चर्चा ने पुनरावर्ती आत्म-सुधार की ओर इशारा किया, जहां AI अधिक सक्षम AI प्रणालियों के निर्माण में मदद करता है, जिसे निगरानी से आगे बढ़ने वाला एक प्रेरक तत्व माना गया है।

अगले संकेत प्रक्रियात्मक हैं। व्यापारियों को देखना चाहिए कि क्या आयोग यह खुलासा करता है कि कौन सी "30 से अधिक" कंपनियों से संपर्क किया गया, या क्या वह किसी भी समग्र निष्कर्षों को प्रकाशित करता है जो प्रभावी रूप से क्षेत्र में सुरक्षा प्रथाओं का मानक स्थापित करते हैं। दूसरा संकेत मॉडल मूल्यांकन पर किसी भी अनुवर्ती मार्गदर्शन का होगा जो AI अधिनियम के जीवन-चक्र कवरेज और जोखिम आधारित आवश्यकताओं के तहत अपेक्षाओं को कड़ा करता है। तीसरा परिभाषात्मक है: यह सार्वजनिक रूप से स्पष्ट करना कि "बागी AI एजेंटों" के जोखिम परिदृश्यों को नियामक प्राथमिकता दे रहे हैं, वर्तमान में OpenAI और Anthropic संदर्भों पर विवरण की कमी को देखते हुए।

मेरा पढ़ना: यूरोप नामों का उल्लेख करने से पहले प्रवर्तन की स्थिति का संकेत दे रहा है।

टिप्पणियों को आश्वासन के रूप में पढ़ा जा रहा है, लेकिन अधिक बाजार-संबंधित विवरण यह है कि आयोग पहले से ही 30 से अधिक AI कंपनियों से सुरक्षा और सुरक्षा संबंधी खुलासे एकत्र कर रहा है, जो उस प्रकार की जानकारी है जिसे आप एक क्षेत्र में प्रथाओं की तुलना करने और यह तय करने के लिए इकट्ठा करते हैं कि मार्गदर्शन कहाँ समाप्त होता है और पर्यवेक्षण कहाँ शुरू होता है।

महत्वपूर्ण सीमा यह है कि क्या यह समीक्षा प्रकाशित करने योग्य परिणाम उत्पन्न करती है, चाहे वह नामित प्राप्तकर्ताओं के रूप में हो, समग्र निष्कर्षों के रूप में, या मॉडल-आकलन मार्गदर्शन के रूप में जो AI अधिनियम के तहत एक वास्तविक अनुपालन मानक बन जाता है। यदि ऐसा होता है, तो "बागी एजेंट" एक वैचारिक जोखिम श्रेणी बनना बंद कर देता है और एक परिचालन मानक के रूप में कार्य करना शुरू कर देता है, जिसके चारों ओर AI कंपनियों और किसी भी डाउनस्ट्रीम उपयोगकर्ताओं को जो वित्तीय कार्यप्रवाह में एजेंटों को एकीकृत कर रहे हैं, निर्माण करना होगा।

स्रोत

• कॉइनटेलीग्राफ