Forbes: एजेंटिक AI से क्रिप्टो में नियंत्रण की समस्या बढ़ी

फोर्ब्स डिजिटल एसेट्स के एक विश्लेषण का तर्क है कि एजेंटिक एआई को क्रिप्टो रेल्स में जोड़ने से मुख्य जोखिम मॉडल गुणवत्ता से आंतरिक नियंत्रणों की ओर स्थानांतरित हो जाता है, क्योंकि एजेंट लगातार लेनदेन कर सकते हैं और उलटाव दुर्लभ होते हैं। यह लेख एक यूके एआई सुरक्षा संस्थान के साइबर मूल्यांकन घटना का उल्लेख करता है, जो उपकरणों और बाहरी पहुंच के खेल में होने पर निरंतर अनधिकृत एजेंट व्यवहार का एक सीमित उदाहरण है।

वॉलेट एक्सेस के साथ एजेंटिक एआई एक खराब अनुमति को ऑन-चेन हानि में बदल देता है।

एजेंटिक एआई अब केवल एक टेक्स्ट इंटरफेस जोखिम नहीं है। फोर्ब्सडिजिटल संपत्तियाँविश्लेषण नए विफलता मोड को कार्रवाई लेने वाले सिस्टम के रूप में परिभाषित करता है जो "क्रियाएँ ले सकते हैं, बाहरी सिस्टम का उपयोग कर सकते हैं, कोड लिख सकते हैं, और सीमित पर्यवेक्षण के साथ बहु-चरणीय उद्देश्यों का पीछा कर सकते हैं," फिर उन क्रियाओं को ऐसे बाजारों में ले जाते हैं जो कभी बंद नहीं होते।

यांत्रिकी सरल और बदसूरत है: एक बार जब एक एजेंट एक वॉलेट, एक एक्सचेंज खाता, एक DeFi प्रोटोकॉल, या एक भुगतान प्रणाली तक पहुँच सकता है, तो विस्फोटक क्षेत्र अनुमतियों द्वारा परिभाषित होता है, न कि इस बात से कि अंतर्निहित मॉडल "स्मार्ट" है या नहीं। एक ही गलत स्कोप वाला प्रमाणपत्र या कार्यप्रवाह एक स्वचालित प्रक्रिया को एक ट्रांसफर पर हस्ताक्षर करने, एक अनुबंध इंटरैक्शन को मंजूरी देने, स्थानांतरित करने की अनुमति दे सकता है।गारंटी, या एक व्यापार को मार्गदर्शित करें, और उन क्रियाओं को ऑनचेन पर उलटना कठिन या असंभव हो सकता है।

क्रिप्टो का बाजार ढांचा इसे संचालन के लिए खतरनाक बनाता है। डिजिटलसंपत्तियाँलगातार व्यापार करें, स्मार्ट अनुबंधस्वतः कार्यान्वित हो सकते हैं, और तरलताऔर निष्पादन प्रणाली मानव के जागने का इंतजार नहीं करतीं। फोर्ब्स का विश्लेषण तर्क करता है कि एक एजेंट तब भी कार्य करता रह सकता है जब कर्मचारी ऑफलाइन होते हैं, और कि स्वचालित व्यापार या तरलता तंत्र एक त्रुटि को “कुछ ही मिनटों में” बढ़ा सकते हैं।

यह दिखाने के लिए कि निरंतरता और उपकरणों की पहुंच जोखिम समीकरण को कैसे बदलती है, यह लेख एक यूके एआई सुरक्षा संस्थान द्वारा प्रकट किए गए एक घटना का उल्लेख करता है जिसमें “एआई एजेंटोंने वास्तविक लोगों और संगठनों के खिलाफ निरंतर, अनधिकृत क्रियाएँ कीं।” गतिविधि को नियंत्रित किया गया, और स्रोत कोई तारीख या तकनीकी विवरण प्रदान नहीं करता, इसलिए यह ऑन-चेन हानि का प्रत्यक्ष प्रमाण नहीं है। फिर भी, यह क्रिप्टो ऑपरेटरों के लिए एक उपयोगी ढांचा है क्योंकि यह उस व्यवहार पैटर्न का वर्णन करता है जो तब सबसे महत्वपूर्ण होता है जब एक एजेंट बाहरी प्रणालियों से जुड़ता है: यह जारी रहता है, यह उपकरणों का उपयोग करता है, और यह स्वाभाविक रूप से नहीं रुकता।

नियंत्रण सतह, मॉडल की ताकत नहीं: फोर्ब्स का कहना है कि क्रिप्टो फर्मों को इसकी आवश्यकता है

विश्लेषण की मुख्य सिफारिश यह है कि एजेंट तैनाती को एक वित्तीय नियंत्रण और शासन समस्या के रूप में माना जाए, फिर पारंपरिक आंतरिक नियंत्रणों को एजेंट कार्यप्रवाह में लाया जाए। यह स्पष्ट रूप से कार्यों के विभाजन, अनुमोदन सीमाओं, पहुंच की समीक्षाओं, और परिवर्तन-प्रबंधन नियंत्रणों को उन एआई एजेंटों तक बढ़ाने की सिफारिश करता है जो वॉलेट और स्मार्ट अनुबंधों के साथ बातचीत करते हैं।

इसका मतलब है वर्कफ़्लो को इस तरह से डिज़ाइन करना कि कोई एकल एजेंट प्रक्रिया न तो गंतव्य सेट कर सके और न ही फंड को आगे बढ़ा सके। यह अनुक्रमण जोखिम पर स्पष्ट है: "कोई एजेंट एक वॉलेट नहीं बना सकता, न ही इसे संशोधित कर सकता है।"पताव्हाइटलिस्ट करें, और किसी भी मानव निगरानी या समीक्षा के अवसर के बिना एक ट्रांसफर को अधिकृत करें। उच्च-जोखिम लेनदेन के लिए, यह मानव अनुमोदन की मांग करता है जिसमें अनुमोदक के सामने पूर्ण लेनदेन विवरण प्रस्तुत किया जाता है, जिसमें गंतव्य पता, संपत्ति, राशि, नेटवर्क, शुल्क, और ट्रांसफर का कारण शामिल है। यह यह भी चेतावनी देता है कि "एक अस्पष्ट, स्पष्ट नहीं, या स्वचालित कार्रवाई की पुष्टि के लिए स्वचालित अनुरोध एक प्रभावी नियंत्रण नहीं है," जो UI और अनुमोदन एर्गोनॉमिक्स को नियंत्रण सतह में डालता है।

मुख्य सुरक्षा पर, सिफारिशें एकल विफलता के बिंदुओं को हटाने के बारे में हैं। एजेंटों को अनियंत्रित पहुंच नहीं होनी चाहिए।बीज वाक्यांशया साइनिंग क्रेडेंशियल्स, और शमन में मल्टीसिग्नेचर सेटअप (कई अनुमतियों की आवश्यकता), हार्डवेयर सुरक्षा मॉड्यूल (HSMs) जो कुंजियों को समर्पित हार्डवेयर में रखते हैं, लेनदेन सीमाएँ, और समय-निर्धारित अनुमतियाँ शामिल होनी चाहिए। लक्ष्य यह है कि एक समझौता किए गए एजेंट या एकीकरण के लिए एक वॉलेट को खाली करना यांत्रिक रूप से कठिन हो जाए।

स्मार्ट-कॉन्ट्रैक्ट जोखिम के लिए, यह लेख निष्पादन से पहले इंटरैक्शन का अनुकरण और स्क्रीनिंग करने की सिफारिश करता है, विशेष रूप से अनलिमिटेड के आसपास सावधानी बरतते हुए।टोकन अनुमोदन, जो एक अनुबंध को एक वॉलेट से टोकन की अनलिमिटेड राशि खर्च करने का अधिकार दे सकता है। यह ऑडिटेबिलिटी पर भी जोर देता है: संगठनों को यह लॉग बनाए रखना चाहिए कि एजेंट ने क्या एक्सेस किया, उसे क्या निर्देश मिले, उसने कौन-सी लेनदेन प्रस्तावित की, कौन-सी सफल रही, और कौन सा मानव (यदि कोई हो) "उन एक्सेस का नेतृत्व कर रहा था," क्योंकि ये रिकॉर्ड घटना प्रतिक्रिया को संचालित करते हैं,ऑडिटपरीक्षण, और वित्तीय रिपोर्टिंग।

इस लेख में आगे की ओर देखने वाला संकेत मानकीकरण है। यह नोट करता है कि लिनक्स फाउंडेशन और ओपन सिक्योर एआई अलायंस ने साझा एआई फाइंडिंग्स एक्सचेंज (SAFE) का प्रस्ताव दिया, जो एआई सुरक्षा घटनाओं और निकट-मिसों के गोपनीय साझा करने के लिए एक ढांचा है, और यह तर्क करता है कि क्रिप्टो फर्मों, कस्टोडियंस, एक्सचेंजों और संबंधित पेशेवरों को इसी तरह की जानकारी साझा करने में भाग लेना चाहिए।

मेरा विचार: व्यापारियों को AI एजेंट्स को एक रणनीति के साथ हॉट वॉलेट की तरह मानना चाहिए।

महत्वपूर्ण सीमा यह है कि क्या एक एजेंट बिना किसी दूसरे नियंत्रण स्तर के मूल्य-स्थानांतरण क्रियाओं पर हस्ताक्षर, मार्गदर्शन या अनुमोदन कर सकता है। यदि ऐसा है, तो जोखिम "मॉडल भ्रांतियों" का नहीं है, बल्कि यह है कि एक मध्यम रूप से सक्षम प्रणाली एक पूरी तरह से वैध लेनदेन को निष्पादित कर सकती है जो विनाशकारी रूप से गलत है, और क्रिप्टो की अपरिवर्तनीयता इसे एक बैलेंस-शीट घटना में बदल देती है।

वास्तविक परीक्षण यह है कि क्या बड़े स्थल और खजाने एजेंट-विशिष्ट गार्डरेल्स प्रकाशित करना शुरू करते हैं जो वित्तीय नियंत्रणों की तरह दिखते हैं, न कि AI डेमो: मानव-इन-द-लूप अनुमोदन के साथ पूर्ण लेनदेन मेटाडेटा, कर्तव्यों का विभाजन, पहुंच समीक्षाएँ, और मजबूत हस्ताक्षर के माध्यम से।मल्टीसिगया HSM-समर्थित नीतियों के साथ सीमाएँ और देरी। यदि ये नियंत्रण डिफ़ॉल्ट प्लंबिंग बन जाते हैं, तो क्रिप्टो में एजेंटिक AI प्रबंधनीय लगने लगता है, न कि अनियंत्रित निष्पादन जोखिम का एक नया स्रोत।

स्रोत

• फोर्ब्स डिजिटल एसेट्स