Hinton, Bengio और OpenAI/Anthropic के नेता AI विस्फोट की…

20 से अधिक AI शोधकर्ताओं और अधिकारियों, जिनमें जेफरी हिन्टन, योशुआ बेंगियो, OpenAI के मुख्य वैज्ञानिक जाकुब पाचोकी, और एंथ्रोपिक के सह-संस्थापक जैक क्लार्क शामिल हैं, ने एक रिपोर्ट प्रकाशित की है जिसमें चेतावनी दी गई है कि AI अनुसंधान और विकास का स्वचालन एक runaway “intelligence explosion” को ट्रिगर कर सकता है। लेखक उस तंत्र को नीति प्रस्तावों के साथ जोड़ते हैं जो सीधे कंप्यूट और विकास की गति को लक्षित करेंगे, AI और डेटा केंद्र की कथाओं के लिए एक नया नियामक उत्प्रेरक बनाते हैं।

मुख्य निष्कर्ष

• 20 से अधिक लेखकों में जेफरी हिन्टन, योशुआ बेंगियो, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क, और OpenAI के मुख्य वैज्ञानिक जाकुब पाचोकी शामिल हैं, जिन्होंने “क्या होगा अगर AI अनुसंधान और विकास का स्वचालन एक intelligence explosion को ट्रिगर करता है?” प्रकाशित किया।
• यह पेपर “intelligence explosion” को “AI प्रगति का नाटकीय AI-प्रेरित त्वरितीकरण, जो उन प्रगति को संकुचित करता है जो अन्यथा वर्षों में होती, महीनों या उससे कम में” के रूप में परिभाषित करता है।
• स्वचालित AI अनुसंधान और विकास और “पुनरावर्ती आत्म-सुधार” को मुख्य मार्ग के रूप में प्रस्तुत किया गया है, लेखक तर्क करते हैं कि एक डेवलपर प्रभावी रूप से “लाखों” शीर्ष शोधकर्ताओं को नियंत्रित कर सकता है जब सिस्टम विशेषज्ञ-स्तरीय AI अनुसंधान और विकास क्षमता तक पहुँचते हैं।
• प्रस्तावित नीति उपकरणों में स्वतंत्र ऑडिटर्स के साथ पारदर्शी प्रगति रिपोर्ट, विकास की गति पर प्रतिबंध, परियोजनाओं को रोकने के लिए डेटा केंद्र समन्वय, स्वचालित अनुसंधान और विकास प्रणालियों के लिए अलगाव आवश्यकताएँ, और आपातकालीन प्रतिक्रिया योजना शामिल हैं।

हिन्टन, बेंगियो, और OpenAI/एंथ्रोपिक नेताओं ने नीति एजेंडे पर “intelligence explosion” रखा

रिपोर्ट, जिसका शीर्षक है “क्या होगा अगर AI अनुसंधान और विकास का स्वचालन एक intelligence explosion को ट्रिगर करता है?”, जानबूझकर एक भारी लेखक सूची के साथ आती है: नोबेल पुरस्कार विजेता जेफरी हिन्टन, कंप्यूटर वैज्ञानिक योशुआ बेंगियो, एंथ्रोपिक के सह-संस्थापक जैक क्लार्क, और OpenAI के मुख्य वैज्ञानिक जाकुब पाचोकी 20 से अधिक नामित योगदानकर्ताओं में से हैं। पेपर का मुख्य कदम एक लंबे समय से चल रहे सुरक्षा तर्क को लेना और उसे एक विशिष्ट संचालन मार्ग से जोड़ना है, फिर उन ठोस लीवरों को संलग्न करना है जिन्हें सरकारें खींच सकती हैं।

लेखक “intelligence explosion” को “AI प्रगति का नाटकीय AI-प्रेरित त्वरितीकरण, जो उन प्रगति को संकुचित करता है जो अन्यथा वर्षों में होती, महीनों या उससे कम में” के रूप में परिभाषित करते हैं। वे यह भी चेतावनी देते हैं कि “एक बार जब एक intelligence explosion शुरू हो जाता है, तो कार्रवाई के लिए खिड़की बंद हो सकती है।” यह ढांचा एक क्षमता दावे के रूप में कम महत्वपूर्ण है जितना कि एक समयरेखा दावे के रूप में, क्योंकि यह पूर्व-प्रतिबद्धता को सही ठहराने के लिए डिज़ाइन किया गया है: नियम जो सीमांत प्रयोगशालाओं और कंप्यूट स्टैक को अगले चरण के स्वचालन के आने से पहले बाधित करते हैं।

व्यापारियों के लिए, तत्काल प्रासंगिकता यह नहीं है कि “सुपरह्यूमन” सिस्टम निकट हैं या नहीं। यह है कि एक प्रमुख समूह “कंप्यूट गवर्नेंस” को एक नीति श्रेणी के रूप में औपचारिक बनाने की कोशिश कर रहा है, जिसमें ऐसे प्रस्ताव शामिल हैं जो प्रशिक्षण रन, मूल्यांकन पाइपलाइनों, और डेटा केंद्र संचालन को छूते हैं, न कि डाउनस्ट्रीम ऐप्स।

यांत्रिकी: स्वचालित एआई अनुसंधान और विकास और पुनरावृत्त आत्म-सुधार

इस पेपर का तंत्र पुनरावृत्त आत्म-सुधार है, जिसे इस तरह वर्णित किया गया है कि एआई सिस्टम, एआई सिस्टम को मानव भागीदारी में कमी के साथ सुधारते हैं। रिपोर्ट की भाषा में, इसे "स्वचालित एआई अनुसंधान और विकास" कहा गया है, और इसे बुद्धिमत्ता विस्फोट के लिए सबसे संभावित मार्ग माना गया है क्योंकि यह उस बाधा पर हमला करता है जो सामान्यतः प्रगति को धीमा करती है: विशेषज्ञ श्रम की कमी और धीमे पुनरावृत्ति चक्र।

स्केलिंग का दावा स्पष्ट है। एक बार जब AI सिस्टम AI अनुसंधान और विकास में विशेषज्ञ स्तर की क्षमताओं तक पहुँच जाते हैं, तो पत्र का तर्क है कि "एक ही डेवलपर एक कार्यबल चला सकता है जो 'करोड़ों' शीर्ष मानव शोधकर्ताओं के बराबर है।" यांत्रिक रूप से, यह एक मॉडल के सर्वज्ञ होने के बारे में नहीं है। यह समानांतरता के बारे में है: कई एजेंटिक श्रमिक परिकल्पनाएँ उत्पन्न कर रहे हैं, कोड लिख रहे हैं, प्रयोग चला रहे हैं, और मानव टीमों की समन्वय क्षमता से तेज़ी से आर्किटेक्चर और प्रशिक्षण विधियों पर पुनरावृत्ति कर रहे हैं।

इस तंत्र का दूसरा भाग तैनाती की गति है। लेखक तर्क करते हैं कि स्वचालित AI अनुसंधान और विकास विशेष रूप से खतरनाक है क्योंकि बेहतर सिस्टम "निर्माण के बाद तेजी से तैनात किए जा सकते हैं," जिससे अनुसंधान लाभ को जल्दी से उत्पादन लाभ में बदल दिया जाता है। यही कारण है कि रिपोर्ट के choke points ऊपर की ओर हैं। यदि लूप "मॉडल बेहतर मॉडल बनाने में मदद करता है," तो संवेदनशील सतह कंप्यूट एक्सेस और पुनरावृत्ति की गति है, न कि उपयोगकर्ता अपनाना।

लेखकों द्वारा साक्ष्य के रूप में इंगित किया गया: 80% कोड, स्वायत्त एजेंट, और 2028 का स्वचालन अनुमान

यह रिपोर्ट वर्तमान समय की प्रयोगशाला कार्यप्रवाहों में पुनरावृत्त आत्म-सुधार की कहानी को स्थापित करने की कोशिश करती है, न कि दूर की परिकल्पनाओं में। इसमें एंथ्रोपिक के उस बयान का उल्लेख किया गया है कि AI अब अपने स्वयं के कोड का 80% उत्पन्न करता है। यह ओपनएआई द्वारा स्वायत्तता का उपयोग करने की ओर भी इशारा करता है।एआई एजेंट्सनए मॉडलों को प्रशिक्षित करने, एजेंटिक ऑटोमेशन को सीमांत विकास पाइपलाइनों में पहले से निहित के रूप में स्थापित करने जैसे क्षेत्रों में।

लेखक आज के समय में थ्रेशोल्ड कहाँ है, इस बारे में कम से कम कागज पर सावधान हैं। वे लिखते हैं: “AI अनुसंधान और विकास स्वचालन से उत्पादकता में वृद्धि अभी तक उस थ्रेशोल्ड तक नहीं पहुंची है जो एक बुद्धिमत्ता विस्फोट को ट्रिगर करने के लिए आवश्यक है, लेकिन नए सिस्टम से प्राप्त लाभ संभवतः उस थ्रेशोल्ड के करीब पहुंच रहे हैं,” और वे वर्तमान गड़बड़ियों का उल्लेख करते हैं, जिसमें सिस्टम निर्देशों का पालन नहीं कर रहे हैं।

फिर भी, टाइमलाइन भाषा काम कर रही है। रिपोर्ट में अनुमान लगाया गया है कि अनुसंधान और विकास (R&D) परियोजनाएं, जिन्हें मानवों को महीनों लगेंगे, 2028 तक AI द्वारा पूरी तरह से स्वचालित की जा सकती हैं। यह किसी विशेष मॉडल के रिलीज का पूर्वानुमान नहीं है। यह R&D संगठनों के भीतर कार्य स्वचालन के बारे में एक दावा है, जो छोटे सुधारों के संघनन का सही क्षेत्र है।

यह पेपर यह भी बताता है कि सॉफ़्टवेयर तेजी वास्तविक दुनिया की क्षमता में कितनी तेजी से अनुवादित होगा, इस पर अनिश्चितता है। यह नोट करता है कि विशेष सामग्रियों के लिए आपूर्ति श्रृंखला की स्थापना या नियामक अनुपालन द्वारा breakthroughs धीमी हो सकती हैं। यह यह भी तर्क करता है कि AI न केवल क्षति को कम करने में बल्कि क्षमताओं में भी तेजी ला सकता है, जिससे किसी भी साफ "अधिक स्वचालन का मतलब अधिक जोखिम" कथा को जटिल बना दिया जाता है।

नीति उपकरण जो कंप्यूट को प्रभावित कर सकते हैं: ऑडिटर्स, गति प्रतिबंध, और डाटासेंटर ठहराव समन्वय

रिपोर्ट का नीति एजेंडा असामान्य रूप से संचालनात्मक है। इसकी शीर्ष प्राथमिकताओं में AI-संबंधित R&D पर पारदर्शी प्रगति रिपोर्ट की आवश्यकता शामिल है, जिसमें कंपनियों में स्वतंत्र ऑडिटर्स को शामिल करना और "तेज AI विकास को सीमित करने के तरीके खोजना" शामिल है, साथ ही एक बुद्धिमत्ता विस्फोट के अनुकूलन के लिए तैयारी करना।

इन प्राथमिकताओं के अलावा, पेपर उन उपकरणों की सूची देता है जो सीधे कंप्यूट और प्रशिक्षण संचालन से संबंधित हैं। यह प्रस्तावित करता है कि एक AI कितनी तेजी से एक निर्दिष्ट समय अवधि में सुधार कर सकता है, कुछ AI R&D परियोजनाओं को रोकने के लिए डाटासेंटर के साथ काम करना, और यह सुनिश्चित करना कि स्वचालित AI R&D सिस्टम पूरी तरह से अलग-थलग हों और मानव नियंत्रण से बच न सकें। यह "आपातकालीन प्रतिक्रिया योजनाओं" की भी मांग करता है जो एक बुद्धिमत्ता विस्फोट से उत्पन्न हो सकती हैं।

डाटासेंटर समन्वय विचार सबसे बाजार-संबंधित लीवर है क्योंकि इसका अर्थ अवसंरचना स्तर पर प्रवर्तन है। यदि नियामक कभी मॉडल-स्तरीय रिपोर्टिंग से डाटासेंटर-स्तरीय दायित्वों की ओर बढ़ते हैं, तो नियंत्रण की व्यावहारिक इकाई प्रशिक्षण रन और क्लस्टर बन जाती है, न कि ऐप। यह वह प्रकार का बदलाव है जो AI-संबंधित कथाओं को तेजी से पुनर्मूल्यांकन कर सकता है, क्योंकि यह प्रगति की अपेक्षित ढलान को बदलता है न कि पता लगाने योग्य बाजार को।

मेरी क्रिप्टो ट्रेडर्स के लिए पढ़ाई: जब AI सुरक्षा एक कंप्यूट थ्रॉटल बन जाती है, तो कथाएँ तेजी से पुनर्मूल्यांकन होती हैं।

यहाँ जो सीमा महत्वपूर्ण है वह यह नहीं है कि रिपोर्ट का "बुद्धिमत्ता विस्फोट" परिदृश्य गुणों पर सही है या नहीं। यह इस पर निर्भर करता है कि क्या इसके प्रस्तावित नियंत्रण स्पष्ट नीति वस्तुएं बन जाते हैं: स्वतंत्र ऑडिटर्स के साथ अनिवार्य प्रगति रिपोर्टिंग, विकास गति पर स्पष्ट प्रतिबंध, और डाटासेंटर-स्तरीय ठहराव समन्वय जो कार्यान्वित किया जा सकता है।

यदि ये विचार सरकारी प्रस्तावों में दिखाई देने लगते हैं, तो सेटअप संरचनात्मक दिखने लगता है न कि कथा-प्रेरित, क्योंकि चोक पॉइंट्स उपधारा और मापने योग्य होते हैं। व्यावहारिक अंतर सरल है: AI सुरक्षा एक प्रतिष्ठा बहस बनना बंद कर देती है और एक कंप्यूट थ्रॉटल बन जाती है, और तब AI और डाटासेंटर-संबंधित कथाएँ नीति जोखिम के आधार पर पुनर्मूल्यांकन होती हैं न कि शुद्ध पुनरावृत्ति गति के आधार पर।

स्रोत

• द गार्जियन