OpenAI ने 370+ गणित परिणामों को हटाया, IAS ने चेताया

OpenAI ने बीजगणित, सैद्धांतिक कंप्यूटर विज्ञान और गणितीय तर्क सहित क्षेत्रों में 370 से अधिक गणितीय परिणाम प्रकाशित किए, जिससे इसके सबसे उन्नत मॉडलों के शोध परिणाम सार्वजनिक रूप से उपलब्ध हो गए। इस रिलीज ने इस बात पर एक शासन संघर्ष को तेज कर दिया है कि क्या स्वामित्व वाले फ्रंटियर मॉडल ऐसे प्रमाण उत्पन्न कर सकते हैं जिन्हें व्यापक गणित समुदाय तक पहुंच, सत्यापित या जिम्मेदारी नहीं ले सकता।

OpenAI के 370+ गणितीय परिणामों की रिलीज ने सत्यापन को सुर्खियों में ला दिया

OpenAI ने बीजगणित, सैद्धांतिक कंप्यूटर विज्ञान और गणितीय तर्क में फैले 370 से अधिक गणितीय परिणाम प्रकाशित किए। यह बैच रिलीज पिछले महीने के एक उच्च-प्रोफ़ाइल दावे की छाया में आई, जब OpenAI ने कहा कि उसने Navier–Stokes समीकरण को हल किया, जो एक मौलिक तरल-गतिकी समस्या है, जिसे सही समाधान के लिए $1 मिलियन का पुरस्कार दिया गया है।

यांत्रिक रूप से, तनाव सरल है: फ्रंटियर प्रयोगशालाएँ उन्नत समस्याओं को ऐसे मॉडलों के माध्यम से चला सकती हैं जिन तक बाहरी लोग स्वतंत्र रूप से पहुँच या निरीक्षण नहीं कर सकते, फिर ऐसे आउटपुट प्रकाशित कर सकते हैं जो शोध परिणामों की तरह दिखते हैं। यह एक क्षमता प्रदर्शन के रूप में काम करता है, लेकिन यह सत्यापन को एक शासन प्रश्न में भी बदल देता है, क्योंकि जिस समुदाय से काम को मान्य करने के लिए कहा जा रहा है, उसके पास इसे पुन: उत्पन्न करने के लिए समान उपकरण, मॉडल पहुँच, या ट्रेसबिलिटी नहीं हो सकती।

तत्काल प्रतिक्रिया इस बारे में नहीं है कि "370" एक बड़ा नंबर है या नहीं। यह इस बारे में है कि क्या उन परिणामों का उत्पादन करने वाली पाइपलाइन स्वतंत्र जांच के लिए पर्याप्त स्पष्ट है, और क्या एक निजी प्रयोगशाला के प्रोत्साहन उन उचित परिश्रम मानकों के साथ मेल खाते हैं जो गणितीय दावों को टिकाऊ बनाते हैं।

IAS और गणितज्ञों ने मुख्य जोखिमों को चिह्नित किया: सत्यापन योग्य प्रमाण, जिम्मेदारी, और पहुँच

प्रिंसटन, न्यू जर्सी में एडवांस्ड स्टडी इंस्टीट्यूट (IAS) ने कहा कि यह फ्रंटियर प्रयोगशालाओं द्वारा उन्नत गणितीय समस्याओं का परीक्षण करने के अभ्यास का समर्थन नहीं करता है, जो स्वामित्व वाले AI मॉडलों पर आधारित हैं जो व्यापक गणित समुदाय के लिए उपलब्ध नहीं हैं। इसका विरोध एक जिम्मेदारी के अंतर के रूप में प्रस्तुत किया गया है जो ऐसे मॉडल आउटपुट द्वारा उत्पन्न होता है जो मानव समझ से आगे निकल सकते हैं।

IAS ने कहा, "अब यह मामला है कि AI ऐसे गणितीय तर्कों को उत्पन्न कर सकता है जिन स्थितियों में मानव जो इसे प्रेरित करता है, तर्कों को समझने, सत्यापित करने या उनकी जिम्मेदारी लेने में असमर्थ होता है।" संस्थान ने जोड़ा: "हम मानते हैं कि गणित की मानव समझ सर्वोपरि महत्व की बनी हुई है। इस नए युग में, हम जिम्मेदार शैक्षणिक उत्पादन के हिस्से के रूप में गणित की मानव समझ को शामिल करने के लिए एक नए पैराजाइम की दिशा में कैसे काम कर सकते हैं?"

एक अलग fault line उत्पत्ति है, केवल सही होने के बजाय। NYU के गणितज्ञ ट्रिस्टन बकमास्टर ने चेतावनी दी कि प्रेरणा देने की क्रिया स्वयं महत्वपूर्ण जानकारी को इंजेक्ट कर सकती है, जिससे यह धुंधला हो जाता है कि "परिणाम" कहाँ से आया और किसे श्रेय मिलना चाहिए। बकमास्टर ने यह भी जोखिम उठाया कि मॉडल-सहायता प्राप्त कार्य प्रभावी रूप से किसी और के आंशिक रूप से विकसित विचार को समाप्त कर सकता है: "संभवतः ऐसे परिणामों का एक समूह होगा जहाँ वे किसी के काम को लेते हैं और फिर उसे पूरा करते हैं।"

एक सलाहकार बोर्ड ने AI प्रयोगशालाओं से वैश्विक गणित समुदाय को उनके AI मॉडलों तक "समान पहुँच" प्रदान करने का आग्रह किया, यह तर्क करते हुए कि बंद आंतरिक प्रणालियाँ क्षेत्र को धनी और गरीब में विभाजित करने का जोखिम उठाती हैं। "AI प्रयोगशालाओं द्वारा गणितीय शोध करने के लिए स्वामित्व वाले आंतरिक मॉडलों का उपयोग एक दो-स्तरीय प्रणाली बनाने का जोखिम उठाता है जहाँ प्रयोगशालाएँ बाकी क्षेत्र से आगे निकल जाती हैं, प्रभावी रूप से गणितीय समुदाय को अपनी खुद की अनुशासन से अलग कर देती हैं," समूह ने लिखा।

ओपनएआई के IAS आउटरीच का संकेत फ्रंटियर-मॉडल शासन के लिए क्या है

ओपनएआई की प्रतिक्रिया भागीदारी थी, न कि पीछे हटना। कंपनी ने कहा कि वह IAS के साथ काम करेगी ताकि "गणितज्ञों को यह बताने का अवसर मिले कि हम आगे कैसे बढ़ते हैं," लेकिन उसने यह नहीं बताया कि वह अपने AI मॉडलों का परीक्षण उन्नत गणितीय समस्याओं के साथ बंद कर देगी।

यह मूल विवाद को जीवित छोड़ देता है: क्या फ्रंटियर-मॉडल अनुसंधान को समुदाय विज्ञान के रूप में माना जा सकता है बिना समुदाय की पहुंच के। अगला ठोस संकेत एक प्रकाशित ढांचा होगा जो यह निर्दिष्ट करता है कि कौन भाग लेता है, क्या समीक्षा की जाती है, और किस समयसीमा पर, क्योंकि "स्वर" बिना दायरे के नियंत्रण नहीं है।

इस कहानी के समाधान के लिए दो अन्य मील के पत्थर महत्वपूर्ण हैं। एक यह है कि क्या ओपनएआई, या अन्य फ्रंटियर प्रयोगशालाएं, "समान पहुंच" मानक की ओर बढ़ती हैं जिसकी सलाहकार बोर्ड ने मांग की थी, जो सीधे दो-स्तरीय गतिशीलता को कम करेगा। दूसरा सत्यापन स्थिति है: स्रोत सामग्री 370+ परिणामों या दावा किए गए Navier–Stokes समाधान के लिए स्वतंत्र पुनरावृत्ति या समकक्ष समीक्षा स्थापित नहीं करती है, इसलिए पुनरुत्पादकता और समीक्षा पथों पर कोई भी अपडेट एक और शीर्षक संख्या की तुलना में अधिक महत्व रखेगा।

मेरा विचार: व्यापारियों के लिए, यह एक AI-विश्वास कथा उत्प्रेरक है, न कि एक गणितीय सफलता जिसे आप अभी मूल्यांकन कर सकें

यहां बाजारों को हिलाने वाला हिस्सा यह नहीं है कि क्या एक बंद मॉडल सैकड़ों गणितीय परिणाम दे सकता है। यह IAS द्वारा एक स्पष्ट रेखा खींचना है जो फ्रंटियर प्रयोगशालाओं को उन्नत समस्याओं का परीक्षण करने से रोकता है जिन पर व्यापक क्षेत्र की पहुंच नहीं है, क्योंकि यह "क्षमता" को एक शासन और वैधता की समस्या में बदल देता है जो AI-टोकन भावना में फैल सकती है।

जो सीमा महत्वपूर्ण है वह यह है कि क्या ओपनएआई और IAS आउटरीच को एक ठोस सत्यापन और पहुंच ढांचे में बदलते हैं, और क्या 370+ परिणामों में से कोई भी या Navier–Stokes दावा एक स्वतंत्र मान्यता पथ प्राप्त करता है जिसे बाहरी लोग वास्तव में चला सकते हैं। यदि ऐसा होता है, तो कहानी कथा जोखिम से मापने योग्य प्रक्रिया में बदल जाती है, और यही इसे व्यावहारिक दृष्टिकोण से महत्वपूर्ण बनाता है।

स्रोत

• द गार्जियन