TypeSafe AI ने Jev लॉन्च किया, एजेंट ऑटोमेशन के लिए

TypeSafe AI ने Jev जारी किया, एक "मशीन-नेटिव" मॉडल जो प्रकारित संभाव्य निर्णय लौटाता है जिसे सॉफ़्टवेयर द्वारा उपयोग करने के लिए डिज़ाइन किया गया है न कि चैट उपयोगकर्ताओं द्वारा। कंपनी इस प्रणाली को विश्वसनीय एजेंट कार्यप्रवाहों के लिए तेज़, सस्ता रास्ता बताकर पेश कर रही है, जिसमें विलंबता और मूल्य निर्धारण के दावे मुख्यधारा के LLMs के खिलाफ रखे गए हैं।

मुख्य निष्कर्ष

• TypeSafe AI ने Jev जारी किया, एक AI मॉडल जो प्राकृतिक भाषा प्रतिक्रियाओं के बजाय प्रकारित, संरचित संभाव्य निर्णय प्रदान करता है।
• स्टार्टअप ने कहा कि उसके पास $40 मिलियन का फंडिंग है और वह Jev को सीमित-उत्तर स्वचालन जैसे कार्यप्रवाह रूटिंग और टूल-कॉल सिस्टम के लिए स्थिति में रख रहा है।
• TypeSafe AI ने 70ms–500ms प्रतिक्रिया समय का दावा किया और Jev को "पारंपरिक LLMs की तुलना में 40x–200x तेज" के रूप में प्रस्तुत किया, जिसमें समानांतर प्रसंस्करण और "सिस्टम वन" डिज़ाइन का उल्लेख किया।
• Jev की कीमत $0.042 प्रति मिलियन टोकन (MTok) इनपुट के लिए और आउटपुट के लिए $0 है, और एक TypeSafe डेमो ने OpenAI के GPT-5.6 टेरा के लिए 8.566s की तुलना में 0.114s की प्रतिक्रियाएँ दिखाई।

Jev मशीनों के लिए निर्मित मॉडल के रूप में पदार्पण करता है, न कि चैट के लिए

TypeSafe AI का नया मॉडल, Jev, एक सरल सिद्धांत के चारों ओर बनाया गया है: कई एजेंट कार्यप्रवाहों को गद्य की आवश्यकता नहीं होती। उन्हें एक निर्णय वस्तु की आवश्यकता होती है जिसे एक प्रोग्राम बिना दूसरे पास के पार्सिंग, मान्यता और गार्डरेल के बिना उपभोग कर सके।

प्रॉम्प्ट के लिए प्राकृतिक भाषा लौटाने के बजाय, Jev प्रकारित संभाव्य निर्णय लौटाता है, जिसका अर्थ है कि आउटपुट एक पूर्वनिर्धारित डेटा प्रकार है जैसे कि श्रेणी विकल्प या स्कोर, संभावनाओं के साथ जोड़ा गया। TypeSafe इसे "मशीन-नेटिव AI" के रूप में स्पष्ट रूप से स्थिति में रख रहा है, जो चैट-शैली इंटरफेस से एक बदलाव है जहाँ मॉडल का प्राथमिक उत्पाद पाठ है।

कंपनी ने कहा कि उसके पास $40 मिलियन का फंडिंग है और उसने खुद को अग्रणी मॉडलों का निर्माता बताया। TypeSafe AI के सह-संस्थापक और CEO Diogo Almeida, जिन्हें एक पूर्व OpenAI शोधकर्ता और मानव फीडबैक से सुदृढीकरण सीखने (RLHF) और ChatGPT के "एक सह-आविष्कारक" के रूप में पहचाना गया, ने लक्ष्य को सॉफ़्टवेयर उपभोक्ताओं के लिए बुद्धिमत्ता बनाना बताया, न कि केवल मानवों के लिए। "TypeSafe को मशीन-नेटिव AI पर ध्यान केंद्रित करते हुए AI अनुसंधान के लिए एक वैकल्पिक मार्ग का अनुसरण करने के लिए स्थापित किया गया था," Almeida ने कहा। "मैंने वर्षों तक ऐसे मॉडलों पर काम किया जो AI को लोगों के साथ बातचीत करने में बेहतर बनाने के लिए डिज़ाइन किए गए थे। लेकिन अगर AI काम करने के तरीके को मौलिक रूप से बदलने जा रहा है, तो लोगों को बुद्धिमत्ता के एकमात्र उपभोक्ता नहीं होना चाहिए।"

गति और मूल्य दावे: 70–500ms विलंबता और $0 आउटपुट टोकन

TypeSafe का लॉन्च पिच AI अवसंरचना कथाओं में व्यापारियों के लिए वास्तव में महत्वपूर्ण दो प्राइमिटिव्स पर जोर देता है: विलंबता और यूनिट अर्थशास्त्र।

प्रदर्शन पर, TypeSafe ने दावा किया कि Jev की प्रतिक्रिया समय 70ms से 500ms के बीच है और कहा कि यह "पारंपरिक LLMs की तुलना में 40x–200x तेज है।" प्रदान की गई प्रणाली आर्किटेक्चरल है। पारंपरिक बड़े भाषा मॉडल क्रमिक रूप से अगले टोकन की भविष्यवाणी करके पाठ उत्पन्न करते हैं, जबकि Jev को "सिस्टम वन" मॉडल के रूप में वर्णित किया गया है जो एक बार में एक प्रश्न के सभी आउटपुट लौटाता है, समानांतर प्रसंस्करण का उपयोग करते हुए।

TypeSafe ने अपनी वेबसाइट पर एक प्रत्यक्ष डेमो तुलना भी प्रकाशित की: Jev 0.114 सेकंड में प्रतिक्रिया लौटाता है जबकि OpenAI का GPT-5.6 टेरा 8.566 सेकंड में। पैकेट में स्वतंत्र बेंचमार्किंग शामिल नहीं है, इसलिए संख्याओं को एक विशिष्ट डेमो सेटअप के तहत विक्रेता द्वारा दावा किए गए प्रदर्शन के रूप में पढ़ा जाना चाहिए।

मूल्य निर्धारण पर, TypeSafe ने Jev को इनपुट के लिए $0.042 प्रति MTok और आउटपुट के लिए $0 पर सूचीबद्ध किया। उसी सामग्री ने इसे OpenAI के GPT-5.6 टेरा के साथ तुलना की, जो $2.00 प्रति MTok इनपुट और $12 प्रति MTok आउटपुट पर है, और दावा किया कि Jev "Fable 5.1 जैसे शीर्ष श्रेणी के मॉडल की तुलना में 238x सस्ता है।" ये तुलना दिशा में स्पष्ट हैं, लेकिन पैकेट में अतिरिक्त स्रोतों द्वारा पुष्टि नहीं की गई हैं।

व्यापक दांव परिचित है: यदि "सोचने" की सीमांत लागत गिरती है, तो उपयोग बढ़ता है। TypeSafe ने इसे नाम में भी शामिल किया है। "Jev" अर्थशास्त्री विलियम स्टेनली जेवन्स और जेवन्स विरोधाभास का संदर्भ देता है, यह विचार कि दक्षता लाभ कुल उपभोग को बढ़ा सकते हैं बजाय इसके कि इसे कम करें।

इंटरफेस के अंदर: विकल्प/स्कोर/नौल और संभाव्य प्रकारित आउटपुट

Jev का इंटरफेस चैट की तरह कम और एक फ़ंक्शन कॉल की तरह अधिक दिखने के लिए डिज़ाइन किया गया है।

एक डेवलपर "राज्य मान" से शुरू करता है, जो एक JSON ऑब्जेक्ट या एक साधारण स्ट्रिंग हो सकती है जैसे "मेरी कार्ड को दो बार चार्ज किया गया।" Jev फिर उस राज्य को विकल्प, स्कोर और नौल नामक प्रश्न प्राइमिटिव्स के माध्यम से प्राप्त करता है। प्रत्येक प्राइमिटिव एक अलग संरचित प्रतिक्रिया प्रकार लौटाता है जिसमें संभावनाएँ होती हैं, जो कि बिंदु है: आउटपुट पहले से ही सॉफ़्टवेयर के लिए आकार में है।

TypeSafe का ग्राहक सेवा रूटिंग के लिए उदाहरण सबसे साफ चित्रण है। एक प्रश्न पूछने पर कि तीन विभागों में से कौन सा एक प्रश्न को संभालना चाहिए, एक संभाव्यता वितरण लौटाता है: {"billing": 0.08, "technical": 0.85, "sales": 0.07}, जिसमें 0.82 का विश्वास स्कोर है। एक मानव के लिए, यह अजीब है। एक कार्यप्रवाह इंजन के लिए, यह एक स्पष्ट अनिश्चितता माप के साथ एक तैयार रूटिंग निर्णय है।

TypeSafe ने Jev का वर्णन "System One" मॉडल के रूप में किया है जो Calibrated Decisions (RLCD) के लिए Reinforcement Learning नामक आर्किटेक्चर का उपयोग करता है। कंपनी की विश्वसनीयता की पेशकश टूल कॉल्स पर केंद्रित है, जिसका अर्थ है एक एजेंट जो एक बाहरी फ़ंक्शन को ट्रिगर करता है या"API"।TypeSafe ने तर्क किया कि "एक एजेंट में एक हॉल्यूसीनेटेड टूल कॉल होना असुविधाजनक है, लेकिन यह एक सिस्टम में लेटेंसी गारंटी के हिस्से के रूप में एक पूर्ण डील-ब्रेकर है या यह कई परतों में एक निर्भरता श्रृंखला में दबी हुई है," और जोड़ा: "मौजूदा मॉडल, चाहे कितने भी स्मार्ट हों, फिर भी हॉल्यूसीनेट करते हैं और प्रकार की त्रुटियाँ होती हैं।"

TypeSafe ने यह भी दावा किया कि Jev "हॉल्यूसीनेशन-फ्री" है, लेकिन पैकेट स्वयं यह स्पष्ट करता है कि यह एक सेब-से-सेब तुलना नहीं है। Jev प्राकृतिक भाषा का आउटपुट नहीं देता है, और संरचित संभाव्य आउटपुट अभी भी गलत हो सकते हैं भले ही वे नकली कानूनी उद्धरण जैसे निर्मित पाठ की क्लासिक विफलता मोड से बचते हों।

व्यापारियों के लिए संकेत: टोकन-इकोनॉमिक्स दबाव और एजेंट स्वचालन अपनाना

निकट-अवधि का बाजार संकेत "स्मार्टर मॉडल" नहीं है, यह लागत वक्र दबाव है। यदि एक प्रकाशित $0 आउटपुट-टोकन मूल्य उत्पादन और पैमाने पर बना रहता है, तो यह सामान्य धारणा को सीधे चुनौती देता है कि एजेंटिक सिस्टम को लंबे जनरेशन और विस्तृत तर्क ट्रेस के लिए भुगतान करना चाहिए।

दूसरा संकेत उत्पाद विशिष्टता के रूप में लेटेंसी है। यदि Jev का दावा किया गया 70–500ms रेंज एक नियंत्रित डेमो के बाहर सामान्यीकृत होता है, तो यह वास्तविक समय निर्णय मॉडल की ओर एक बदलाव का समर्थन करता है जहां प्रतिक्रिया समय की गारंटी चैट गुणवत्ता से अधिक महत्वपूर्ण होती है। यह एक एजेंट के बीच का अंतर है जो एक निर्भरता श्रृंखला में बैठ सकता है और एक जो टाइमआउट के पीछे सैंडबॉक्स में होना चाहिए।

तीसरा संकेत सीमित-उत्तर स्वचालन में अपनाने का प्रमाण है। TypeSafe ने उपयोग के मामलों की सूची दी जिसमें AI स्वचालन सॉफ़्टवेयर, त्वरित निर्णय की आवश्यकता वाले वास्तविक समय के अनुप्रयोग, बड़े कॉर्पस को वर्गीकृत करने के लिए मैप-रिड्यूस नौकरियां, AI इनपुट का सत्यापन, और AI मॉडल हार्नेस शामिल हैं। Doom डेमो यादगार है, लेकिन उत्पादन रूटिंग, सत्यापन, और वर्गीकरण कार्यभार वही हैं जहाँ "मशीन-नेटिव" या तो एक श्रेणी बन जाता है या एक डेमो बना रहता है।

अंत में, पैकेट एक साफ चेकलिस्ट छोड़ता है कि क्या इसे कथा से मापने योग्य में स्थानांतरित करेगा: लेटेंसी और "40x–200x तेज" दावे का तीसरे पक्ष द्वारा बेंचमार्किंग, प्रकाशित $0.042/MTok इनपुट और $0 आउटपुट मूल्य निर्धारण में कोई संशोधन, और $40 मिलियन फंडिंग से जुड़े फॉलो-ऑन घोषणाएँ जैसे विस्तारित उपलब्धता, उद्यम साझेदारी, या बुनियादी ढांचे का स्केलिंग।

मेरी राय: यदि Jev के बेंचमार्क बनाए रहते हैं, तो प्रतिस्पर्धात्मक लड़ाई "स्मार्टर" से "सस्ता और स्वचालित करने के लिए सुरक्षित" में बदल जाती है।

यह हिस्सा जो तय करता है कि जेव महत्वपूर्ण है या नहीं, वह डूम डेमो नहीं है, बल्कि यह है कि क्या टाइप किए गए संभाव्य आउटपुट वास्तव में उत्पादन में एजेंटों के संचालन कर लगाने को कम करते हैं। यदि एक वर्कफ़्लो एक चॉइस/स्कोर-शैली के उत्तर को बिना पार्सिंग और मान्यता की परतों के उपभोग कर सकता है, तो "हैलुसिनेशन्स" एक दार्शनिक तर्क बनना बंद कर देता है और एक इंजीनियरिंग बजट लाइन बन जाता है।

जो थ्रेशोल्ड महत्वपूर्ण है वह स्वतंत्र सत्यापन है: यदि 70–500 मिलीसेकंड की लेटेंसी रेंज और 0.114 सेकंड का डेमो परिणाम TypeSafe के वातावरण के बाहर स्थिर रहता है, तो प्रतिस्पर्धात्मक धुरी चैट गुणवत्ता से प्रतिक्रिया-समय की गारंटी और निर्णय प्रति यूनिट लागत की ओर बदल जाती है, जो स्वचालन को हर जगह चलाने के लिए पर्याप्त सस्ता बनाता है, न कि केवल वहां जहां इसकी देखभाल करने की आवश्यकता होती है।

स्रोत

• द रजिस्टर