Ramp ने Router लॉन्च किया, 2026 तक मुफ्त LLM API

रैंप ने राउटर लॉन्च किया है, एक एपीआई जो कंपनियों को कई बड़े भाषा मॉडल प्रदाताओं के बीच एआई अनुरोधों को रूट करने की अनुमति देता है, जिसमें अंतर्निहित रूटिंग रणनीतियाँ और एक खर्च और विलंबता डैशबोर्ड शामिल है। यह सेवा लॉन्च के समय केवल अमेरिका में उपलब्ध है, 2026 के अंत तक उपयोग के लिए मुफ्त है, जिसमें अनुमान लागत शामिल नहीं है, और यह प्रॉम्प्ट्स और आउटपुट्स के लिए एक वर्ष की डिफ़ॉल्ट, ऑप्ट-आउट रिटेंशन नीति के साथ आती है।

मुख्य निष्कर्ष

• रैंप ने राउटर लॉन्च किया, एकएपीआईजो टीमों को रूटिंग रणनीतियों और खर्च/प्रदर्शन डैशबोर्ड के साथ कई बड़े भाषा मॉडल प्रदाताओं के बीच स्विच करने की अनुमति देता है।
• राउटर लॉन्च के समय अमेरिका के उपयोगकर्ताओं तक सीमित है और 2026 के अंत तक उपयोग के लिए मुफ्त है, जिसमें अंतर्निहित मॉडल अनुमान लागत शामिल नहीं है, साथ ही $26 का लॉन्च क्रेडिट।
• रैंप का कहना है कि राउटर पिछले तीन वर्षों से आंतरिक रूप से चल रहा है, और रिलीज को एक बाहरी उत्पादन उपकरण के रूप में स्थिति में रखा गया है न कि एक नए प्रयोग के रूप में।
• डिफ़ॉल्ट नीति मॉडल इनपुट्स, आउटपुट्स और टूल कॉल्स को एक वर्ष के लिए ऑप्ट-आउट आधार पर बनाए रखती है, और रैंप का कहना है कि यह उत्पाद को सुधारने के लिए सामग्री का उपयोग करने से पहले व्यक्तिगत पहचान योग्य जानकारी को हटा देता है।

रैंप ने राउटर लॉन्च किया: एक अमेरिका-केवल LLM रूटिंग एपीआई, 2026 तक मुफ्त

रैंप, जो कॉर्पोरेट खर्च प्रबंधन के लिए सबसे अच्छा जाना जाता है, ने राउटर के साथ एआई अवसंरचना में और अधिक धकेल दिया है, जो एक मॉडल-रूटिंग सेवा है जो एक एप्लिकेशन और कई बड़े भाषा मॉडल प्रदाताओं के बीच स्थित है। यांत्रिक रूप से, यह एक एकल एपीआई एकीकरण है जो नियमों के आधार पर प्रत्येक अनुरोध को चुने हुए मॉडल विक्रेता को भेज सकता है। परिणामस्वरूप, एआई-भारी कार्यप्रवाह चलाने वाली टीमों के लिए विक्रेता लॉक-इन कम हो जाता है, और रैंप के लिए अनुमान में “ट्रैफिक दिशा” के लिए शुल्क लेने का एक स्पष्ट मार्ग बनता है।

राउटर लॉन्च के समय केवल संयुक्त राज्य अमेरिका में उपलब्ध है। रैंप 2026 के शेष समय के लिए सेवा का उपयोग मुफ्त में करने की पेशकश कर रहा है, जबकि ग्राहकों को अंतर्निहित मॉडल अनुमान लागत का भुगतान करने की आवश्यकता है। $26 का लॉन्च क्रेडिट शामिल है, और रैंप ने यह नहीं बताया है कि 2027 में राउटर की लागत क्या होगी।

रैंप राउटर को आंतरिक उपकरणों का बाहरी उत्पादकरण बताता है, यह कहते हुए कि उसने पिछले तीन वर्षों में अपनी AI उपयोग आवश्यकताओं के लिए अपने राउटर का उपयोग किया है। यह महत्वपूर्ण है क्योंकि राउटिंग परतें पहले उबाऊ तरीकों से विफल होती हैं, जैसे कि एज-केस लेटेंसी स्पाइक्स, प्रदाता आउटेज, और बिलिंग असंगतियाँ। "हम पहले ही इसे उत्पादन में जी चुके हैं" विश्वसनीयता का प्रस्ताव है।

राउटर कैसे काम करता है: OpenAI, Anthropic, DeepSeek, xAI और अधिक के लिए एक एकीकरण।

एक मॉडल राउटर AI अनुमान के लिए एक ट्रैफिक कॉप है, नया मॉडल नहीं। डेवलपर्स एक बार एकीकृत करते हैं, फिर चुनते हैं कि प्रत्येक अनुरोध को कौन सा प्रदाता संभालता है बिना हर विक्रेता के API के लिए अपने ऐप को फिर से लिखे। राउटर का प्रस्ताव है कि स्विचिंग लागत "इंजीनियरिंग प्रोजेक्ट" से "कॉन्फ़िगरेशन परिवर्तन" में स्थानांतरित होती है, जो विक्रेता वैकल्पिकता को वास्तविक बनाती है।

लॉन्च के समय, राउटर OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, और Z.ai से मॉडल तक पहुंच प्रदान करता है। रैंप अभी तक कैटलॉग की चौड़ाई पर जीतने की कोशिश नहीं कर रहा है। उत्पाद को OpenRouter के समान स्थिति में रखा गया है, लेकिन OpenRouter की लाइनअप की तुलना में कम मॉडल विकल्पों के साथ।

राउटर के साथ राउटिंग "रणनीतियाँ" भी शामिल हैं, जो यह तय करने के लिए पूर्व-निर्मित नियम हैं कि अनुरोध कहाँ जाएँ। एक रणनीति उपयोगकर्ताओं को मॉडल प्रदाताओं के लचीले उपयोग स्तरों के लिए प्राथमिकता सेट करने की अनुमति देती है। दूसरी रणनीति राउटर को तीन उपयोगकर्ता-निर्धारित बेंचमार्क के आधार पर प्रश्नों को राउट करने के लिए मॉडल चुनने देती है। रैंप यह भी कहता है कि ग्राहक केवल कठिन समस्याओं को अधिक महंगे मॉडलों पर राउट कर सकते हैं, या बिना मैन्युअल रूप से एकीकरण स्विच किए मॉडल का परीक्षण कर सकते हैं।

कुछ टीमों के लिए गेटिंग विवरण डेटा हैंडलिंग है। राउटर के पास एक ऑप्ट-आउट रिटेंशन नीति है जो डिफ़ॉल्ट रूप से एक वर्ष के लिए मॉडल इनपुट, आउटपुट, और टूल कॉल को रिकॉर्ड करती है। रैंप कहता है कि वह उस सामग्री का उपयोग करने से पहले व्यक्तिगत पहचान योग्य जानकारी को हटा देगा, लेकिन उसने यह नहीं बताया है कि उस PII को हटाने को कैसे लागू किया जाता है या कंपनियों को ऑप्ट-आउट के अलावा क्या नियंत्रण मिलते हैं।

लागत, लेटेंसी, और फॉलबैक: खर्च डैशबोर्ड जिस पर रैंप दांव लगा रहा है।

राउटर का दूसरा उत्पाद सतह अवलोकन है: एक डैशबोर्ड जो टोकन खर्च, लागत, लेटेंसी, फॉलबैक प्रयास, और अन्य विवरणों की रिपोर्ट करता है। टोकन अधिकांश टेक्स्ट मॉडलों के लिए बिलिंग इकाई हैं, लेटेंसी प्रतिक्रिया का समय है, और फॉलबैक प्रयास पहले विकल्प विफल होने या अनुरोध को सेवा नहीं देने पर पुनः प्रयास या प्रदाता स्विच हैं। एक साथ मिलाकर, यह बिल और विफलता मोड दोनों का एक दृश्य है।

वह डैशबोर्ड रैंप के मुख्य व्यवसाय की ओर वापस जाने का पुल है। यदि कोई टीम कई प्रदाताओं के बीच राउटिंग कर रही है, तो गंदा हिस्सा केवल सबसे सस्ते मॉडल का चयन करना नहीं है। यह समझना है कि कब "सस्ता" "धीमा" बन जाता है, कब एक प्रदाता की क्षमता सीमाएँ फॉलबैक को सक्रिय करती हैं, और कब एक राउटिंग नियम चुपचाप एक विक्रेता से दूसरे विक्रेता की ओर खर्च को स्थानांतरित करता है। रैंप यह दांव लगा रहा है कि खर्च की परत चिपचिपी है, और एक बार जब कोई कंपनी माप पर भरोसा करती है, तो वह रैंप को अनुरोध पथ में बैठने की अनुमति देगी।

2026 तक मुफ्त की संरचना उस अपनाने की रणनीति को मजबूत करती है। रैंप वास्तविक अनुमान बिल को माफ नहीं कर रहा है, जो अभी भी मॉडल प्रदाताओं पर जमा होता है। यह अभी के लिए अपनी खुद की राउटिंग फीस को माफ कर रहा है, जिससे राउटर को एक नियंत्रण विमान के रूप में आजमाने में कम बाधा आती है जबकि रैंप सीखता है कि ग्राहक वास्तव में किस चीज़ का अनुकूलन करते हैं।

2026 के बाद मूल्य निर्धारण एक खुला प्रश्न है - और रैंप अभी तक नहीं कह रहा है।

राउटर पर आगे की वक्र मुख्य रूप से इस बारे में है कि रैंप मुफ्त अवधि समाप्त होने के बाद क्या चार्ज करने का चयन करता है। रैंप ने यह नहीं कहा है कि 2027 में सेवा की लागत कितनी होगी, यह खुला छोड़ते हुए कि मूल्य निर्धारण अनुमान पर एक टेक रेट, एक सदस्यता, प्रति अनुरोध शुल्क, या नियंत्रण और रिपोर्टिंग से जुड़े उद्यम स्तरों के रूप में आता है।

भौगोलिकता एक और संकेत है। राउटर आज केवल अमेरिका में है, और अमेरिका के बाहर विस्तार व्यापक उद्यम तत्परता और वितरण की महत्वाकांक्षा को संकेत देगा, विशेष रूप से उन टीमों के लिए जिन्हें क्षेत्रों में लगातार नीति और डेटा प्रबंधन की आवश्यकता होती है।

डेटा स्थिति तीसरा लीवर है। एक डिफ़ॉल्ट एक साल, ऑप्ट-आउट रिटेंशन नीति कुछ ऑपरेटरों के लिए एक उच्च-फ्रिक्शन डिफ़ॉल्ट है, भले ही PII हटाने के दावे हों। छोटी रिटेंशन, ऑप्ट-इन स्टोरेज, या स्पष्ट उद्यम नियंत्रण यह एक ठोस संकेत होगा कि रैंप विनियमित और सुरक्षा-संवेदनशील कार्यभार के लिए अनुकूलन कर रहा है।

अंत में, प्रदाता सूची संभवतः बदलने वाली है। राउटर वर्तमान में OpenAI, Anthropic, DeepSeek, Moonshot, Minimax, Nvidia, xAI, और Z.ai का समर्थन करता है। उस सेट के अलावा जोड़े जाने वाले तत्व यह स्पष्ट करेंगे कि रैंप एक व्यापक गेटवे बना रहा है या विशिष्ट प्रयोगशालाओं और अनुमान प्रदाताओं के साथ एक क्यूरेटेड संबंधों का सेट।

मेरी राय: रैंप कॉर्पोरेट कार्ड के परे AI 'खर्च परत' पर मालिकाना हक पाने की कोशिश कर रहा है।

यहां तंत्र सरल है: अनुमान के सामने एक मापन और नियंत्रण विमान रखें, फिर स्विचिंग को इतना सस्ता बनाएं कि टीमें मॉडल चयन को एकतरफा दरवाजे के रूप में मानना बंद कर दें। 2026 तक मुफ्त राउटर एक्सेस ऐसा करता है, क्योंकि एकमात्र तात्कालिक लागत अंतर्निहित अनुमान बिल है, और डैशबोर्ड व्यापारिक समझौते को टोकन, विलंबता, और बैकअप में स्पष्ट बनाता है।

जो थ्रेशोल्ड महत्वपूर्ण है वह यह है कि क्या रैंप उस नियंत्रण विमान को एक उद्यम डिफ़ॉल्ट में बदल सकता है बिना अपनी खुद की रिटेंशन स्थिति द्वारा अवरुद्ध हुए। यदि उत्पाद अपनी एक साल, ऑप्ट-आउट लॉगिंग को बनाए रखता है जबकि संवेदनशील प्रॉम्प्ट्स और टूल कॉल के बीच बैठने की कोशिश करता है, तो अपनाना कम संवेदनशील कार्यभार और प्रयोग की ओर झुक जाएगा। यदि रैंप रिटेंशन नियंत्रण को कड़ा करता है और एक विश्वसनीय 2027 मूल्य निर्धारण मॉडल लाता है, तो राउटर अनुमान के लिए एक स्थायी टोल परत की तरह दिखने लगता है न कि खर्च प्रबंधन पर जोड़ा गया एक प्रचारात्मक विशेषता।

स्रोत

• टेकक्रंच