Venice AI API एंडपॉइंट: किसी अन्य बेस URL पर स्विच करें
यदि आपका कोड एक Venice AI API एंडपॉइंट की ओर इशारा करता है और आप किसी अन्य प्रदाता को आज़माना चाहते हैं, तो बदलाव छोटा है: एक बेस URL, एक कुंजी और एक मॉडल ID। यह पृष्ठ सूचीबद्ध करता है कि क्या संपादित करना है, क्या परीक्षण करना है और बाद में क्या अलग व्यवहार करता है।

मुख्य बिंदु
- चार संपादन अधिकांश माइग्रेशन को कवर करते हैं: बेस URL, API कुंजी, मॉडल ID, बैलेंस हैंडलिंग।
- नया बेस URL https://api.veniceapialternative.com/v1 है और मॉडल ID uncensored है।
- तीन एंडपॉइंट्स समर्थित हैं: चैट कंप्लीशन, प्रतिक्रियाएँ और मॉडल।
- वास्तविक ट्रैफ़िक ले जाने से पहले $0.50 ट्रायल का उपयोग करके परीक्षण करें।
संक्षिप्त उत्तर: चार संपादन
कोई भी क्लाइंट जो OpenAI चैट फॉर्मेट समझता है, उसे केवल कॉन्फ़िगरेशन बदलने की आवश्यकता होती है ताकि वह किसी अन्य प्रदाता से जुड़ सके। venice ai api एंडपॉइंट के लिए, यह उल्टा भी सत्य है: आपको चार मान बदलने हैं, अपनी इंटीग्रेशन को फिर से लिखने की आवश्यकता नहीं है।
- Base URL: इसे
https://api.veniceapialternative.com/v1पर सेट करें। - API कुंजी: API कुंजी पृष्ठ पर एक बनाएं और इसे
Authorization: Bearer <key>के रूप में भेजें। - मॉडल ID:
uncensoredका उपयोग करें। केवल एक ही मॉडल है, इसलिए मॉडल सूची मैप करने की आवश्यकता नहीं है। - बैलेंस जाँचें:
X-Balance-USDहेडर पढ़ें, याGET /v1/balanceकॉल करें।
यह एक स्वतंत्र सेवा है, जिसका संचालन Venice या किसी अन्य विक्रेता द्वारा नहीं किया जाता है। इसमें एक ओपन-वेट मॉडल है, इसलिए आपके कोड द्वारा पहले जिस मॉडल नाम का उपयोग किया जाता था, उसे बदलना होगा।
संपादन करने से पहले: हर जगह खोजें जहां एंडपॉइंट मौजूद है
बेस URL दुर्लभ ही केवल एक फ़ाइल में होता है। अपने रिपॉज़िटरी में पुराने होस्ट नाम, पुराने मॉडल स्ट्रिंग और उस एन्वायरनमेंट वेरिएबल के लिए खोजें जो कुंजी रखता है। सामान्य छिपे हुए स्थान SDK कंस्ट्रक्टर, .env फ़ाइलें, Docker या CI सीक्रेट्स, फ्रंट-एंड कॉन्फ़िगरेशन और मुख्य ऐप से अलग से लिखे गए बैकग्राउंड वर्कर्स हैं।
एक उपयोगी आदत पहले तीनों मानों को एन्वायरनमेंट वेरिएबल्स में ले जाना है, फिर माइग्रेट करें। इससे स्विच एक डिप्लॉय-टाइम का बदलाव बन जाता है और आपको एक-लाइन रोलबैक मिलता है।
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Python, Node और curl के लिए कोड
Python (openai SDK)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
-i फ्लैग रिस्पॉन्स हेडर प्रिंट करता है, जिससे आप पहले कॉल पर X-Request-Id और X-Balance-USD देख सकते हैं।
क्या समान रहता है और क्या नहीं
अनुरोध का आकार परिचित है: messages भूमिकाओं के साथ, stream, tools, tool_choice, response_format JSON मोड के लिए, और सैंपलिंग पैरामीटर temperature, top_p, stop, seed और पेनल्टी। स्ट्रीमिंग SSE का उपयोग करता है जिसमें अंत में उपयोग होता है, और टूल परिणाम role: "tool" संदेशों के रूप में वापस जाते हैं।
| आइटम | यहाँ |
|---|---|
| एंडपॉइंट | POST /v1/chat/completions, POST /v1/responses, GET /v1/models |
| मॉडल ID | uncensored (एक मॉडल) |
| कॉन्टेक्स्ट विंडो | 100,000 टोकन, प्रॉम्प्ट और पूर्णता |
| अधिकतम अनुरोध बॉडी | 8 MB |
| विधियाँ | केवल टेक्स्ट: कोई इमेज, ऑडियो, वीडियो, एम्बेडिंग्स या फाइन-ट्यूनिंग नहीं |
आखिरी पंक्ति वही है जो माइग्रेशन तोड़ती है। यदि आपका ऐप पुराने प्रदाता पर इमेज, स्पीच या एम्बेडिंग रूट को कॉल करता है, तो उन कॉल्स का यहाँ कोई समकक्ष नहीं है। उस भाग को उसके वर्तमान प्रदाता पर रखें और केवल टेक्स्ट कॉल्स को ही स्थानांतरित करें।
सीमाओं और त्रुटियों को अलग से हैंडल करें
एक पूर्ण कुंजी 8 समानांतर अनुरोधों और प्रति मिनट 300 अनुरोधों की अनुमति देती है। एक ट्रायल कुंजी 2 समानांतर और प्रति मिनट 60 की अनुमति देती है। किसी भी सीमा से परे जाने पर आपको HTTP 429 मिलता है, प्रति मिनट अनुरोधों के लिए त्रुटि कोड rate_limited या एक साथ बहुत सारे अनुरोधों के लिए concurrency के साथ। Retry-After: 5 हेडर के साथ 429 का अर्थ अस्थायी ओवरलोड है: प्रतीक्षा करें और पुनः प्रयास करें।
ध्यान दें कि एक स्ट्रीम किए गए अनुरोध में उसका कॉन्करेंसी स्लॉट स्ट्रीम समाप्त होने तक बना रहता है। यदि आपका पुराना इंटीग्रेशन कई समानांतर कॉल फायर करता था, तो क्लाइंट के सामने 8 या उससे कम का सेमाफोर रखें।
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
असफल या अस्वीकृत अनुरोधों के लिए चार्ज नहीं किया जाता है, इसलिए त्रुटियों पर पुनः प्रयास करने से आपको क्रेडिट नहीं खर्च होता है।
स्विच के बाद स्ट्रीमिंग और टूल कॉल्स
यदि आपका ऐप टोकन को UI में स्ट्रीम करता है, तो क्लाइंट में कुछ भी बदलाव नहीं होता: stream: true सेट करें और सर्वर-सेंट इवेंट्स पढ़ें। उपयोग ब्लॉक स्ट्रीम के अंत में आता है, जो प्रत्येक जवाब की लागत लॉग करने के लिए सुविधाजनक है।
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
टूल कॉलिंग उसी प्रवाह का पालन करती है जिसे आप पहले से जानते हैं। आप tools और वैकल्पिक रूप से tool_choice पास करते हैं, मॉडल tool_calls (स्ट्रीमिंग के दौरान टुकड़ों में स्ट्रीम किया गया) लौटाता है, आप फ़ंक्शन चलाते हैं, और परिणाम को role: "tool" संदेश के रूप में वापस भेजते हैं। JSON मोड response_format: {"type": "json_object"} के साथ काम करता है। अपने कोड में पार्स किए गए JSON को हमेशा सत्यापित करें, क्योंकि कोई भी मॉडल स्कीमा की गारंटी नहीं देता है।
स्विच करने के बाद सामान्य समस्याएँ
- प्रमाणीकरण विफलताएँ। जाँच करें कि कुंजी को Bearer टोकन के रूप में भेजा गया है और आपने पूरी स्ट्रिंग कॉपी की है। पुराने प्रदाता से प्राप्त कुंजी यहाँ काम नहीं करेगी।
- न मिलने की त्रुटियाँ। बेस URL को
/v1पर समाप्त होना चाहिए। यदि आप पूरा/chat/completionsपथ उस SDK में पेस्ट करते हैं जो इसे फिर से जोड़ देता है, तो रास्ता गलत हो जाएगा। - अज्ञात मॉडल।
uncensoredके अलावा कोई भी मॉडल स्ट्रिंग गलत है। कॉन्फ़िगरेशन और परीक्षणों में हार्ड-कोडेड नामों की खोज करें। - 429 की बर्स्ट। समानांतरता को अपनी कुंजी प्रकार की कॉन्करेंसी तक सीमित करें, और
Retry-Afterका सम्मान करें। - अप्रत्याशित लागत। लंबे चैट इतिहास को हर टर्न पर इनपुट के रूप में बिल किया जाता है। उन्हें काटें।
यदि कुछ अभी भी असामान्य दिखता है, तो प्रतिक्रिया से X-Request-Id मान को सहायता पृष्ठ संपर्क पर भेजें। यह सटीक अनुरोध की पहचान करता है और दोनों पक्षों के समय की बचत करता है।
माइग्रेशन चेकलिस्ट और परीक्षण
इस क्रम में काम करें। प्रत्येक चरण एक छोटा, उलटने योग्य परिवर्तन है।
- API कुंजी पृष्ठ से $0.50 का ट्रायल क्लेम करें। इसके लिए कार्ड की आवश्यकता नहीं है और यह 7 दिनों तक चलता है।
- ऊपर दिए गए curl कॉल को चलाएँ और प्रतिक्रिया और हेडर की पुष्टि करें।
- एक गैर-महत्वपूर्ण कोड पथ को नए बेस URL और कुंजी पर स्विच करें।
- वास्तविक प्रॉम्प्ट्स के नमूने की पुनरावृत्ति करें और आँखों से आउटपुट गुणवत्ता, लंबाई और विलंबता की तुलना करें।
- प्रतिक्रियाओं में
usageकी जाँच करें और $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन के अपने वॉल्यूम से गुणा करें। X-Balance-USDपर बैलेंस अलर्ट जोड़ें।- टॉप-अप करें ($20 से, $50 से बोनस के साथ) और बाकी ट्रैफ़िक ले जाएँ।
प्रॉम्प्ट्स जो किसी अन्य मॉडल की विचित्रताओं पर निर्भर थे, उन्हें छोटे संपादनों की आवश्यकता हो सकती है, जैसे कि अलग सिस्टम प्रॉम्प्ट। मॉडल बदलते समय यह सामान्य है, इसलिए किसी एक उत्तर के बजाय अपने स्वयं के परीक्षण सेट पर निर्णय लें। यह मॉडल कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के उत्तर देने के लिए ट्यून्ड है, और नाबालिगों से संबंधित यौन सामग्री की अनुमति नहीं है।
docs प्रत्येक एंडपॉइंट और हेडर का वर्णन करते हैं। हमारा Venice API alternative पेज यह कवर करता है कि उत्पाद तुलना कैसे करता है, और pricing page टॉप-अप राशि, बोनस और भुगतान विधियां दिखाता है। API को भेजे गए प्रॉम्प्ट प्रशिक्षण के लिए उपयोग नहीं किए जाते हैं, और क्रेडिट कभी समाप्त नहीं होता है, इसलिए एक छोटा टेस्ट टॉप-अप कोई डेडलाइन नहीं लाता है।
अधिक गाइड
प्रश्न और उत्तर
बेस URL क्या है?
किसी भी OpenAI-संगत क्लाइंट के साथ https://api.veniceapialternative.com/v1 का उपयोग करें, और अपनी कुंजी को Bearer टोकन के रूप में भेजें।
मुझे कौन सा मॉडल ID भेजना चाहिए?
uncensored भेजें। केवल एक ही मॉडल है, इसलिए आपके पुराने मॉडल नामों से मैप करने के लिए कुछ भी नहीं है।
मैं अपना बैलेंस कैसे जाँच सकता हूँ?
X-Balance-USD प्रतिक्रिया हेडर पढ़ें, GET /v1/balance कॉल करें, या OpenAI-शैली GET /v1/dashboard/billing/credit_grants का उपयोग करें।
क्या मैं इमेज या एम्बेडिंग एंडपॉइंट्स कॉल कर सकता हूँ?
नहीं। API केवल टेक्स्ट है, जिसमें इमेज, ऑडियो, वीडियो, एम्बेडिंग या फाइन-ट्यूनिंग एंडपॉइंट्स नहीं हैं।