Endpoint API Venice AI: zmiana na inny adres URL podstawowy
Jeśli Twój kod odwołuje się do endpointu Venice AI API i chcesz wypróbować innego dostawcę, zmiana jest niewielka: adres URL podstawowy, klucz i ID modelu. Na tej stronie znajdziesz, co edytować, co przetestować i co zachowuje się inaczej.

Kluczowe punkty
- Cztery edycje obejmują większość migracji: adres URL podstawowy, klucz API, ID modelu, obsługa salda.
- Nowy adres URL podstawowy to https://api.veniceapialternative.com/v1, a ID modelu to uncensored.
- Obsługiwane są trzy endpointy: chat completions, responses i models.
- Przetestuj z darmowym kredytem próbnym $0,50 przed przeniesieniem rzeczywistego ruchu.
Krótka odpowiedź: cztery edycje
Klient obsługujący format czatu OpenAI wymaga tylko zmian konfiguracji, aby połączyć się z innym dostawcą. Dla endpointu Venice AI API działa to odwrotnie: zastępujesz cztery wartości, nie przepisując integracji.
- Base URL: ustaw go na
https://api.veniceapialternative.com/v1. - Klucz API: utwórz go na stronie klucza API i przesyłaj jako
Authorization: Bearer <key>. - ID modelu: użyj
uncensored. Jest jeden model, więc nie ma listy modeli do mapowania. - Kontrola salda: odczytaj nagłówek
X-Balance-USDlub wywołajGET /v1/balance.
To niezależna usługa, nie prowadzona ani nie powiązana z Venice ani innymi dostawcami. Hostuje jeden model o otwartych wagach, więc każdą nazwę modelu używaną wcześniej w kodzie należy zastąpić.
Przed edycją: znajdź każde miejsce, w którym endpoint się znajduje
Adres URL podstawowy rzadko występuje tylko w jednym pliku. Przeszukaj repozytorium pod kątem starej nazwy hosta, starego ciągu modelu oraz zmiennej środowiskowej zawierającej klucz. Typowe miejsca ukrywania to konstruktory SDK, pliki .env, sekrety w Dockerze lub CI, konfiguracja frontendu oraz workerzy w tle, które zostały napisane oddzielnie od głównej aplikacji.
Przydatną praktyką jest najpierw przeniesienie wszystkich trzech wartości do zmiennych środowiskowych, a następnie migracja. Dzięki temu przełączenie staje się zmianą w czasie wdrożenia i daje Ci możliwość wycofania się jedną linią.
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Kod dla Pythona, Node i curl
Python (SDK openai)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
Flaga -i wypisuje nagłówki odpowiedzi, co pozwala zobaczyć X-Request-Id i X-Balance-USD przy pierwszym wywołaniu.
Co pozostaje bez zmian, a co się zmienia
Struktura zapytania jest znana: messages z rolami, stream, tools, tool_choice, response_format dla trybu JSON oraz parametry próbkowania temperature, top_p, stop, seed i kary. Strumieniowanie używa SSE ze statystykami użycia na końcu, a wyniki narzędzi wracają jako komunikaty role: "tool".
| Pozycja | Tutaj |
|---|---|
| Endpointy | POST /v1/chat/completions, POST /v1/responses, GET /v1/models |
| ID modelu | uncensored (jeden model) |
| Okno kontekstu | 100 000 tokenów, prompt plus completion |
| Maksymalna treść zapytania | 8 MB |
| Modalności | Tylko tekst: bez obrazów, audio, wideo, embeddingów czy fine-tuningu |
Ostatni wiersz to ten, który psuje migracje. Jeśli Twoja aplikacja wywołuje endpoint obrazu, mowy lub embeddinga u starego dostawcy, te wywołania nie mają tu odpowiednika. Zostaw tę część u obecnego dostawcy i przenieś tylko wywołania tekstowe.
Obsłuż limity i błędy inaczej
Pełny klucz pozwala na 8 równoległych zapytań i 300 zapytań na minutę. Klucz próbny pozwala na 2 równoległe i 60 na minutę. Po przekroczeniu limitu otrzymasz HTTP 429 z kodem błędu rate_limited dla limitu zapytań na minutę lub concurrency dla zbyt dużej liczby naraz. 429 z nagłówkiem Retry-After: 5 oznacza tymczasowe przeciążenie: poczekaj i ponów próbę.
Pamiętaj, że zapytanie strumieniowe trzyma slot równoległości do momentu zakończenia strumienia. Jeśli twoja stara integracja wysyłała dziesiątki równoległych zapytań, ustaw semafon o wartości 8 lub mniej przed klientem.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
Nieudane lub odrzucone zapytania nie są rozliczane, więc ponawianie po błędach nie kosztuje Cię kredytu.
Strumieniowanie i wywoływanie funkcji po przełączeniu
Jeśli Twoja aplikacja strumieniuje tokeny do UI, nic się nie zmienia po stronie klienta: ustaw stream: true i czytaj zdarzenia wysłane przez serwer. Blok użycia pojawia się na końcu strumienia, co jest wygodne do logowania kosztu każdej odpowiedzi.
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
Wywoływanie funkcji przebiega według znanego Ci schematu. Przekazujesz tools i opcjonalnie tool_choice, model zwraca tool_calls (strumieniowane po kawałkach podczas strumieniowania), uruchamiasz funkcję i zwracasz wynik jako wiadomość role: "tool". Tryb JSON działa z response_format: {"type": "json_object"}. Zawsze waliduj przeanalizowany JSON w swoim kodzie, ponieważ żaden model nie gwarantuje schematu.
Typowe problemy po przełączeniu
- Błędy uwierzytelniania. Sprawdź, czy klucz jest przesyłany jako token Bearer i czy skopiowałeś cały ciąg. Klucz ze starego dostawcy nie zadziała tutaj.
- Błędy nie znaleziono. Base URL musi kończyć się na
/v1. Jeśli wkleisz pełną ścieżkę/chat/completionsdo SDK, która dodaje ją ponownie, endpoint będzie błędny. - Nieznany model. Każdy ciąg modelu inny niż
uncensoredjest błędny. Przeszukaj konfigurację i testy pod kątem nazw na sztywno. - Skoki 429. Ogranicz równoległość do limitu równoległości typu Twojego klucza i respektuj
Retry-After. - Nieoczekiwany koszt. Długie historie czatu są rozliczane jako dane wejściowe przy każdej turze. Ogranicz je.
Jeśli coś nadal wygląda nie tak, wyślij wartość X-Request-Id z odpowiedzi na kontakt na stronie wsparcia. Identyfikuje ona dokładne zapytanie i oszczędza czas po obu stronach.
Lista migracji i testowanie
Przejdź przez to kolejno. Każdy krok to mała, odwracalna zmiana.
- Zdobądź darmowy kredyt $0,50 na stronie klucza API. Nie wymaga podania karty i trwa 7 dni.
- Uruchom powyższe wywołanie curl i potwierdź odpowiedź oraz nagłówki.
- Przełącz jedną niekrytyczną ścieżkę kodu na nowy Base URL i klucz.
- Odtwórz próbkę rzeczywistych promptów i porównaj jakość, długość i opóźnienie outputu na oko.
- Sprawdź
usagew odpowiedziach i pomnóż przez swój wolumen przy $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. - Dodaj alert salda na
X-Balance-USD. - Doładuj (od $20, z bonusami od $50) i przekieruj resztę ruchu.
Prompty zależne od dziwactw innego modelu mogą wymagać drobnych edycji, np. innego promptu systemowego. To normalne przy zmianie modelu, więc oceniaj na własnym zbiorze testów, a nie na jednej odpowiedzi. Ten model jest dostrojony do odpowiadania bez odrzuceń treści dla prawnego użytku dorosłych, a treści seksualne z udziałem nieletnich są niedozwolone.
Dokumentacja opisuje każdy endpoint i nagłówek. Nasza strona o alternatywie dla API Venice pokazuje, jak produkt się porównuje, a strona z cenami prezentuje kwoty doładowań, bonusy i metody płatności. Prompty wysłane do API nie są używane do trenowania, a kredyt nigdy nie wygasa, więc małe doładowanie testowe nie ma terminu ważności.
Więcej przewodników
Pytania i odpowiedzi
Jaki jest base URL?
Użyj https://api.veniceapialternative.com/v1 z dowolnym klientem kompatybilnym z OpenAI i przesyłaj swój klucz jako token Bearer.
Jaki identyfikator modelu wysłać?
Wyślij uncensored. Dostępny jest jeden model, więc nie ma potrzeby mapowania nazw starych modeli.
Jak sprawdzić swój stan konta?
Przeczytaj nagłówek odpowiedzi X-Balance-USD, wywołaj GET /v1/balance lub użyj endpointu GET /v1/dashboard/billing/credit_grants w stylu OpenAI.
Czy mogę wywoływać endpointy obrazów lub embeddingów?
Nie. API obsługuje tylko tekst, bez endpointów do obrazów, audio, wideo, embeddingów ani fine-tuning.