Эндпоинт API Venice AI: переключение на другой базовый URL
Если ваш код обращается к конечной точке API Venice AI и вы хотите попробовать другого провайдера, изменения минимальны: базовый URL, ключ и идентификатор модели. На этой странице перечислено, что нужно изменить, что протестировать и что будет вести себя иначе после этого.

Ключевые моменты
- Четыре правки покрывают большинство миграций: базовый URL, API-ключ, идентификатор модели, обработка баланса.
- Новый базовый URL — https://api.veniceapialternative.com/v1, а идентификатор модели — uncensored.
- Поддерживаются три эндпоинта: chat completions, responses и models.
- Протестируйте с пробным балансом $0,50 перед переносом реального трафика.
Краткий ответ: четыре правки
Любому клиенту, поддерживающему формат чата OpenAI, достаточно изменить конфигурацию для перехода к другому провайдеру. Для эндпоинта Venice AI API это работает в обратную сторону: вы заменяете четыре значения, а не переписываете интеграцию.
- Базовый URL: установите значение
https://api.veniceapialternative.com/v1. - API-ключ: создайте его на странице API-ключей и передавайте как
Authorization: Bearer <key>. - Идентификатор модели: используйте
uncensored. Модель одна, поэтому списка моделей для сопоставления нет. - Проверки баланса: прочитайте заголовок
X-Balance-USDили вызовитеGET /v1/balance.
Это независимый сервис, не принадлежащий Venice или другим вендорам и не связанный с ними. Он использует одну модель с открытыми весами, поэтому любое имя модели, которое использовалось в вашем коде ранее, необходимо заменить.
Перед редактированием: найдите все места, где используется эндпоинт
Базовый URL редко встречается только в одном файле. Ищите в репозитории старое имя хоста, старую строку модели и переменную окружения, содержащую ключ. Типичные места скрытия: конструкторы SDK, файлы .env, секреты Docker или CI, конфигурация фронтенда и фоновые воркеры, написанные отдельно от основного приложения.
Полезная привычка — сначала перенести все три значения в переменные окружения, а затем выполнять миграцию. Это превращает переключение в изменение при развёртывании и позволяет сделать откат одной строкой.
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Код для Python, Node и curl
Python (SDK openai)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
Флаг -i выводит заголовки ответа, что позволяет увидеть X-Request-Id и X-Balance-USD при первом вызове.
Что остаётся прежним, а что меняется
Формат запроса привычный: messages с ролями, stream, tools, tool_choice, response_format для JSON-режима, а также параметры сэмплирования temperature, top_p, stop, seed и штрафы. Потоковая передача использует SSE с usage в конце, а результаты инструментов возвращаются как сообщения с role: "tool".
| Пункт | Здесь |
|---|---|
| Эндпоинты | POST /v1/chat/completions, POST /v1/responses, GET /v1/models |
| ID модели | uncensored (одна модель) |
| Контекстное окно | 100 000 токенов, промпт плюс завершение |
| Максимальный размер тела запроса | 8 МБ |
| Модальности | Только текст: без изображений, аудио, видео, эмбеддингов или дообучения |
Последняя строка — та, которая ломает миграции. Если ваше приложение вызывает эндпоинты изображений, речи или эмбеддингов у старого провайдера, здесь у них нет аналогов. Оставьте эту часть у текущего провайдера и перенесите только текстовые вызовы.
Обработка лимитов и ошибок по-другому
Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных и 60 в минуту. При превышении лимита вы получаете HTTP 429 с кодом ошибки rate_limited для запросов в минуту или concurrency для одновременных запросов. 429 с заголовком Retry-After: 5 означает временную перегрузку: подождите и повторите запрос.
Обратите внимание, что потоковый запрос удерживает свой слот параллельности до завершения потока. Если ваша старая интеграция запускала десятки параллельных вызовов, поставьте семафор на 8 или меньше перед клиентом.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
Неудачные или отклонённые запросы не оплачиваются, поэтому повторные попытки при ошибках не стоят вам кредитов.
Потоковая передача и вызовы инструментов после переключения
Если ваше приложение потоково передаёт токены в интерфейс, на клиенте ничего не меняется: установите stream: true и читайте события, отправляемые сервером. Блок usage приходит в конце потока, что удобно для логирования стоимости каждого ответа.
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
Вызов инструментов следует тому же потоку, который вы уже знаете. Вы передаёте tools и опционально tool_choice, модель возвращает tool_calls (частями при потоковой передаче), вы выполняете функцию и отправляете результат обратно как сообщение role: "tool". JSON-режим работает с response_format: {"type": "json_object"}. Всегда валидируйте распарсенный JSON в своём коде, так как ни одна модель не гарантирует схему.
Распространённые проблемы после переключения
- Сбои аутентификации. Проверьте, что ключ отправляется как Bearer-токен и что вы скопировали всю строку. Ключ от старого провайдера здесь не сработает.
- Ошибки «не найдено». Базовый URL должен заканчиваться на
/v1. Если вы вставите полный путь/chat/completionsв SDK, который добавляет его снова, маршрут будет неверным. - Неизвестная модель. Любая строка модели, отличная от
uncensored, неверна. Ищите жёстко заданные имена в конфигурации и тестах. - Всплески 429. Ограничьте параллелизм уровнем параллельности вашего типа ключа и соблюдайте
Retry-After. - Непредвиденные расходы. Длинные истории чата оплачиваются как входные данные на каждом шаге. Обрезайте их.
Если что-то всё ещё выглядит странно, отправьте значение X-Request-Id из ответа в контакт на странице поддержки. Это идентифицирует конкретный запрос и экономит время с обеих сторон.
Чек-лист миграции и тестирование
Пройдитесь по этому списку по порядку. Каждый шаг — небольшое обратимое изменение.
- Получите пробный баланс $0,50 на странице API-ключ. Карта не нужна, и он действует 7 дней.
- Выполните curl-запрос выше и подтвердите ответ и заголовки.
- Переключите один некритичный путь кода на новый базовый URL и ключ.
- Воспроизведите выборку реальных промптов и визуально сравните качество, длину и задержку вывода.
- Проверьте
usageв ответах и умножьте на ваш объём: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. - Добавьте оповещение о балансе по
X-Balance-USD. - Пополните (от $20, с бонусами от $50) и перенесите остальной трафик.
Промпты, зависящие от особенностей другой модели, могут потребовать небольших правок, например, другого системного промпта. Это нормально при смене модели, поэтому судите по собственному набору тестов, а не по одному ответу. Эта модель настроена на ответы без отказов в контенте для законного использования взрослыми, а контент сексуального характера с участием несовершеннолетних запрещён.
В документации описаны каждый эндпоинт и заголовок. Наша страница про альтернативу Venice API охватывает сравнение продуктов, а на странице тарифов показаны суммы пополнения, бонусы и способы оплаты. Промпты, отправленные в API, не используются для обучения, а предоплаченный баланс никогда не сгорает, поэтому небольшое тестовое пополнение не имеет срока действия.
Дополнительные руководства
Вопросы и ответы
Какой базовый URL?
Используйте https://api.veniceapialternative.com/v1 с любым OpenAI-совместимым клиентом и передавайте ключ как Bearer-токен.
Какой ID модели отправить?
Отправляйте uncensored. Модель одна, поэтому сопоставлять старые имена моделей не нужно.
Как проверить баланс?
Прочитайте заголовок ответа X-Balance-USD, вызовите GET /v1/balance или используйте GET /v1/dashboard/billing/credit_grants в стиле OpenAI.
Можно ли вызывать эндпоинты для изображений или эмбеддингов?
Нет. API работает только с текстом, без эндпоинтов для изображений, аудио, видео, эмбеддингов или дообучения.