RU ▾

Альтернатива API без цензуры для разработчиков

https://api.veniceapialternative.com/v1

veniceapialternative.com

Эндпоинт API Venice AI: переключение на другой базовый URL

Если ваш код обращается к конечной точке API Venice AI и вы хотите попробовать другого провайдера, изменения минимальны: базовый URL, ключ и идентификатор модели. На этой странице перечислено, что нужно изменить, что протестировать и что будет вести себя иначе после этого.

Обновлено

Подключение кабеля между двумя серверными блоками, иллюстрирующее смену базового URL

Ключевые моменты

  • Четыре правки покрывают большинство миграций: базовый URL, API-ключ, идентификатор модели, обработка баланса.
  • Новый базовый URL — https://api.veniceapialternative.com/v1, а идентификатор модели — uncensored.
  • Поддерживаются три эндпоинта: chat completions, responses и models.
  • Протестируйте с пробным балансом $0,50 перед переносом реального трафика.

Краткий ответ: четыре правки

Любому клиенту, поддерживающему формат чата OpenAI, достаточно изменить конфигурацию для перехода к другому провайдеру. Для эндпоинта Venice AI API это работает в обратную сторону: вы заменяете четыре значения, а не переписываете интеграцию.

  1. Базовый URL: установите значение https://api.veniceapialternative.com/v1.
  2. API-ключ: создайте его на странице API-ключей и передавайте как Authorization: Bearer <key>.
  3. Идентификатор модели: используйте uncensored. Модель одна, поэтому списка моделей для сопоставления нет.
  4. Проверки баланса: прочитайте заголовок X-Balance-USD или вызовите GET /v1/balance.

Это независимый сервис, не принадлежащий Venice или другим вендорам и не связанный с ними. Он использует одну модель с открытыми весами, поэтому любое имя модели, которое использовалось в вашем коде ранее, необходимо заменить.

Перед редактированием: найдите все места, где используется эндпоинт

Базовый URL редко встречается только в одном файле. Ищите в репозитории старое имя хоста, старую строку модели и переменную окружения, содержащую ключ. Типичные места скрытия: конструкторы SDK, файлы .env, секреты Docker или CI, конфигурация фронтенда и фоновые воркеры, написанные отдельно от основного приложения.

Полезная привычка — сначала перенести все три значения в переменные окружения, а затем выполнять миграцию. Это превращает переключение в изменение при развёртывании и позволяет сделать откат одной строкой.

export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"

Код для Python, Node и curl

Python (SDK openai)

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.veniceapialternative.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);

curl

curl -i https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

Флаг -i выводит заголовки ответа, что позволяет увидеть X-Request-Id и X-Balance-USD при первом вызове.

Что остаётся прежним, а что меняется

Формат запроса привычный: messages с ролями, stream, tools, tool_choice, response_format для JSON-режима, а также параметры сэмплирования temperature, top_p, stop, seed и штрафы. Потоковая передача использует SSE с usage в конце, а результаты инструментов возвращаются как сообщения с role: "tool".

ПунктЗдесь
ЭндпоинтыPOST /v1/chat/completions, POST /v1/responses, GET /v1/models
ID моделиuncensored (одна модель)
Контекстное окно100 000 токенов, промпт плюс завершение
Максимальный размер тела запроса8 МБ
МодальностиТолько текст: без изображений, аудио, видео, эмбеддингов или дообучения

Последняя строка — та, которая ломает миграции. Если ваше приложение вызывает эндпоинты изображений, речи или эмбеддингов у старого провайдера, здесь у них нет аналогов. Оставьте эту часть у текущего провайдера и перенесите только текстовые вызовы.

Обработка лимитов и ошибок по-другому

Полный ключ позволяет 8 параллельных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 параллельных и 60 в минуту. При превышении лимита вы получаете HTTP 429 с кодом ошибки rate_limited для запросов в минуту или concurrency для одновременных запросов. 429 с заголовком Retry-After: 5 означает временную перегрузку: подождите и повторите запрос.

Обратите внимание, что потоковый запрос удерживает свой слот параллельности до завершения потока. Если ваша старая интеграция запускала десятки параллельных вызовов, поставьте семафор на 8 или меньше перед клиентом.

import time, random
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 + random.random() * i)
    raise RuntimeError("still rate limited")

Неудачные или отклонённые запросы не оплачиваются, поэтому повторные попытки при ошибках не стоят вам кредитов.

Потоковая передача и вызовы инструментов после переключения

Если ваше приложение потоково передаёт токены в интерфейс, на клиенте ничего не меняется: установите stream: true и читайте события, отправляемые сервером. Блок usage приходит в конце потока, что удобно для логирования стоимости каждого ответа.

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three uses of a message queue."}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")
    if chunk.usage:
        print("\n", chunk.usage)

Вызов инструментов следует тому же потоку, который вы уже знаете. Вы передаёте tools и опционально tool_choice, модель возвращает tool_calls (частями при потоковой передаче), вы выполняете функцию и отправляете результат обратно как сообщение role: "tool". JSON-режим работает с response_format: {"type": "json_object"}. Всегда валидируйте распарсенный JSON в своём коде, так как ни одна модель не гарантирует схему.

Распространённые проблемы после переключения

  • Сбои аутентификации. Проверьте, что ключ отправляется как Bearer-токен и что вы скопировали всю строку. Ключ от старого провайдера здесь не сработает.
  • Ошибки «не найдено». Базовый URL должен заканчиваться на /v1. Если вы вставите полный путь /chat/completions в SDK, который добавляет его снова, маршрут будет неверным.
  • Неизвестная модель. Любая строка модели, отличная от uncensored, неверна. Ищите жёстко заданные имена в конфигурации и тестах.
  • Всплески 429. Ограничьте параллелизм уровнем параллельности вашего типа ключа и соблюдайте Retry-After.
  • Непредвиденные расходы. Длинные истории чата оплачиваются как входные данные на каждом шаге. Обрезайте их.

Если что-то всё ещё выглядит странно, отправьте значение X-Request-Id из ответа в контакт на странице поддержки. Это идентифицирует конкретный запрос и экономит время с обеих сторон.

Чек-лист миграции и тестирование

Пройдитесь по этому списку по порядку. Каждый шаг — небольшое обратимое изменение.

  1. Получите пробный баланс $0,50 на странице API-ключ. Карта не нужна, и он действует 7 дней.
  2. Выполните curl-запрос выше и подтвердите ответ и заголовки.
  3. Переключите один некритичный путь кода на новый базовый URL и ключ.
  4. Воспроизведите выборку реальных промптов и визуально сравните качество, длину и задержку вывода.
  5. Проверьте usage в ответах и умножьте на ваш объём: $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов.
  6. Добавьте оповещение о балансе по X-Balance-USD.
  7. Пополните (от $20, с бонусами от $50) и перенесите остальной трафик.

Промпты, зависящие от особенностей другой модели, могут потребовать небольших правок, например, другого системного промпта. Это нормально при смене модели, поэтому судите по собственному набору тестов, а не по одному ответу. Эта модель настроена на ответы без отказов в контенте для законного использования взрослыми, а контент сексуального характера с участием несовершеннолетних запрещён.

В документации описаны каждый эндпоинт и заголовок. Наша страница про альтернативу Venice API охватывает сравнение продуктов, а на странице тарифов показаны суммы пополнения, бонусы и способы оплаты. Промпты, отправленные в API, не используются для обучения, а предоплаченный баланс никогда не сгорает, поэтому небольшое тестовое пополнение не имеет срока действия.

Вопросы и ответы

Какой базовый URL?

Используйте https://api.veniceapialternative.com/v1 с любым OpenAI-совместимым клиентом и передавайте ключ как Bearer-токен.

Какой ID модели отправить?

Отправляйте uncensored. Модель одна, поэтому сопоставлять старые имена моделей не нужно.

Как проверить баланс?

Прочитайте заголовок ответа X-Balance-USD, вызовите GET /v1/balance или используйте GET /v1/dashboard/billing/credit_grants в стиле OpenAI.

Можно ли вызывать эндпоинты для изображений или эмбеддингов?

Нет. API работает только с текстом, без эндпоинтов для изображений, аудио, видео, эмбеддингов или дообучения.

Ваш ключ — всего в одной форме

Создайте аккаунт, скопируйте ключ, измените базовый URL. Это вся настройка.

Получить API-ключ