Venice AI API 接口:切换至其他 Base URL
如果你的代码指向 Venice AI API 接口,且想尝试其他提供商,改动很小:只需更改 Base URL、密钥和模型 ID。本页面列出需编辑的内容、测试项以及后续行为差异。

要点
- 四项编辑可覆盖大多数迁移:Base URL、API 密钥、模型 ID、余额处理。
- 新的 Base URL 是 https://api.veniceapialternative.com/v1,模型 ID 是 uncensored。
- 支持三个接口:chat completions、responses 和 models。
- 在迁移真实流量前,先使用 $0.50 试用额度进行测试。
简短回答:四项编辑
任何支持 OpenAI chat 格式的客户端只需进行配置更改即可连接到不同提供商。对于 Venice AI API 接口,情况相反:你只需替换四个值,无需重写集成代码。
- Base URL: 将其设置为
https://api.veniceapialternative.com/v1。 - API 密钥: 在 API 密钥页面 创建一个,并以
Authorization: Bearer <key>形式发送。 - 模型 ID: 使用
uncensored。只有一个模型,因此无需映射模型列表。 - 余额检查: 读取
X-Balance-USD头,或调用GET /v1/balance。
这是一个独立服务,不由 Venice 或任何其他供应商运营或关联。它托管一个开放权重模型,因此你代码之前使用的任何模型名称都必须替换。
编辑前:找到接口存在的所有位置
基础 URL 很少只存在于一个文件中。在代码库中搜索旧主机名、旧模型字符串以及存储密钥的环境变量。常见的隐藏位置包括 SDK 构造函数、.env 文件、Docker 或 CI 密钥、前端配置以及独立于主应用编写的后台工作进程。
一个有用的习惯是先将这三个值移动到环境变量中,然后再进行迁移。这使得切换成为部署时的更改,并允许你通过单行代码回滚。
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Python、Node 和 curl 的代码
Python (openai SDK)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
-i 标志会打印响应头,这是你在首次调用时查看 X-Request-Id 和 X-Balance-USD 的方式。
保持不变与变化的内容
请求格式是熟悉的:带有角色的 messages、stream、tools、tool_choice、用于 JSON 模式的 response_format,以及采样参数 temperature、top_p、stop、seed 和惩罚项。流式输出使用 SSE,并在末尾提供 usage,工具结果以 role: "tool" 消息形式返回。
| 项目 | 在此处 |
|---|---|
| 接口 | POST /v1/chat/completions、POST /v1/responses、GET /v1/models |
| 模型 ID | uncensored(一个模型) |
| 上下文窗口 | 100,000 token,包含提示词和补全 |
| 最大请求体 | 8 MB |
| 模态 | 仅文本:无图像、音频、视频、嵌入或微调 |
最后一行是会导致迁移失败的地方。如果你的应用调用旧提供商的图像、语音或嵌入路由,这些调用在此处没有等效项。将这部分保留在当前提供商,仅迁移文本调用。
以不同方式处理限制和错误
完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发请求和每分钟 60 个请求。超过任一限制时,你会收到 HTTP 429,错误代码为 rate_limited(针对每分钟请求数)或 concurrency(针对同时请求过多)。带有 Retry-After: 5 头的 429 表示临时过载:等待并重试。
注意,流式请求会占用并发槽位,直到流结束。如果你的旧集成方式会触发数十个并发调用,请在客户端前设置一个不超过 8 个的信号量。
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
失败或被拒绝的请求不会收费,因此错误重试不会消耗你的信用额度。
切换后的流式输出和工具调用
如果你的应用将 token 流式输出到 UI,客户端无需任何更改:设置 stream: true 并读取服务器发送事件。使用量数据块会在流结束时到达,这便于记录每条回复的成本。
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
工具调用遵循你已知的相同流程。你传递 tools 和可选的 tool_choice,模型返回 tool_calls(流式输出时分段返回),你执行函数,然后将结果作为 role: "tool" 消息发送。JSON 模式通过 response_format: {"type": "json_object"} 工作。始终在代码中验证解析后的 JSON,因为没有模型能保证模式。
切换后的常见问题
- 认证失败。 检查是否以 Bearer 令牌的形式发送密钥,并确认已复制完整的字符串。来自旧提供商的密钥在此处无法使用。
- 未找到错误。 Base URL 必须以
/v1结尾。如果将完整的/chat/completions路径粘贴到会自动附加该路径的 SDK 中,路由将出错。 - 未知模型。 除
uncensored外的任何模型字符串都是错误的。在配置和测试中搜索硬编码名称。 - 429 突发。 将并行度限制为你密钥类型的并发数,并尊重
Retry-After。 - 意外成本。 长聊天历史在每一轮都作为输入计费。请修剪它们。
如果仍有问题,请将响应中的 X-Request-Id 值发送到 支持页面 联系。它标识确切的请求,节省双方的时间。
迁移清单与测试
按顺序执行此操作。每一步都是小型、可逆的更改。
- 从 API 密钥页面 领取 $0.50 试用额度。它不需要信用卡,有效期为 7 天。
- 运行上述 curl 调用,确认响应和头信息。
- 将一条非关键代码路径切换到新的 Base URL 和密钥。
- 重放真实提示词的样本,并通过肉眼比较输出质量、长度和延迟。
- 检查响应中的
usage并根据你的用量乘以单价:输入 token 每 1M 为 $0.15,输出 token 每 1M 为 $0.50。 - 在
X-Balance-USD上添加余额警报。 - 充值(从 $20 起,充值金额满 $50 起享额外奖励),并迁移其余流量。
依赖于其他模型怪癖的提示词可能需要小幅编辑,例如不同的 system prompt。更改模型时这是正常的,因此请根据你的测试集进行判断,而不是单个答案。该模型针对合法成人使用进行了优化,可无内容拒绝地回答,但不允许涉及未成年人的性内容。
文档 描述了每个接口和头信息。我们的 Venice API alternative 页面介绍了产品对比,定价页面 显示了充值金额、奖金和支付方式。发送到 API 的提示词不用于训练,且额度永不过期,因此小额充值测试没有截止日期。
更多指南
问答
基础 URL 是什么?
将 https://api.veniceapialternative.com/v1 与任何 OpenAI 兼容的客户端一起使用,并将你的 API 密钥作为 Bearer token 发送。
我应该发送哪个模型 ID?
发送 uncensored。只有一个模型,因此无需将旧模型名称进行映射。
我如何查看余额?
读取 X-Balance-USD 响应头,调用 GET /v1/balance,或使用 OpenAI 风格的 GET /v1/dashboard/billing/credit_grants。
我可以调用图像或嵌入端点吗?
不可以。该 API 仅支持文本,没有图像、音频、视频、嵌入或微调端点。