中文 ▾

面向开发者的无审查 AI API 替代方案

https://api.veniceapialternative.com/v1

veniceapialternative.com

Venice AI API 接口:切换至其他 Base URL

如果你的代码指向 Venice AI API 接口,且想尝试其他提供商,改动很小:只需更改 Base URL、密钥和模型 ID。本页面列出需编辑的内容、测试项以及后续行为差异。

更新于

电缆插头在两个服务器模块间移动,示意 Base URL 切换

要点

  • 四项编辑可覆盖大多数迁移:Base URL、API 密钥、模型 ID、余额处理。
  • 新的 Base URL 是 https://api.veniceapialternative.com/v1,模型 ID 是 uncensored。
  • 支持三个接口:chat completions、responses 和 models。
  • 在迁移真实流量前,先使用 $0.50 试用额度进行测试。

简短回答:四项编辑

任何支持 OpenAI chat 格式的客户端只需进行配置更改即可连接到不同提供商。对于 Venice AI API 接口,情况相反:你只需替换四个值,无需重写集成代码。

  1. Base URL: 将其设置为 https://api.veniceapialternative.com/v1。
  2. API 密钥: 在 API 密钥页面 创建一个,并以 Authorization: Bearer <key> 形式发送。
  3. 模型 ID: 使用 uncensored。只有一个模型,因此无需映射模型列表。
  4. 余额检查: 读取 X-Balance-USD 头,或调用 GET /v1/balance。

这是一个独立服务,不由 Venice 或任何其他供应商运营或关联。它托管一个开放权重模型,因此你代码之前使用的任何模型名称都必须替换。

编辑前:找到接口存在的所有位置

基础 URL 很少只存在于一个文件中。在代码库中搜索旧主机名、旧模型字符串以及存储密钥的环境变量。常见的隐藏位置包括 SDK 构造函数、.env 文件、Docker 或 CI 密钥、前端配置以及独立于主应用编写的后台工作进程。

一个有用的习惯是先将这三个值移动到环境变量中,然后再进行迁移。这使得切换成为部署时的更改,并允许你通过单行代码回滚。

export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"

Python、Node 和 curl 的代码

Python (openai SDK)

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.veniceapialternative.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);

curl

curl -i https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

-i 标志会打印响应头,这是你在首次调用时查看 X-Request-Id 和 X-Balance-USD 的方式。

保持不变与变化的内容

请求格式是熟悉的:带有角色的 messages、stream、tools、tool_choice、用于 JSON 模式的 response_format,以及采样参数 temperature、top_p、stop、seed 和惩罚项。流式输出使用 SSE,并在末尾提供 usage,工具结果以 role: "tool" 消息形式返回。

项目在此处
接口POST /v1/chat/completions、POST /v1/responses、GET /v1/models
模型 IDuncensored(一个模型)
上下文窗口100,000 token,包含提示词和补全
最大请求体8 MB
模态仅文本:无图像、音频、视频、嵌入或微调

最后一行是会导致迁移失败的地方。如果你的应用调用旧提供商的图像、语音或嵌入路由,这些调用在此处没有等效项。将这部分保留在当前提供商,仅迁移文本调用。

以不同方式处理限制和错误

完整密钥允许 8 个并发请求和每分钟 300 个请求。试用密钥允许 2 个并发请求和每分钟 60 个请求。超过任一限制时,你会收到 HTTP 429,错误代码为 rate_limited(针对每分钟请求数)或 concurrency(针对同时请求过多)。带有 Retry-After: 5 头的 429 表示临时过载:等待并重试。

注意,流式请求会占用并发槽位,直到流结束。如果你的旧集成方式会触发数十个并发调用,请在客户端前设置一个不超过 8 个的信号量。

import time, random
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 + random.random() * i)
    raise RuntimeError("still rate limited")

失败或被拒绝的请求不会收费,因此错误重试不会消耗你的信用额度。

切换后的流式输出和工具调用

如果你的应用将 token 流式输出到 UI,客户端无需任何更改:设置 stream: true 并读取服务器发送事件。使用量数据块会在流结束时到达,这便于记录每条回复的成本。

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three uses of a message queue."}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")
    if chunk.usage:
        print("\n", chunk.usage)

工具调用遵循你已知的相同流程。你传递 tools 和可选的 tool_choice,模型返回 tool_calls(流式输出时分段返回),你执行函数,然后将结果作为 role: "tool" 消息发送。JSON 模式通过 response_format: {"type": "json_object"} 工作。始终在代码中验证解析后的 JSON,因为没有模型能保证模式。

切换后的常见问题

  • 认证失败。 检查是否以 Bearer 令牌的形式发送密钥,并确认已复制完整的字符串。来自旧提供商的密钥在此处无法使用。
  • 未找到错误。 Base URL 必须以 /v1 结尾。如果将完整的 /chat/completions 路径粘贴到会自动附加该路径的 SDK 中,路由将出错。
  • 未知模型。 除 uncensored 外的任何模型字符串都是错误的。在配置和测试中搜索硬编码名称。
  • 429 突发。 将并行度限制为你密钥类型的并发数,并尊重 Retry-After。
  • 意外成本。 长聊天历史在每一轮都作为输入计费。请修剪它们。

如果仍有问题,请将响应中的 X-Request-Id 值发送到 支持页面 联系。它标识确切的请求,节省双方的时间。

迁移清单与测试

按顺序执行此操作。每一步都是小型、可逆的更改。

  1. 从 API 密钥页面 领取 $0.50 试用额度。它不需要信用卡,有效期为 7 天。
  2. 运行上述 curl 调用,确认响应和头信息。
  3. 将一条非关键代码路径切换到新的 Base URL 和密钥。
  4. 重放真实提示词的样本,并通过肉眼比较输出质量、长度和延迟。
  5. 检查响应中的 usage 并根据你的用量乘以单价:输入 token 每 1M 为 $0.15,输出 token 每 1M 为 $0.50。
  6. 在 X-Balance-USD 上添加余额警报。
  7. 充值(从 $20 起,充值金额满 $50 起享额外奖励),并迁移其余流量。

依赖于其他模型怪癖的提示词可能需要小幅编辑,例如不同的 system prompt。更改模型时这是正常的,因此请根据你的测试集进行判断,而不是单个答案。该模型针对合法成人使用进行了优化,可无内容拒绝地回答,但不允许涉及未成年人的性内容。

文档 描述了每个接口和头信息。我们的 Venice API alternative 页面介绍了产品对比,定价页面 显示了充值金额、奖金和支付方式。发送到 API 的提示词不用于训练,且额度永不过期,因此小额充值测试没有截止日期。

问答

基础 URL 是什么?

将 https://api.veniceapialternative.com/v1 与任何 OpenAI 兼容的客户端一起使用,并将你的 API 密钥作为 Bearer token 发送。

我应该发送哪个模型 ID?

发送 uncensored。只有一个模型,因此无需将旧模型名称进行映射。

我如何查看余额?

读取 X-Balance-USD 响应头,调用 GET /v1/balance,或使用 OpenAI 风格的 GET /v1/dashboard/billing/credit_grants。

我可以调用图像或嵌入端点吗?

不可以。该 API 仅支持文本,没有图像、音频、视频、嵌入或微调端点。

你的密钥只需填写一个表单即可获得

创建账户,复制密钥,更改基础 URL。这就是全部设置。

获取 API 密钥