繁中 ▾

給開發者的無審查 AI API 替代方案

https://api.veniceapialternative.com/v1

veniceapialternative.com

Venice AI API 端點:切換至其他 Base URL

如果您的程式碼指向 Venice AI API 端點且想嘗試其他供應商,變更幅度很小:只需更改 Base URL、金鑰與模型 ID。本頁列出需編輯的內容、測試項目以及後續行為的差異。

更新於

連接線插頭在兩個伺服器區塊之間移動,說明 Base URL 的切換

重點摘要

  • 四項編輯涵蓋大多數遷移情境:Base URL、API 金鑰、模型 ID、餘額處理。
  • 新的 Base URL 為 https://api.veniceapialternative.com/v1,模型 ID 為 uncensored。
  • 支援三個端點:聊天完成、回應與模型。
  • 在遷移實際流量前,請先使用 $0.50 的試用進行測試。

簡短答案:四項編輯

任何支援 OpenAI 聊天格式的用戶端只需進行設定變更即可連接到不同的供應商。對於 Venice AI API 端點,情況亦然:你只需替換四個值,而非重寫整合程式碼。

  1. Base URL: 設定為 https://api.veniceapialternative.com/v1。
  2. API 金鑰: 在 API 金鑰頁面 建立一個,並以 Authorization: Bearer <key> 形式傳送。
  3. 模型 ID: 使用 uncensored。僅有一個模型,因此無需映射模型列表。
  4. 餘額檢查:讀取 X-Balance-USD 標頭,或呼叫 GET /v1/balance。

此為獨立服務,非由 Venice 或任何其他供應商營運或附屬。它託管一個開放權重模型,因此您的程式碼之前使用的任何模型名稱都必須替換。

編輯前:找出端點存在的所有位置

基礎 URL 很少只存在於單一檔案中。在您的程式庫中搜尋舊的主機名稱、舊的模型字串以及儲存金鑰的環境變數。常見的隱藏位置包括 SDK 建構子、.env 檔案、Docker 或 CI 機密、前端設定以及與主應用程式分開編寫的後台工作程式。

一個實用的習慣是先將這三個值移至環境變數中,然後再遷移。這能使切換成為部署時的變更,並提供單行回滾。

export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"

Python、Node 與 curl 程式碼

Python (openai SDK)

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.veniceapialternative.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);

curl

curl -i https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

-i 旗標會列印回應標頭,藉此您可以在第一次呼叫時看到 X-Request-Id 與 X-Balance-USD。

保持不變與改變的部分

請求格式為熟悉的格式:帶有角色的 messages、stream、tools、tool_choice、用於 JSON 模式的 response_format,以及採樣參數 temperature、top_p、stop、seed 與懲罰項。串流輸出使用 SSE 並在結尾提供用量資訊,工具結果則以 role: "tool" 訊息形式回傳。

項目在此
端點POST /v1/chat/completions、POST /v1/responses、GET /v1/models
模型 IDuncensored(單一模型)
上下文視窗100,000 token,含提示詞與補全
最大請求主體8 MB
模態僅支援文字:無影像、音訊、影片、嵌入或微調

最後一行是導致遷移失敗的原因。如果您的應用程式在舊供應商處呼叫影像、語音或嵌入路由,這些呼叫在此處沒有對應項目。將該部分保留在原供應商處,僅遷移文字呼叫。

以不同方式處理限制與錯誤

完整金鑰允許 8 個並行請求與每分鐘 300 個請求。試用金鑰允許 2 個並行與每分鐘 60 個請求。超過任一限制時,您將收到 HTTP 429,錯誤代碼為每分鐘請求的 rate_limited 或同時過多請求的 concurrency。帶有 Retry-After: 5 標頭的 429 表示暫時過載:請等待並重試。

注意,串流請求會佔用其並行槽位,直到串流結束為止。如果您的舊整合發送了數十個並行呼叫,請在客戶端前方設置一個上限為 8 的信號量(semaphore)。

import time, random
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 + random.random() * i)
    raise RuntimeError("still rate limited")

失敗或遭拒的請求不會計費,因此錯誤重試不會消耗您的額度。

切換後的串流輸出與函式呼叫

如果您的應用程式將 token 串流輸出至使用者介面,客戶端無需變更:設定 stream: true 並讀取伺服器發送的事件(SSE)。用量區塊出現在串流結尾,這便於記錄每則回覆的成本。

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three uses of a message queue."}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")
    if chunk.usage:
        print("\n", chunk.usage)

函式呼叫遵循您已知的流程。您傳遞 tools 與可選的 tool_choice,模型回傳 tool_calls(串流時分段回傳),您執行函式,然後以 role: "tool" 訊息回傳結果。JSON 模式透過 response_format: {"type": "json_object"} 運作。請務必在程式碼中驗證解析後的 JSON,因為沒有模型能保證符合特定結構。

切換後的常見問題

  • 驗證失敗。 確認金鑰以 Bearer token 形式傳送,且您複製了完整的字串。來自舊供應商的金鑰在此無法使用。
  • 找不到錯誤。 Base URL 必須以 /v1 結尾。如果您將完整的 /chat/completions 路徑貼入會自動附加該路徑的 SDK,路由將出錯。
  • 未知模型。 除了 uncensored 以外的任何模型字串都是錯誤的。請在設定與測試中搜尋硬編碼的名稱。
  • 429 突發流量。 將並行數限制在金鑰類型的並行容量內,並遵守 Retry-After。
  • 意外成本。 長聊天歷史在每個回合都作為輸入計費。請修剪它們。

如果仍有問題,請將回應中的 X-Request-Id 值傳送至 支援頁面 聯絡。它能識別確切的請求,節省雙方的時間。

遷移檢查表與測試

依序執行此流程。每個步驟都是小型且可逆的變更。

  1. 從 API 金鑰頁面 領取 $0.50 試用額度。無需信用卡,有效期為 7 天。
  2. 執行上述 curl 呼叫並確認回應與標頭。
  3. 將一個非關鍵的程式碼路徑切換至新的 Base URL 與金鑰。
  4. 重播真實提示詞的樣本,並透過肉眼比較輸出品質、長度與延遲。
  5. 請在回應中檢查 usage,並根據你的用量乘以費率:每 1M 輸入 token 為 $0.15,每 1M 輸出 token 為 $0.50。
  6. 在 X-Balance-USD 上新增餘額警報。
  7. 儲值(起跳 $20,$50 起享有贈額),並將剩餘流量轉移至此。

依賴其他模型特性的提示詞可能需要小幅編輯,例如不同的系統提示詞。切換模型時這很常見,因此請根據您自己的測試集進行評估,而非單一答案。此模型針對合法成人用途進行調整,能無審查地回答,但不允許涉及未成年人的性內容。

文件說明每個端點與標頭。Venice API 替代方案頁面介紹產品比較方式,定價頁面則顯示儲值金額、贈額與付款方式。發送至 API 的提示詞不會用於訓練,且額度沒有截止日期,因此小額儲值測試無須擔心過期。

問答

Base URL 是什麼?

將 https://api.veniceapialternative.com/v1 與任何 OpenAI 相容的客戶端搭配使用,並將你的金鑰作為 Bearer token 傳送。

我應該傳送哪個模型 ID?

傳送 uncensored。只有一個模型,因此無需將舊模型名稱進行對應。

如何檢查我的餘額?

請讀取 X-Balance-USD 回應標頭、呼叫 GET /v1/balance,或使用 OpenAI 風格的 GET /v1/dashboard/billing/credit_grants。

我可以呼叫影像或嵌入端點嗎?

不行。該 API 僅支援文字,沒有影像、音訊、影片、嵌入或微調端點。

只差一張表單,即可取得金鑰

建立帳號、複製金鑰、更改基礎 URL。這就是整個設定過程。

取得 API 金鑰