JA ▾

開発者向け無検閲AI APIの代替

https://api.veniceapialternative.com/v1

veniceapialternative.com

Venice AI API エンドポイント:別のベース URL に切り替える

コードが Venice AI API エンドポイントを指しており、別のプロバイダを試したい場合、変更は小さく済みます:ベース URL、API キー、モデル ID の変更です。このページでは、編集すべき箇所、テストすべき箇所、移行後の動作の違いについて説明します。

更新日:

ベース URL の切り替えを示す、2 つのサーバーブロック間を結ぶケーブルプラグ

主要ポイント

  • 4 か所の編集でほとんどの移行が完了します:ベース URL、API キー、モデル ID、残高処理。
  • 新しいベース URL は https://api.veniceapialternative.com/v1 で、モデル ID は uncensored です。
  • サポートされているエンドポイントは3つあります:チャット補完エンドポイント、responses、models です。
  • 実際のトラフィックに移行する前に、$0.50 のトライアルでテストしてください。

短い答え:4 か所の編集

OpenAI チャット形式に対応するクライアントであれば、プロバイダを変更するために必要な変更は設定のみです。Venice AI API エンドポイントの場合も逆で、統合を書き換えるのではなく、4 つの値を置き換えるだけです。

  1. ベース URL: https://api.veniceapialternative.com/v1 に設定します。
  2. API キー: API キーページ で作成し、Authorization: Bearer <key> として送信します。
  3. モデル ID: uncensored を使用します。モデルは 1 つのみなので、マッピングするモデルリストはありません。
  4. 残高確認: X-Balance-USD ヘッダーを確認するか、GET /v1/balance を呼び出します。

これは Venice やその他のベンダーが運営しておらず、提携もしていない独立したサービスです。1 つのオープンウェイトモデルのみをホストしているため、以前コードで使用していたモデル名はすべて置き換える必要があります。

編集する前に:エンドポイントが存在するすべての場所を見つける

ベース URL は通常、1つのファイルにのみ含まれることは稀です。リポジトリ内で古いホスト名、古いモデル文字列、キーを保持する環境変数を検索してください。典型的な隠れ場所は、SDK コンストラクタ、.env ファイル、Docker または CI シークレット、メインアプリとは別に実装されたフロントエンド設定やバックグラウンドワーカーです。

有用な習慣として、まずこれら 3 つの値を環境変数に移動してから移行することをお勧めします。これにより、切り替えはデプロイ時の変更となり、1 行のロールバックが可能になります。

export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"

Python、Node、curl のコード例

Python (openai SDK)

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.veniceapialternative.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);

curl

curl -i https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

-i フラグはレスポンスヘッダーを出力します。これにより、最初の呼び出しで X-Request-Id と X-Balance-USD を確認できます。

変更点と変更されない点

リクエストの形状はよく知られたものです:messages(ロール付き)、stream、tools、tool_choice、JSONモード用のresponse_format、そしてサンプリングパラメータtemperature、top_p、stop、seedおよびペナルティ。ストリーミングは SSE を使用し、最後に使用状況が含まれます。ツール結果はrole: "tool"メッセージとして返されます。

項目こちら
エンドポイントPOST /v1/chat/completions、POST /v1/responses、GET /v1/models
モデル IDuncensored(モデル 1 つ)
コンテキスト長100,000 トークン(プロンプトと補完を含む)
最大リクエストボディ8 MB
モダリティテキストのみ:画像、音声、動画、埋め込み、ファインチューニングなし

最後の行が移行を妨げる原因となります。アプリが旧プロバイダで画像、音声、または埋め込みルートを呼び出している場合、それらの呼び出しにはここで同等のものがありません。その部分は現在のプロバイダのままにしておき、テキスト呼び出しのみを移動してください。

制限とエラーの扱いを適切に行う

フルキーは同時8リクエスト、分間300リクエストまで許可されます。トライアルキーは同時2、分間60です。制限超過時はHTTP 429が返り、分間リクエスト数超過の場合はエラーコードrate_limited、一度に多すぎる場合はconcurrencyが返ります。Retry-After: 5 ヘッダー付きの429は一時過負荷を示すため、待機して再試行してください。

ストリーミングリクエストは、ストリーミングが完了するまで同時接続枠を保持することに注意してください。古い統合で数十の同時呼び出しが行われていた場合は、クライアントの前に並列実行数が8以下のセマフォを設定してください。

import time, random
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 + random.random() * i)
    raise RuntimeError("still rate limited")

失敗または拒否されたリクエストは課金されません。エラー時の再試行でもクレジットは消費されません。

切り替え後のストリーミングとツール呼び出し

アプリがトークンを UI にストリーミングする場合、クライアント側の変更は不要です:stream: true を設定し、サーバー送信イベントを読み取ってください。使用量ブロックはストリームの最後に届くため、各応答のコストをログに記録するのに便利です。

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three uses of a message queue."}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")
    if chunk.usage:
        print("\n", chunk.usage)

ツール呼び出しは既知のフローに従います。tools とオプションで tool_choice を渡し、モデルは tool_calls を返します(ストリーミング時は断片的にストリーミングされます)。関数を実行し、結果を role: "tool" メッセージとして送信します。JSON モードは response_format: {"type": "json_object"} で動作します。どのモデルもスキーマを保証しないため、コード内で解析された JSON を常に検証してください。

切り替え後の一般的な問題

  • 認証の失敗。 キーが Bearer トークンとして送信されていること、および文字列全体がコピーされていることを確認してください。旧プロバイダのキーはここでは機能しません。
  • Not found エラー。 Base URL は /v1 で終わる必要があります。フルパス /chat/completions をそれを再度付加する SDK に貼り付けると、パスが正しくなくなります。
  • 不明なモデル。 uncensored 以外のモデル文字列は誤りです。設定とテスト内のハードコードされた名前を検索してください。
  • 429の急増。 キータイプの同時実行数に制限し、Retry-After を尊重してください。
  • 予期せぬコスト。 長いチャット履歴は、すべてのターンで入力として課金されます。それらを切り詰めてください。

それでも何かおかしいと思われる場合は、レスポンスの X-Request-Id 値を サポートページ の連絡先宛に送信してください。これは正確なリクエストを識別し、双方の時間を節約します。

移行チェックリストとテスト

この手順を順番に実行してください。各ステップは小さく、元に戻せる変更です。

  1. API キーページ から $0.50 のトライアルを申請してください。カードは不要で、7 日間有効です。
  2. 上記の curl コールを実行し、レスポンスとヘッダーを確認してください。
  3. 非クリティカルなコードパスを新しい Base URL とキーに切り替えてください。
  4. 実際のプロンプトのサンプルを再生し、出力品質、長さ、レイテンシを目視で比較します。
  5. レスポンスの usage を確認し、1M 入力トークンあたり $0.15、1M 出力トークンあたり $0.50 のレートでボリュームを掛けて計算してください。
  6. X-Balance-USD に残高アラートを追加します。
  7. $20 以上($50 以上でボーナス付き)チャージし、残りのトラフィックを移動してください。

他のモデルの癖に依存していたプロンプトは、異なるシステムプロンプトなど、小さな編集が必要になる場合があります。モデルを変更する際にはこれが通常のことなので、単一の回答ではなく独自のテストセットで判断してください。このモデルは、法的な成人向け利用に対してコンテンツ拒否なしで回答するようにチューニングされており、未成年者が関与する性的コンテンツは許可されていません。

ドキュメント には各エンドポイントとヘッダーの説明が記載されています。Venice API 代替案 に関するページでは製品比較について、価格ページ ではチャージ額、ボーナス、支払い方法について説明しています。API に送信されるプロンプトはトレーニングには使用されず、クレジットは期限切れにならないため、少量のチャージテストには期限の心配がありません。

質問と回答

ベース URL は何ですか?

https://api.veniceapialternative.com/v1 を任意の OpenAI 互換クライアントで使用し、キーを Bearer トークンとして送信してください。

どのモデルIDを送信すべきですか?

uncensored で送信してください。モデルは1つだけなので、古いモデル名からマッピングする必要はありません。

残高を確認するにはどうすればよいですか?

X-Balance-USDレスポンスヘッダーを確認するか、GET /v1/balanceを呼び出すか、OpenAIスタイルのGET /v1/dashboard/billing/credit_grantsを使用してください。

画像や埋め込みエンドポイントを呼び出せますか?

いいえ。APIはテキストのみで、画像、音声、動画、埋め込み、ファインチューニングのエンドポイントはありません。

キーはフォーム 1 つで手に入ります

アカウントを作成し、キーをコピーし、ベースURLを変更します。これでセットアップは完了です。

API キーを取得