Venice AI API 엔드포인트: 다른 베이스 URL로 전환
코드가 Venice AI API 엔드포인트를 가리키고 있고 다른 제공업체를 사용해 보고 싶다면 변경 사항이 매우 작습니다. 베이스 URL, 키, 모델 ID만 변경하면 됩니다. 이 페이지에서는 수정해야 할 항목, 테스트해야 할 항목, 이후에 달라지는 동작을 나열합니다.

주요 포인트
- 대부분의 마이그레이션은 네 가지 변경으로 해결됩니다: 베이스 URL, API 키, 모델 ID, 잔액 처리.
- 새로운 베이스 URL은 https://api.veniceapialternative.com/v1이며 모델 ID는 uncensored입니다.
- 세 가지 엔드포인트를 지원합니다: 채팅 완성, 응답, 모델.
- 실제 트래픽을 전환하기 전에 $0.50 트라이얼을 테스트하세요.
짧은 답변: 네 가지 편집
OpenAI 채팅 형식을 지원하는 클라이언트는 구성 변경만으로 다른 제공업체에 연결할 수 있습니다. Venice AI API 엔드포인트의 경우에도 반대 방향이 동일하게 적용됩니다. 연동 로직을 다시 작성하는 것이 아니라 네 가지 값만 교체하면 됩니다.
- 베이스 URL:
https://api.veniceapialternative.com/v1로 설정하세요. - API 키: API 키 페이지에서 키를 생성하고
Authorization: Bearer <key>로 전송하세요. - 모델 ID:
uncensored를 사용하세요. 단일 모델만 제공되므로 모델 목록 매핑이 필요하지 않습니다. - 잔액 확인:
X-Balance-USD헤더를 읽거나GET /v1/balance를 호출합니다.
이 서비스는 Venice 또는 기타 벤더와 독립적이며 관련이 없습니다. 단일 오픈 웨이트 모델을 호스팅하므로, 기존 코드에서 사용하던 모든 모델 이름은 교체해야 합니다.
편집하기 전: 엔드포인트가 있는 모든 위치 찾기
베이스 URL은 보통 한 파일에만 있지 않습니다. 저장소에서 이전 호스트 이름, 이전 모델 문자열, 키를 저장하는 환경 변수를 검색하세요. 일반적인 숨겨진 위치에는 SDK 생성자, .env 파일, Docker 또는 CI 시크릿, 프론트엔드 구성 및 메인 앱과 별도로 작성된 백그라운드 워커가 포함됩니다.
유용한 습관은 먼저 세 가지 값을 모두 환경 변수로 이동한 후 마이그레이션하는 것입니다. 이렇게 하면 전환이 배포 시 변경 사항이 되며, 한 줄로 롤백할 수 있습니다.
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Python, Node, curl용 코드
Python (openai SDK)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
-i 플래그는 응답 헤더를 출력하므로, 첫 번째 호출에서 X-Request-Id 및 X-Balance-USD를 확인할 수 있습니다.
변하지 않는 것과 달라지는 것
요청 형태는 익숙합니다: 역할이 있는 messages, stream, tools, tool_choice, JSON 모드용 response_format, 그리고 샘플링 파라미터 temperature, top_p, stop, seed 및 페널티가 있습니다. 스트리밍은 SSE를 사용하며 사용량 정보는 스트림 끝에 도착합니다. 도구 결과는 role: "tool" 메시지로 반환됩니다.
| 항목 | 여기서 |
|---|---|
| 엔드포인트 | POST /v1/chat/completions, POST /v1/responses, GET /v1/models |
| 모델 ID | uncensored (단일 모델) |
| 컨텍스트 창 | 100,000 토큰, 프롬프트 및 완성 포함 |
| 최대 요청 본문 | 8 MB |
| 모달리티 | 텍스트 전용: 이미지, 오디오, 비디오, 임베딩 또는 파인튜닝 없음 |
마지막 행이 마이그레이션을 깨뜨리는 요소입니다. 기존 제공업체에서 이미지, 음성 또는 임베딩 경로를 호출하는 앱이라면, 해당 호출에는 여기서 대응하는 것이 없습니다. 해당 부분은 기존 제공업체에 그대로 두고 텍스트 호출만 이동하세요.
한도와 오류 처리 방식 변경
전용 키는 동시 요청 8개와 분당 300개의 요청을 허용합니다. 체험 키는 동시 2개, 분당 60개를 허용합니다. 한도를 초과하면 HTTP 429 오류가 발생하며, 분당 요청의 경우 오류 코드는 rate_limited, 동시 요청의 경우 concurrency입니다. Retry-After: 5 헤더가 있는 429 오류는 일시적 과부하를 의미하므로 기다렸다가 다시 시도하세요.
스트리밍 요청은 스트림이 완료될 때까지 동시성 슬롯을 유지합니다. 기존 통합에서 수십 개의 병렬 호출을 수행했다면 클라이언트 앞에 8개 이하의 세마포어를 배치하세요.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
실패하거나 거부된 요청은 요금이 부과되지 않으므로 오류 발생 시 재시도해도 크레딧이 소모되지 않습니다.
전환 후 스트리밍과 함수 호출
앱에서 UI로 토큰을 스트리밍한다면 클라이언트 측 변경은 필요 없습니다. stream: true를 설정하고 서버 전송 이벤트(SSE)를 읽으세요. 사용량 블록은 스트림 끝에 도착하므로 각 응답의 비용 로깅에 유용합니다.
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
함수 호출은 이미 알고 있는 흐름을 따릅니다. tools와 선택적으로 tool_choice를 전달하면, 모델은 tool_calls을(를) 반환합니다(스트리밍 시 조각으로 전송). 함수를 실행한 후 결과를 role: "tool" 메시지로 다시 전송합니다. JSON 모드는 response_format: {"type": "json_object"}로 작동합니다. 모델이 스키마를 보장하지 않으므로 코드에서 파싱된 JSON을 항상 검증하세요.
전환 후 일반적인 문제
- 인증 실패. 키가 Bearer 토큰으로 전송되는지 확인하고 전체 문자열을 복사했는지 확인하세요. 기존 제공업체의 키는 여기서 작동하지 않습니다.
- 찾을 수 없음 오류. 베이스 URL은
/v1에서 끝나야 합니다. SDK가 경로를 다시 추가하는 경우 전체/chat/completions경로를 붙여넣으면 경로가 잘못됩니다. - 알 수 없는 모델.
uncensored외의 모든 모델 문자열은 잘못되었습니다. 구성 및 테스트에서 하드코딩된 이름을 검색하세요. - 429 버스트. 키 유형의 동시성으로 병렬 처리를 제한하고
Retry-After를 준수하세요. - 예상치 못한 비용. 긴 채팅 기록은 모든 턴에서 입력으로 청구됩니다. 기록을 줄이세요.
X-Request-Id 값을 support page 연락처로 보내면 정확한 요청을 식별하여 양측의 시간을 절약할 수 있습니다.
마이그레이션 체크리스트 및 테스트
순서대로 진행하세요. 각 단계는 작고 되돌릴 수 있는 변경입니다.
- API 키 페이지에서 $0.50 무료 체험 크레딧을 청구하세요. 카드가 필요 없으며 7일 동안 유효합니다.
- 위의 curl 호출을 실행하고 응답과 헤더를 확인하세요.
- 비핵심 코드 경로 중 하나를 새 베이스 URL과 키로 전환하세요.
- 실제 프롬프트 샘플을 재생하고 출력 품질, 길이 및 지연 시간을 눈으로 비교하세요.
- 응답에서
usage를 확인하고 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50에 볼륨을 곱하세요. X-Balance-USD에 잔액 알림을 추가하세요.- 충전($20부터, 보너스 $50부터) 후 트래픽 이동.
다른 모델의 특성에 의존하던 프롬프트는 다른 시스템 프롬프트와 같은 작은 수정이 필요할 수 있습니다. 모델을 변경할 때 이는 정상적인 현상이므로 단일 답변이 아닌 자체 테스트 세트를 기준으로 판단하세요. 이 모델은 합법적인 성인 사용에 대해 콘텐츠 거부 없이 답변하도록 조정되었으며, 미성년자가 관련된 성 콘텐츠는 허용되지 않습니다.
문서은 각 엔드포인트와 헤더를 설명합니다. Venice API 대체제 페이지는 제품 비교를 다루며, 가격 책정 페이지에는 충전 금액, 보너스 및 결제 방법을 보여줍니다. API로 전송된 프롬프트는 학습에 사용되지 않으며, 크레딧은 만료되지 않으므로 작은 테스트 충전에는 기한이 없습니다.
더 많은 가이드
질문과 답변
베이스 URL은 무엇인가요?
모든 OpenAI 호환 클라이언트에서 https://api.veniceapialternative.com/v1을 사용하고, 키를 Bearer token으로 전송하세요.
어떤 모델 ID를 전송해야 하나요?
uncensored를 전송하세요. 모델이 하나뿐이므로 이전 모델 이름에서 매핑할 것이 없습니다.
잔액을 어떻게 확인하나요?
X-Balance-USD 응답 헤더를 확인하거나, GET /v1/balance를 호출하거나, OpenAI 스타일의 GET /v1/dashboard/billing/credit_grants를 사용하세요.
이미지 또는 임베딩 엔드포인트를 호출할 수 있나요?
아니요. 이 API는 텍스트 전용이며, 이미지, 오디오, 비디오, 임베딩 또는 파인튜닝 엔드포인트가 없습니다.