Endpoint API Venice AI: Beralih ke Base URL Lain
Jika kode Anda mengarah ke endpoint API Venice AI dan Anda ingin mencoba penyedia lain, perubahannya kecil: base URL, kunci, dan ID model. Halaman ini mencantumkan apa yang perlu diedit, diuji, dan apa yang berubah setelahnya.

Poin utama
- Empat perubahan mencakup sebagian besar migrasi: URL dasar, kunci API, ID model, penanganan saldo.
- Base URL baru adalah https://api.veniceapialternative.com/v1 dan ID modelnya adalah uncensored.
- Tiga endpoint didukung: penyelesaian obrolan, respons, dan model.
- Uji dengan uji coba $0,50 sebelum mengalihkan lalu lintas nyata.
Jawaban singkat: empat perubahan
Klien apa pun yang menggunakan format obrolan OpenAI hanya memerlukan perubahan konfigurasi untuk menjangkau penyedia berbeda. Untuk endpoint API Venice AI, hal yang sama berlaku secara terbalik: Anda mengganti empat nilai, bukan menulis ulang integrasi Anda.
- Base URL: atur ke
https://api.veniceapialternative.com/v1. - Kunci API: buat di halaman kunci API dan kirimkan sebagai
Authorization: Bearer <key>. - ID Model: gunakan
uncensored. Hanya ada satu model, sehingga tidak ada daftar model untuk dipetakan. - Pemeriksaan Saldo: baca header
X-Balance-USD, atau panggilGET /v1/balance.
Ini adalah layanan independen, tidak dijalankan atau berafiliasi dengan Venice atau vendor lain. Layanan ini meng-host satu model bobot terbuka, sehingga nama model apa pun yang digunakan kode Anda sebelumnya harus diganti.
Sebelum Anda mengedit: temukan setiap tempat endpoint berada
Base URL jarang berada di hanya satu file. Cari repositori Anda untuk nama host lama, string model lama, dan variabel lingkungan yang menyimpan kunci. Tempat tersembunyi yang umum adalah konstruktor SDK, file .env, rahasia Docker atau CI, konfigurasi front-end, dan pekerja latar belakang yang ditulis secara terpisah dari aplikasi utama.
Kebiasaan yang berguna adalah memindahkan ketiga nilai ke variabel lingkungan terlebih dahulu, lalu migrasi. Itu membuat pengalihan menjadi perubahan saat deployment dan memberikan rollback satu baris.
export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"Kode untuk Python, Node, dan curl
Python (SDK openai)
import os
from openai import OpenAI
client = OpenAI(
base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
api_key=os.environ["LLM_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)
Node.js
import OpenAI from "openai";
const client = new OpenAI({
baseURL: "https://api.veniceapialternative.com/v1",
apiKey: process.env.LLM_API_KEY,
});
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);
curl
curl -i https://api.veniceapialternative.com/v1/chat/completions \
-H "Authorization: Bearer $LLM_API_KEY" \
-H "Content-Type: application/json" \
-d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'
Bendera -i mencetak header respons, yang merupakan cara Anda melihat X-Request-Id dan X-Balance-USD pada panggilan pertama.
Apa yang tetap sama, dan apa yang berubah
Bentuk permintaan adalah yang akrab: messages dengan peran, stream, tools, tool_choice, response_format untuk mode JSON, dan parameter sampling temperature, top_p, stop, seed dan penalti. Streaming menggunakan SSE dengan penggunaan di akhir, dan hasil alat dikembalikan sebagai pesan role: "tool".
| Item | Di sini |
|---|---|
| Endpoint | POST /v1/chat/completions, POST /v1/responses, GET /v1/models |
| ID model | uncensored (satu model) |
| Jendela konteks | 100.000 token, prompt plus penyelesaian |
| Ukuran badan permintaan maksimum | 8 MB |
| Modus | Hanya teks: tanpa gambar, audio, video, embedding, atau fine-tuning |
Baris terakhir adalah yang memecah migrasi. Jika aplikasi Anda memanggil rute gambar, suara, atau embedding di penyedia lama, panggilan tersebut tidak memiliki padanan di sini. Biarkan bagian itu di penyedia saat ini dan pindahkan hanya panggilan teks.
Tangani batas dan error secara berbeda
Kunci penuh mengizinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba mengizinkan 2 paralel dan 60 per menit. Melebihi batas tersebut, Anda mendapatkan HTTP 429, dengan kode error rate_limited untuk permintaan per menit atau concurrency untuk terlalu banyak sekaligus. 429 dengan header Retry-After: 5 berarti kelebihan beban sementara: tunggu dan coba lagi.
Perhatikan bahwa permintaan streaming memegang slot konkurensinya hingga stream selesai. Jika integrasi lama Anda menembakkan puluhan panggilan paralel, pasang semaforkan 8 atau kurang di depan klien.
import time, random
from openai import OpenAI, RateLimitError
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
def ask(prompt, tries=4):
for i in range(tries):
try:
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
return r.choices[0].message.content
except RateLimitError:
time.sleep(5 + random.random() * i)
raise RuntimeError("still rate limited")
Permintaan yang gagal atau ditolak tidak dibebankan biaya, sehingga percobaan ulang pada error tidak menghabiskan kredit Anda.
Streaming dan panggilan alat setelah beralih
Jika aplikasi Anda melakukan streaming token ke UI, tidak ada perubahan di klien: atur stream: true dan baca server-sent events. Blok penggunaan tiba di akhir streaming, yang berguna untuk mencatat biaya setiap balasan.
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "List three uses of a message queue."}],
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="")
if chunk.usage:
print("\n", chunk.usage)
Pemanggilan alat mengikuti alur yang sudah Anda kenal. Anda meneruskan tools dan opsional tool_choice, model mengembalikan tool_calls (streamed dalam potongan saat streaming), Anda menjalankan fungsi, dan Anda mengirim hasilnya kembali sebagai pesan role: "tool". Mode JSON bekerja dengan response_format: {"type": "json_object"}. Selalu validasi JSON yang diparsing di kode Anda, karena tidak ada model yang menjamin skema.
Masalah umum setelah pengalihan
- Gagal autentikasi. Periksa apakah kunci dikirim sebagai token Bearer dan apakah Anda menyalin seluruh string. Kunci dari penyedia lama tidak akan berfungsi di sini.
- Error tidak ditemukan. Base URL harus berakhir di
/v1. Jika Anda menempelkan jalur lengkap/chat/completionske SDK yang menambahkannya lagi, rutenya akan salah. - Model tidak dikenal. String model apa pun selain
uncensoredadalah salah. Cari nama hard-coded di konfigurasi dan tes. - Lonjakan 429. Batasi paralelisme sesuai konkurensi tipe kunci Anda, dan hormati
Retry-After. - Biaya tak terduga. Riwayat obrolan panjang ditagih sebagai input pada setiap giliran. Potong.
Jika ada yang masih terlihat aneh, kirimkan nilai X-Request-Id dari respons ke kontak halaman dukungan. Itu mengidentifikasi permintaan tepat dan menghemat waktu di kedua sisi.
Daftar peralihan dan pengujian
Kerjakan ini secara berurutan. Setiap langkah adalah perubahan kecil yang dapat dibalik.
- Klaim uji coba $0,50 dari halaman kunci API. Tidak perlu kartu dan berlangsung 7 hari.
- Jalankan panggilan curl di atas dan konfirmasi respons dan header.
- Alihkan satu jalur kode non-kritis ke base URL dan kunci baru.
- Putar ulang sampel prompt nyata dan bandingkan kualitas output, panjang, dan latensi secara visual.
- Periksa
usagedalam respons dan kalikan dengan volume Anda pada $0,15 per 1M input dan $0,50 per 1M output token. - Tambahkan peringatan saldo pada
X-Balance-USD. - Isi saldo (mulai dari $20, dengan bonus dari $50) dan pindahkan sisa lalu lintas.
Prompt yang bergantung pada keanehan model lain mungkin memerlukan pengeditan kecil, seperti prompt sistem yang berbeda. Itu normal saat mengganti model, jadi nilai berdasarkan set tes Anda sendiri, bukan satu jawaban. Model ini disetel untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, dan konten seksual yang melibatkan anak di bawah umur tidak diizinkan.
dokumentasi menjelaskan setiap endpoint dan header. Halaman kami tentang alternatif API Venice mencakup bagaimana produk dibandingkan, dan halaman harga menunjukkan jumlah isi ulang, bonus, dan metode pembayaran. Prompt yang dikirim ke API tidak digunakan untuk pelatihan, dan kredit tidak pernah kedaluwarsa, sehingga isi ulang tes kecil tidak memiliki batas waktu.
Panduan lainnya
Tanya jawab
Apa base URL-nya?
Gunakan https://api.veniceapialternative.com/v1 dengan klien kompatibel OpenAI mana pun, dan kirimkan kunci Anda sebagai token Bearer.
Model ID apa yang harus saya kirim?
Kirim uncensored. Hanya ada satu model, sehingga tidak ada pemetaan dari nama-nama model lama Anda.
Bagaimana cara memeriksa saldo saya?
Baca header respons X-Balance-USD, panggil GET /v1/balance, atau gunakan GET /v1/dashboard/billing/credit_grants gaya OpenAI.
Bisakah saya memanggil endpoint gambar atau embedding?
Tidak. API hanya untuk teks, tanpa endpoint gambar, audio, video, embedding, atau fine-tuning.