ID ▾

Alternatif API AI tanpa sensor untuk pengembang

https://api.veniceapialternative.com/v1

veniceapialternative.com

Endpoint API Venice AI: Beralih ke Base URL Lain

Jika kode Anda mengarah ke endpoint API Venice AI dan Anda ingin mencoba penyedia lain, perubahannya kecil: base URL, kunci, dan ID model. Halaman ini mencantumkan apa yang perlu diedit, diuji, dan apa yang berubah setelahnya.

Diperbarui

Steker kabel berpindah di antara dua blok server, mengilustrasikan pengalihan base URL

Poin utama

  • Empat perubahan mencakup sebagian besar migrasi: URL dasar, kunci API, ID model, penanganan saldo.
  • Base URL baru adalah https://api.veniceapialternative.com/v1 dan ID modelnya adalah uncensored.
  • Tiga endpoint didukung: penyelesaian obrolan, respons, dan model.
  • Uji dengan uji coba $0,50 sebelum mengalihkan lalu lintas nyata.

Jawaban singkat: empat perubahan

Klien apa pun yang menggunakan format obrolan OpenAI hanya memerlukan perubahan konfigurasi untuk menjangkau penyedia berbeda. Untuk endpoint API Venice AI, hal yang sama berlaku secara terbalik: Anda mengganti empat nilai, bukan menulis ulang integrasi Anda.

  1. Base URL: atur ke https://api.veniceapialternative.com/v1.
  2. Kunci API: buat di halaman kunci API dan kirimkan sebagai Authorization: Bearer <key>.
  3. ID Model: gunakan uncensored. Hanya ada satu model, sehingga tidak ada daftar model untuk dipetakan.
  4. Pemeriksaan Saldo: baca header X-Balance-USD, atau panggil GET /v1/balance.

Ini adalah layanan independen, tidak dijalankan atau berafiliasi dengan Venice atau vendor lain. Layanan ini meng-host satu model bobot terbuka, sehingga nama model apa pun yang digunakan kode Anda sebelumnya harus diganti.

Sebelum Anda mengedit: temukan setiap tempat endpoint berada

Base URL jarang berada di hanya satu file. Cari repositori Anda untuk nama host lama, string model lama, dan variabel lingkungan yang menyimpan kunci. Tempat tersembunyi yang umum adalah konstruktor SDK, file .env, rahasia Docker atau CI, konfigurasi front-end, dan pekerja latar belakang yang ditulis secara terpisah dari aplikasi utama.

Kebiasaan yang berguna adalah memindahkan ketiga nilai ke variabel lingkungan terlebih dahulu, lalu migrasi. Itu membuat pengalihan menjadi perubahan saat deployment dan memberikan rollback satu baris.

export LLM_BASE_URL="https://api.veniceapialternative.com/v1"
export LLM_API_KEY="YOUR_KEY"
export LLM_MODEL="uncensored"

Kode untuk Python, Node, dan curl

Python (SDK openai)

import os
from openai import OpenAI

client = OpenAI(
    base_url=os.environ.get("LLM_BASE_URL", "https://api.veniceapialternative.com/v1"),
    api_key=os.environ["LLM_API_KEY"],
)

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Say hello in five words."}],
)
print(resp.choices[0].message.content)

Node.js

import OpenAI from "openai";

const client = new OpenAI({
  baseURL: "https://api.veniceapialternative.com/v1",
  apiKey: process.env.LLM_API_KEY,
});

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Say hello in five words." }],
});
console.log(resp.choices[0].message.content);

curl

curl -i https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $LLM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{"model":"uncensored","messages":[{"role":"user","content":"Say hello in five words."}]}'

Bendera -i mencetak header respons, yang merupakan cara Anda melihat X-Request-Id dan X-Balance-USD pada panggilan pertama.

Apa yang tetap sama, dan apa yang berubah

Bentuk permintaan adalah yang akrab: messages dengan peran, stream, tools, tool_choice, response_format untuk mode JSON, dan parameter sampling temperature, top_p, stop, seed dan penalti. Streaming menggunakan SSE dengan penggunaan di akhir, dan hasil alat dikembalikan sebagai pesan role: "tool".

ItemDi sini
EndpointPOST /v1/chat/completions, POST /v1/responses, GET /v1/models
ID modeluncensored (satu model)
Jendela konteks100.000 token, prompt plus penyelesaian
Ukuran badan permintaan maksimum8 MB
ModusHanya teks: tanpa gambar, audio, video, embedding, atau fine-tuning

Baris terakhir adalah yang memecah migrasi. Jika aplikasi Anda memanggil rute gambar, suara, atau embedding di penyedia lama, panggilan tersebut tidak memiliki padanan di sini. Biarkan bagian itu di penyedia saat ini dan pindahkan hanya panggilan teks.

Tangani batas dan error secara berbeda

Kunci penuh mengizinkan 8 permintaan paralel dan 300 permintaan per menit. Kunci uji coba mengizinkan 2 paralel dan 60 per menit. Melebihi batas tersebut, Anda mendapatkan HTTP 429, dengan kode error rate_limited untuk permintaan per menit atau concurrency untuk terlalu banyak sekaligus. 429 dengan header Retry-After: 5 berarti kelebihan beban sementara: tunggu dan coba lagi.

Perhatikan bahwa permintaan streaming memegang slot konkurensinya hingga stream selesai. Jika integrasi lama Anda menembakkan puluhan panggilan paralel, pasang semaforkan 8 atau kurang di depan klien.

import time, random
from openai import OpenAI, RateLimitError

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

def ask(prompt, tries=4):
    for i in range(tries):
        try:
            r = client.chat.completions.create(
                model="uncensored",
                messages=[{"role": "user", "content": prompt}],
            )
            return r.choices[0].message.content
        except RateLimitError:
            time.sleep(5 + random.random() * i)
    raise RuntimeError("still rate limited")

Permintaan yang gagal atau ditolak tidak dibebankan biaya, sehingga percobaan ulang pada error tidak menghabiskan kredit Anda.

Streaming dan panggilan alat setelah beralih

Jika aplikasi Anda melakukan streaming token ke UI, tidak ada perubahan di klien: atur stream: true dan baca server-sent events. Blok penggunaan tiba di akhir streaming, yang berguna untuk mencatat biaya setiap balasan.

from openai import OpenAI

client = OpenAI(base_url="https://api.veniceapialternative.com/v1", api_key="YOUR_KEY")

stream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "List three uses of a message queue."}],
    stream=True,
    stream_options={"include_usage": True},
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="")
    if chunk.usage:
        print("\n", chunk.usage)

Pemanggilan alat mengikuti alur yang sudah Anda kenal. Anda meneruskan tools dan opsional tool_choice, model mengembalikan tool_calls (streamed dalam potongan saat streaming), Anda menjalankan fungsi, dan Anda mengirim hasilnya kembali sebagai pesan role: "tool". Mode JSON bekerja dengan response_format: {"type": "json_object"}. Selalu validasi JSON yang diparsing di kode Anda, karena tidak ada model yang menjamin skema.

Masalah umum setelah pengalihan

  • Gagal autentikasi. Periksa apakah kunci dikirim sebagai token Bearer dan apakah Anda menyalin seluruh string. Kunci dari penyedia lama tidak akan berfungsi di sini.
  • Error tidak ditemukan. Base URL harus berakhir di /v1. Jika Anda menempelkan jalur lengkap /chat/completions ke SDK yang menambahkannya lagi, rutenya akan salah.
  • Model tidak dikenal. String model apa pun selain uncensored adalah salah. Cari nama hard-coded di konfigurasi dan tes.
  • Lonjakan 429. Batasi paralelisme sesuai konkurensi tipe kunci Anda, dan hormati Retry-After.
  • Biaya tak terduga. Riwayat obrolan panjang ditagih sebagai input pada setiap giliran. Potong.

Jika ada yang masih terlihat aneh, kirimkan nilai X-Request-Id dari respons ke kontak halaman dukungan. Itu mengidentifikasi permintaan tepat dan menghemat waktu di kedua sisi.

Daftar peralihan dan pengujian

Kerjakan ini secara berurutan. Setiap langkah adalah perubahan kecil yang dapat dibalik.

  1. Klaim uji coba $0,50 dari halaman kunci API. Tidak perlu kartu dan berlangsung 7 hari.
  2. Jalankan panggilan curl di atas dan konfirmasi respons dan header.
  3. Alihkan satu jalur kode non-kritis ke base URL dan kunci baru.
  4. Putar ulang sampel prompt nyata dan bandingkan kualitas output, panjang, dan latensi secara visual.
  5. Periksa usage dalam respons dan kalikan dengan volume Anda pada $0,15 per 1M input dan $0,50 per 1M output token.
  6. Tambahkan peringatan saldo pada X-Balance-USD.
  7. Isi saldo (mulai dari $20, dengan bonus dari $50) dan pindahkan sisa lalu lintas.

Prompt yang bergantung pada keanehan model lain mungkin memerlukan pengeditan kecil, seperti prompt sistem yang berbeda. Itu normal saat mengganti model, jadi nilai berdasarkan set tes Anda sendiri, bukan satu jawaban. Model ini disetel untuk menjawab tanpa penolakan konten untuk penggunaan dewasa yang sah, dan konten seksual yang melibatkan anak di bawah umur tidak diizinkan.

dokumentasi menjelaskan setiap endpoint dan header. Halaman kami tentang alternatif API Venice mencakup bagaimana produk dibandingkan, dan halaman harga menunjukkan jumlah isi ulang, bonus, dan metode pembayaran. Prompt yang dikirim ke API tidak digunakan untuk pelatihan, dan kredit tidak pernah kedaluwarsa, sehingga isi ulang tes kecil tidak memiliki batas waktu.

Tanya jawab

Apa base URL-nya?

Gunakan https://api.veniceapialternative.com/v1 dengan klien kompatibel OpenAI mana pun, dan kirimkan kunci Anda sebagai token Bearer.

Model ID apa yang harus saya kirim?

Kirim uncensored. Hanya ada satu model, sehingga tidak ada pemetaan dari nama-nama model lama Anda.

Bagaimana cara memeriksa saldo saya?

Baca header respons X-Balance-USD, panggil GET /v1/balance, atau gunakan GET /v1/dashboard/billing/credit_grants gaya OpenAI.

Bisakah saya memanggil endpoint gambar atau embedding?

Tidak. API hanya untuk teks, tanpa endpoint gambar, audio, video, embedding, atau fine-tuning.

Kunci Anda hanya selangkah lagi dari satu formulir

Buat akun, salin kunci, ubah URL dasar. Itu saja seluruh proses pengaturannya.

Dapatkan kunci API