Venice API Alternatifi Python: OpenAI SDK Kurulumu
Temel URL'yi, anahtarı ve model adını değiştirerek bu API'ye resmi OpenAI Python SDK'sını kullanabilirsiniz. Aşağıda yaygın her görev için çalışan kod bulunmaktadır.

Temel noktalar
- openai paketini yükleyin, base_url'yi https://api.veniceapialternative.com/v1 olarak ayarlayın ve modeli uncensored olarak ayarlayın.
- Akış, araç çağırma ve JSON modu standart SDK çağrıları üzerinden çalışır.
- Eşzamanlı işleri tam anahtar için 8 eşzamanlı istek, deneme anahtarı için 2 eşzamanlı istek seviyesinde tutun.
- 429, rate_limited, concurrency veya geçici aşırı yüklemeyi ifade eder; bekleyip tekrar deneyin.
Kurulum ve ilk çağrı
Bir Venice API alternatifi Python kurulumu için özel bir kütüphaneye ihtiyacınız yoktur. Hizmet OpenAI sohbet formatını konuştuğu için standart SDK çalışır. pip install openai ile yükleyin, ardından bir anahtar edinin. Google veya e-posta ve şifre ile kayıt olduktan sonra yeni kullanıcılar API anahtarı sayfasında 0,50 $ deneme kredisi talep edebilir. Kart gerekmez.
Anahtarı kaynak dosyanızda değil, bir ortam değişkeninde saklayın. Ardından temel URL ile bir istemci oluşturun ve modeli uncensored olarak çağırın:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
resp = client.chat.completions.create(
model="uncensored",
messages=[
{"role": "system", "content": "You are a concise writing assistant."},
{"role": "user", "content": "Give me three opening lines for a noir story."},
],
temperature=0.8,
)
print(resp.choices[0].message.content)
print(resp.usage)
SDK, Authorization: Bearer <key> başlığını sizin için gönderir. usage nesnesi, ileride maliyet takibi için kullanacağınız istek ve tamamlama tokenlerini gösterir. Kimlik doğrulama hatası ile başarısız olursa, anahtarın sonundaki yeni satır karakteri olmadığından ve temel URL'nin /v1 ile bittiğinden emin olun.
temperature, top_p, stop ve seed parametreleri ile sıklık ve varlık cezaları modele iletilir, böylece örnekleme işlemini başka yerlerde yapacağınız şekilde ayarlayabilirsiniz. Pencerede kalan alanı kullanmasını istiyorsanız max_tokens parametresini bırakın veya yanıt uzunluğu ve maliyet için bir üst sınır belirlemek istiyorsanız onu ayarlayın.
Bağlantıyı modeller uç noktasıyla kontrol etme
Herhangi bir şey yapmadan önce uç noktanın erişilebilir olduğundan emin olun. İkinci desteklenen yöntem, GET /v1/models, anahtarın kullanabileceği modelleri listeler:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
for m in client.models.list():
print(m.id, m.id == "uncensored")
uncensored görmelisiniz. Bu tek model ID'sidir ve her istekte model olarak geçirilecek değerdir. Birden fazla model adı arasından seçim yapan bir uygulamayı taşıyorsanız, seçim mantığını sabit bir değerle değiştirin. Arasından seçim yapılacak başka bir şey yoktur.
Tam parametre referansı doküman sayfasında yer alır. Sadece metin sohbeti desteklenir: resim, ses, gömme veya ince ayar yoktur, bu nedenle getirdiğiniz koddaki bu çağrıları kaldırın.
Akış yanıtları
Akış, tokenlar üretildikça döndürülür, bu da sohbet arayüzlerinin daha hızlı hissedilmesini sağlar. stream=True ayarlayın ve parçalarda gezinin. Kullanım bilgisi akışın sonunda gelir, bu nedenle seçim taşımayan parçalar için koruma sağlayın:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Describe a rainy harbor town in 120 words."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)
if getattr(chunk, "usage", None):
print("\n", chunk.usage)
Kapasite planlaması için önemli bir ayrıntı: akışlı bir istek, akış bitene kadar eşzamanlılık slotunu tutar. Bir kullanıcı bir akış açar ve kapatmadan ayrılırsa, bu slot meşgul kalır. Kullanıcı ayrıldığında istemci tarafında akışları kapatın ve bir istek zaman aşımı ayarlayın.
Araç çağırma ve JSON modu
Araç çağırma OpenAI formatını takip eder. tools içinde fonksiyonları tanımlarsınız, model tool_calls döndürür, fonksiyonu çalıştırırsınız ve sonucu role: "tool" ile geri gönderirsiniz:
import json
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
tools = [{
"type": "function",
"function": {
"name": "roll_dice",
"description": "Roll a die with the given number of sides",
"parameters": {
"type": "object",
"properties": {"sides": {"type": "integer"}},
"required": ["sides"],
},
},
}]
messages = [{"role": "user", "content": "Roll a twenty-sided die for the next encounter."}]
first = client.chat.completions.create(
model="uncensored", messages=messages, tools=tools, tool_choice="auto"
)
msg = first.choices[0].message
if msg.tool_calls:
call = msg.tool_calls[0]
args = json.loads(call.function.arguments)
result = {"value": 14, "sides": args["sides"]}
messages.append(msg)
messages.append({"role": "tool", "tool_call_id": call.id, "content": json.dumps(result)})
final = client.chat.completions.create(model="uncensored", messages=messages, tools=tools)
print(final.choices[0].message.content)
Üretim kodunda her zaman function.arguments'i try/except ile ayrıştırın, çünkü bir model bazen hatalı JSON üretebilir. Araçlar olmadan yapılandırılmış çıktı istediğinizde JSON modu yardımcı olur:
import json
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
r = client.chat.completions.create(
model="uncensored",
response_format={"type": "json_object"},
messages=[
{"role": "system", "content": "Reply with a JSON object with keys name, mood and hook."},
{"role": "user", "content": "Invent a tavern keeper for a fantasy campaign."},
],
)
print(json.loads(r.choices[0].message.content))
Hangi anahtarları istediğinizi modele istemde belirtin. JSON modu çıktıyı geçerli JSON yapar ancak şemanızı tahmin edemez.
429 hatalarının ve hız limitlerinin yönetimi
Tam bir anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. Bir deneme anahtarı 2 eşzamanlı istek ve dakikada 60 istek izni verir. Bir sınırı aştığınızda HTTP 429 alırsınız ve hata kodu hangi sınırı aştığınızı belirtir:
rate_limited: dakikada çok fazla istek. Hızınızı düşürün.concurrency: havada çok fazla istek. Bazılarının bitmesini bekleyin.Retry-After: 5başlığı içeren bir 429: geçici aşırı yükleme. 5 saniye bekleyip tekrar deneyin.
SDK varsayılan olarak birkaç kez yeniden deneme yapar ve Retry-After başlığını dikkate alır. Daha ağır işler için kendi sarmalayıcınızı ekleyin ve limit başlıklarını okuyun. Ham yanıtı with_raw_response üzerinden alabilirsiniz:
import os
import time
import openai
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
max_retries=0,
)
def ask(prompt, attempts=4):
for n in range(attempts):
try:
raw = client.chat.completions.with_raw_response.create(
model="uncensored",
messages=[{"role": "user", "content": prompt}],
)
print("balance:", raw.headers.get("X-Balance-USD"),
"request id:", raw.headers.get("X-Request-Id"))
return raw.parse().choices[0].message.content
except openai.RateLimitError as e:
wait = int(e.response.headers.get("Retry-After", 2 ** n))
time.sleep(wait)
raise RuntimeError("still rate limited after retries")
print(ask("Name three plot twists for a heist story."))
Her başarısızlıkla birlikte X-Request-Id'i günlüğe kaydedin. destek ile iletişime geçtiğinizde bu ID onların tam çağrıyı bulmasını sağlar. X-Balance-USD başlığı, ekstra bir istek olmadan kalan krediyi verir. Başarısız ve reddedilen istekler için ücret alınmaz.
Kapasite sınırına takılmadan eşzamanlı istekler çalıştırma
Toplu işler için asenkron istemciyi ve anahtarınıza boyutlandırılmış bir semafor kullanın. Tam bir anahtar için üst sınır 8'dir. Aynı anahtardan canlı kullanıcıları da hizmet veriyorsanız biraz boşluk bırakın.
import asyncio
import os
from openai import AsyncOpenAI
client = AsyncOpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
gate = asyncio.Semaphore(6)
async def summarize(text):
async with gate:
r = await client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarize in one sentence: " + text}],
max_tokens=80,
)
return r.choices[0].message.content
async def main():
docs = ["First long text ...", "Second long text ...", "Third long text ..."]
for line in await asyncio.gather(*(summarize(d) for d in docs)):
print(line)
asyncio.run(main())
Dakikalık sınır için de hız önemlidir. 6 paralel işçi ve çağrı başına 4 saniye ile dakikada yaklaşık 90 istek gönderirsiniz, bu 300 sınırının oldukça altındadır. Çağrılarınız hızlıysa, ani artışlarda sınırı aşmamak için küçük bir uyku süresi veya token kovanı ekleyin.
Mevcut bir Python projesini taşıma
Çoğu geçiş, insanların düşündüğünden daha küçüktür. Kodunuz zaten bir OpenAI(...) istemcisi oluşturuyorsa, iki kurucu argümanı ve bir dizeyi değiştirirsiniz. Ayarları ortam değişkenlerinden okuyorsanız, koda hiç dokunmak zorunda kalmayabilirsiniz: openai paketi OPENAI_API_KEY ve OPENAI_BASE_URL değişkenlerini okur, bu nedenle bu ikisini kabuğunuzda veya .env dosyanızda ayarlamak tüm programı yeni uç noktaya yönlendirir.
Sonra projenizde bu öğeleri arayın, çünkü bunlar genellikle bozulmalara neden olur:
- Sabit kodlanmış model adları. Eski her adı
uncensoredile değiştirin.model=için bir grep, çoğunu bulur. - Diğer uç noktalara çağrılar. Resim, ses, gömme ve ince ayar çağrılarının burada karşılığı yoktur. Bunları sunan bir servise yönlendirin veya kaldırın.
- Satıcıya özel ekler. Eski sağlayıcınıza ait ek istek alanları veya özel başlıklar hatalara neden olabilir. Bunları düz OpenAI formatına indirgeyin.
- Token bütçeleri. Pencere, istem ve tamamlama için 100.000 token'dır. Daha küçük bir pencereye sığması için geçmişi kısalttıysanız, şimdi daha fazlasını koruyabilirsiniz, ancak her turda her korunan mesaj için tekrar ücretlendirildiği için maliyete dikkat edin.
İstemler yeniden test edilmeye değer. Bir model için çalışan bir sistem istemi, başka bir modelde farklı bir ton verebilir, bu nedenle göndermeden önce en önemli on isteminizi çalıştırın ve çıktıyı beklediğiniz şeyle karşılaştırın.
Yaygın sorunlar ve çözümleri
İnsanların Python'dan yeni bir OpenAI uyumlu uç nokta bağladığında en sık karşılaştıkları hataların kısa listesi:
- İlk çağrıda 404. Base URL'de
/v1eksik veya ekstra bir yol segmenti var. Tam olarakhttps://api.veniceapialternative.com/v1şeklinde olmalıdır. - 401 veya kimlik doğrulama hatası. Anahtar yanlış, kopyalanan bir
.envsatırından dolayı etrafında tırnak karakterleri var veya Python'u çalıştıran kabuğa hiç aktarılmadı. - İstek büyük girdilerde takılıyor. Maksimum gövde boyutu 8 MB'tır. Devasa bir dosyayı bir istem alanına yapıştırmak, token sınırına ulaşmadan çok önce bu sınırı aşabilir. Metni bölün.
- Test sırasında rastgele 429'lar. Deneme anahtarında sadece 2 eşzamanlı istek vardır. Aynı anda beşini ateşleyen bir test çalıştırıcısı limiti tetikler. Testleri sıralı çalıştırın veya bakiye yükleyin ve tam anahtar kullanın.
- Kısaltılmış yanıtlar.
finish_reasondeğerini kontrol edin.lengthdeğeri, çıktınınmax_tokensayarınıza ulaştığını veya pencereyi doldurduğunu gösterir. - Çalışma arasında farklı sonuçlar. Testler için tekrarlanabilir çıktıya ihtiyacınız varsa
seedve düşük birtemperaturegeçirin.
Hâlâ yanlış görünen bir şey varsa, çağrının zamanıyla birlikte X-Request-Id değerini destek'e gönderin.
Koddaki maliyet tahmini
Fiyat 1M istem tokenı başına 0,15 $ ve 1M tamamlama tokenı başına 0,50 $'dır. Küçük bir yardımcı, herhangi bir kullanım bloğunu dolara çevirir:
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.veniceapialternative.com/v1",
api_key=os.environ["UNCENSORED_API_KEY"],
)
def cost_usd(usage):
return (usage.prompt_tokens * 0.15 + usage.completion_tokens * 0.50) / 1_000_000
r = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Write a limerick about a lighthouse."}],
)
print(round(cost_usd(r.usage), 6))
2.000 istem tokenı ve 500 tamamlama tokenı içeren bir çağrı 0,00055 döndürür. 1.000 tanesini çalıştırırsanız 0,55 $ harcarsınız. 0,50 $ deneme kredisi yaklaşık 909 böyle çağrıyı karşılar. Deneme süresinden sonra bakiye yükleme 20 $'dan başlar ve kredi hiç sona ermez; fiyatlandırma sayfası bonus aşamalarını listeler. Uygulamanız kendi zorlukları olan bir sohbet botu projesinden geliyorsa, yaygın API hataları hakkındaki makale burada da geçerli olan birkaçını kapsar.
Daha fazla kılavuz
Sorular ve cevaplar
Hangi Python paketine ihtiyacım var?
Resmi openai paketi. pip ile yükleyin, base_url'yi https://api.veniceapialternative.com/v1, olarak ayarlayın ve model olarak uncensored kullanın. Başka bir istemci kütüphanesine gerek yoktur.
SDK ile akış çalışıyor mu?
Evet. stream=True parametresini geçin ve parçalarda döngü kurun. Kullanım bilgisi akışın sonunda raporlanır.
Neden 429 hatası alıyorum?
İstek/dakika limitini aştınız (rate_limited), aynı anda çok fazla istek açtınız (concurrency) veya hizmet kısa süreli aşırı yüklendi ve Retry-After: 5 gönderdi. Geri çekilin ve tekrar deneyin.
Kaç eşzamanlı istek çalıştırabilirim?
Tam anahtar 8 eşzamanlı istek ve dakikada 300 istek izni verir. Deneme anahtarı 2 eşzamanlı istek ve dakikada 60 istek izni verir.
LangChain veya diğer OpenAI-uyumlu araçları kullanabilir miyim?
OpenAI-uyumlu bir Base URL ve API anahtarı ayarlamanıza olanak tanıyan herhangi bir istemci çalışmalıdır. Aynı Base URL'yi ve uncensored model adını kullanın.