TH ▾

ทางเลือก API AI แบบไม่เซ็นเซอร์สำหรับนักพัฒนา

https://api.veniceapialternative.com/v1

veniceapialternative.com

ทางเลือก API Venice: การเปรียบเทียบอย่างตรงไปตรงมา

API ข้อความที่เข้ากันได้กับ OpenAI ที่มีโมเดลเดียว เหมาะกับบางโปรเจกต์และไม่เหมาะกับบางโปรเจกต์ หน้าหน้านี้แสดงทั้งสองด้านเพื่อให้คุณตัดสินใจได้เร็ว

อัปเดต

หน้าต่างเทอร์มินัลนามธรรมสองบานเชื่อมต่อกันด้วยเส้นเรืองแสง แสดงถึงการเปรียบเทียบตัวเลือก API

ประเด็นสำคัญ

  • นี่คือ API ข้อความที่มีโมเดลเดียว (ID uncensored) ซึ่งเข้าถึงได้ผ่านการเรียกแบบ OpenAI มาตรฐาน
  • จะไม่เทียบเท่ากับแพลตฟอร์มหลายโมเดลหรือหลายสื่อ เลือกอย่างนั้นหากคุณต้องการภาพ เสียง หรือเมนูโมเดล
  • ราคา $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens แบบเติมเงินล่วงหน้า ไม่มีสมาชิก
  • การย้ายโค้ดที่ใช้ OpenAI SDK หมายถึงการเปลี่ยนค่าสามค่า: base URL, คีย์ API และชื่อโมเดล

ใครคือกลุ่มเป้าหมายของการเปรียบเทียบนี้

คุณน่าจะมาที่นี่เพราะใช้ API ของ Venice หรือกำลังพิจารณาใช้งาน และต้องการรู้ว่ายังมีตัวเลือกอื่นอีกหรือไม่ ตัวเลือก API ของ Venice ที่ดีที่สุดขึ้นอยู่กับวัตถุประสงค์การใช้งานจริงของคุณ หากแอปของคุณส่งข้อความแชทและต้องการคำตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย โมเดลแบบโฮสต์เดียวก็เพียงพอแล้ว แต่ถ้าแอปของคุณยังสร้างภาพหรือสลับระหว่างโมเดลหลายตัว ก็อาจไม่เพียงพอ

เราให้บริการหนึ่งในตัวเลือกนี้ ดังนั้นโปรดอ่านข้อมูลนี้โดยคำนึงถึงอคตินั้น เรายึดติดกับข้อเท็จจริงเกี่ยวกับบริการของเราเท่านั้น และเราไม่ได้ระบุคุณสมบัติ ขีดจำกัด หรือราคาของ Venice เพราะสิ่งเหล่านี้อาจเปลี่ยนแปลงและเราไม่สามารถตรวจสอบให้คุณได้ เมื่อการเปรียบเทียบจำเป็นต้องอ้างอิงข้อมูลจากอีกฝั่ง ตารางจะบอกสิ่งที่ต้องตรวจสอบ

API นี้คืออะไรอย่างแท้จริง

บริการนี้เป็น API LLM แบบโฮสต์สำหรับข้อความที่รองรับรูปแบบแชทของ OpenAI โดยมีสองเอนด์พอยต์: POST /v1/chat/completions และ GET /v1/models มีโมเดลเดียวโดยมี ID คือ uncensored ซึ่งเป็นโมเดลแบบเปิดน้ำหนักที่ดำเนินการโดยผู้ให้บริการอิสระและปรับแต่งให้ตอบคำถามโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย

นี่ไม่ใช่ API ทางการของผู้สร้างโมเดลใดๆ และไม่ใช่ตัวกลางที่ส่งต่อคำขอของคุณไปยังผู้ขายรายอื่น สิ่งที่คุณได้รับในวันจันทร์คือสิ่งที่คุณจะได้รับในวันศุกร์ สำหรับหลายทีม ความสามารถในการคาดเดานี้ถือเป็นฟีเจอร์ เพราะพรอมต์ที่คุณปรับแต่งไว้จะทำงานในลักษณะเดิม

ฟีเจอร์ที่รองรับครอบคลุมแอปแชทส่วนใหญ่:

  • สตรีมมิงผ่าน server-sent events ด้วย stream: true พร้อมรายงานการใช้งานที่ตอนจบ
  • การเรียกใช้ฟังก์ชันด้วย tools และ tool_choice, สตรีมมิง tool_calls, และส่งผลลัพธ์กลับด้วย role: "tool"
  • โหมด JSON ผ่านการตั้งค่า response_format เป็น {"type":"json_object"}
  • การควบคุมการสุ่มตัวอย่าง: temperature, top_p, stop, seed และค่าปรับจะถูกส่งผ่าน
  • หน้าต่างบริบทขนาด 100,000 โทเคนที่ใช้ร่วมกันระหว่างพรอมต์และคำตอบ พร้อมข้อจำกัดขนาดบอดี 8 MB

กฎข้อเดียวที่เข้มงวด: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ โดยไม่มีข้อยกเว้น พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล

การตอบกลับมีเฮดเดอร์บางตัวที่ช่วยในการใช้งานจริง: X-Request-Id สำหรับคำถามสนับสนุน, X-Balance-USD สำหรับเครดิตคงเหลือ, และเฮดเดอร์ X-RateLimit-Limit สองตัวสำหรับคำขอและความพร้อมกัน ราคาเป็นแบบเติมเงินล่วงหน้าที่ $0.15 ต่อ 1M โทเคนอินพุต และ $0.50 ต่อ 1M โทเคนเอาต์พุต และการเติมเงินเริ่มต้นที่ $20

เปรียบเทียบเคียงข้าง

คอลัมน์ซ้ายคือสิ่งที่เราสามารถระบุเกี่ยวกับ API นี้ คอลัมน์ขวาเป็นรายการสิ่งที่ต้องตรวจสอบกับผู้ให้บริการรายอื่น รวมถึง Venice ก่อนตัดสินใจใช้งาน

คำถามAPI นี้สิ่งที่ต้องตรวจสอบที่บริการอื่น
โมเดลหนึ่งโมเดล, ID uncensoredจำนวนโมเดลข้อความ และสามารถเลือกต่อคำขอได้หรือไม่
มอดาลิตีข้อความเท่านั้นมีการเสนอภาพ เสียง หรือวิดีโอหรือไม่
ความเข้ากันได้ของไคลเอนต์SDK ของ OpenAI และเครื่องมือที่เข้ากันได้SDK หรือรูปแบบคำขอที่รองรับ
ราคา$0.15 / $0.50 ต่อ 1M โทเคน แบบเติมเงินล่วงหน้าราคาปัจจุบันต่อโทเคนหรือตามแผน
การสมัครสมาชิกไม่มีจำเป็นต้องใช้แผนสำหรับการใช้งาน API หรือไม่
ขีดจำกัดอัตราคีย์เต็ม: พร้อมกัน 8, 300/นาที; ทดลองใช้: พร้อมกัน 2, 60/นาทีขีดจำกัดที่ระบุในเอกสารสำหรับคีย์แต่ละประเภท
หน้าต่างบริบท100,000 โทเคนขนาดบริบทต่อโมเดล
อายุเครดิตไม่หมดอายุยอดเงินหรือแผนหมดอายุหรือไม่
เติมเงินคริปโต (USDT บน TRC20, USDC บน Base)วิธีการชำระเงินที่ยอมรับ
การฝึกด้วยพรอมต์ไม่นโยบายข้อมูลของพวกเขาเป็นลายลักษณ์อักษร

ใบราคาเต็มสำหรับ API นี้อยู่ที่หน้า ราคา และรูปแบบคำขออยู่ที่หน้า เอกสาร

เมื่อ API นี้เป็นตัวเลือกที่เหมาะสมที่สุด

บริการแบบโมเดลเดียวที่คิดราคาตามโทเคนมักเหมาะกับกรณีเหล่านี้:

  • แอปแชท นิยาย และแอปเพื่อนคุยสำหรับผู้ใหญ่ คุณต้องการโมเดลที่ไม่ปฏิเสธธีมผู้ใหญ่ที่ถูกต้องตามกฎหมาย ผ่านเอนด์พอยต์ที่ฟรอนต์เอนด์ของคุณเข้าใจอยู่แล้ว
  • โค้ด OpenAI ที่มีอยู่แล้ว หากสแต็กของคุณเรียกใช้เอนด์พอยต์สไตล์ OpenAI อยู่แล้ว การเปลี่ยนเป็นการปรับค่า config ไม่ใช่การเขียนใหม่
  • การใช้งานที่ขึ้นลงหรือปริมาณน้อย ด้วยเครดิตแบบเติมเงินล่วงหน้าและไม่มีแพ็กเกจรายเดือน เดือนที่เงียบสงบจะไม่มีค่าใช้จ่ายเพิ่ม การเติมเงิน $20 ในรูปแบบคำขอมาตรฐาน 2,000 โทเคนเข้าและ 500 ออก ($0.00055 ต่อคำขอ) จะทำได้ประมาณ 36,000 คำขอ
  • บทสนทนาที่ยาวนาน หน้าต่างบริบทขนาด 100,000 โทเคน เปิดพื้นที่สำหรับความทรงจำที่ยาวนานและข้อความบุคลิกภาพ

ภาพรวมต้นทุนนั้นเรียบง่าย งานที่ใช้ 5M โทเคนอินพุตและ 1M โทเคนเอาต์พุตมีค่าใช้จ่าย 5 x $0.15 = $0.75 บวก 1 x $0.50 = $0.50 รวมเป็น $1.25 คุณสามารถคำนวณใบแจ้งหนี้ทุกใบด้วยมือจากบล็อกการใช้งานในคำตอบ

กรณีที่ไม่เหมาะ

จะเป็นการโกหกหากจะอ้างว่าโมเดลเดียวครอบคลุมทุกคน ให้มองหาตัวเลือกอื่นหากเงื่อนไขใดข้อหนึ่งต่อไปนี้เป็นจริง:

  • คุณต้องการรูปภาพ เสียง หรือวิดีโอ API นี้มีเฉพาะข้อความเท่านั้น ไม่มีสร้างภาพ ไม่มีเสียง ไม่มี embeddings และไม่มี fine-tuning
  • คุณต้องการเลือกจากหลายโมเดล มีเพียงโมเดลเดียว หากคุณทดสอบ A/B โมเดลต่อคำขอ บริการหลายโมเดลจะเป็นเครื่องมือที่ดีกว่า
  • คุณต้องการ API จากผู้ผลิตอย่างเป็นทางการ หากสัญญาต้องการโมเดลจากผู้ผลิตเฉพาะเจาะจงนี้ไม่ใช่ตัวเลือกนั้น
  • คุณต้องการความพร้อมกันสูงมาก คีย์เต็มรูปแบบอนุญาตให้ทำคำขอพร้อมกัน 8 คำขอและ 300 คำขอต่อนาที วางแผนโดยอ้างอิงจากตัวเลขสองนี้ และใช้หน้าสนับสนุนหากต้องการพูดคุยเพิ่มเติม

พฤติกรรมสองอย่างที่ควรทราบล่วงหน้า คำขอแบบสตรีมมิงจะครอบครองช่องคำขอพร้อมกันจนกว่าสตรีมจะจบ ดังนั้นสตรีมที่เปิด 8 ช่องจะบล็อกการเรียกครั้งที่เก้า และเมื่อเกิดภาวะโอเวอร์โหลดชั่วคราว API จะส่ง HTTP 429 พร้อม Retry-After: 5 ซึ่งไคลเอนต์ของคุณควรปฏิบัติตามด้วยการรอเล็กน้อย

คำถามที่ควรถามผู้ให้บริการใดๆ ก่อนตัดสินใจ

รายการฟีเจอร์บอกได้น้อยกว่าคำถามตรงๆ สักสองสามข้อ นำคำถามเหล่านี้ไปถามบริการทุกตัวในลิสต์สั้นของคุณ รวมถึงตัวนี้ด้วย และจดบันทึกคำตอบไว้

  1. พรอมต์ของฉันจะถูกนำไปทำอะไร? ที่นี่ พรอมต์ไม่ถูกนำไปใช้ในการฝึกโมเดล รับประโยคนี้จากผู้ให้บริการทุกรายเป็นลายลักษณ์อักษร ไม่ใช่จากหน้าการตลาดที่อาจเปลี่ยนแปลงได้
  2. อะไรที่ถูกปฏิเสธ? โมเดลและบริการแตกต่างกันในสิ่งที่พวกเขาปฏิเสธ API นี้ได้รับการปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย โดยมีข้อยกเว้นเดียว: ไม่มีเนื้อหาทางเพศที่เกี่ยวข้องกับผู้เยาว์ ถามผู้ให้บริการรายอื่นเกี่ยวกับนโยบายเนื้อหาของพวกเขาและทดสอบพรอมต์ขอบเขตด้วยตัวเอง
  3. ฉันต้องจ่ายเมื่อคำขอล้มเหลวหรือไม่? ที่นี่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกเรียกเก็บเงิน การเรียกเก็บเงินสำหรับข้อผิดพลาดแตกต่างกันไปในแต่ละบริการ
  4. เงินที่ไม่ได้ใช้เกิดอะไรขึ้น? เครดิตแบบเติมเงินล่วงหน้าที่นี่ไม่หมดอายุ ตรวจสอบว่ายอดเงินหรือวงเงินแพ็กเกจที่อื่นมีการคงเหลือหรือหมดอายุหรือไม่
  5. ขีดจำกัดที่แท้จริงคืออะไร? ความพร้อมกันและขีดจำกัดต่อนาทีเป็นตัวกำหนดว่างานแบทช์จะใช้เวลาสิบนาทีหรือสองชั่วโมง ขีดจำกัดของเราคือ 8 คำขอพร้อมกันและ 300 คำขอต่อนาทีสำหรับคีย์แบบเต็ม

คำถามเหล่านี้ไม่มีคำตอบที่ถูกต้องสากล ทีมที่มีแผนการทำนายงบประมาณอย่างเข้มงวดอาจสนใจแบบจำลองการเรียกเก็บเงินมากที่สุด แพลตฟอร์มโรลเพลย์สนใจนโยบายเนื้อหา และสายงานประมวลผลข้อมูลสนใจปริมาณงาน เรียงลำดับความสำคัญสำหรับโปรเจกต์ของคุณก่อนทำการเปรียบเทียบใดๆ

การเปลี่ยนโค้ด: ค่าสามค่า

หากโค้ดของคุณใช้ SDK ของ OpenAI กับเอนด์พอยต์อื่น การย้ายไปใช้ที่ใหม่ต้องแก้ไขสามจุด ตั้งค่า URL ฐาน คีย์ และชื่อโมเดล

curl https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a two-line scene opening."}]
  }'

และคำสั่งเดียวกันจาก Python:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veniceapialternative.com/v1",
    api_key="YOUR_KEY",
)
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a two-line scene opening."}],
)
print(r.choices[0].message.content)

จากนั้นตรวจสอบสามสิ่งในแอปของคุณเอง ลบฟิลด์คำขอเฉพาะผู้ให้บริการที่รูปแบบ OpenAI ไม่ได้กำหนดไว้ โค้ดที่คาดหวังผลลัพธ์รูปภาพต้องส่งไปยังบริการที่รองรับการสร้างภาพ และพรอมต์ที่ปรับแต่งสำหรับโมเดลอื่นควรทดสอบซ้ำอย่างรวดเร็ว เนื่องจากทุกโมเดลตอบสนองต่อพรอมต์ระบบเดียวกันแตกต่างกันเล็กน้อย

แผนทดสอบหนึ่งชั่วโมง

คุณไม่ต้องลงทุนเพื่อเปรียบเทียบ รับเครดิตทดลองใช้ $0.50 ที่หน้าคีย์ API; ไม่ต้องใช้บัตรและใช้ได้ 7 วัน จากนั้นดำเนินการแผนนี้:

  1. เลือก 20 พรอมต์จากปริมาณการรับส่งข้อมูลจริงของคุณ รวมถึงบางรายการที่การตั้งค่าปัจจุบันของคุณปฏิเสธหรือจัดการได้ไม่ดี
  2. ส่งแต่ละรายการผ่าน API นี้และผู้ให้บริการปัจจุบันของคุณโดยใช้ระบบพรอมต์เดียวกัน
  3. ให้คะแนนคำตอบด้านคุณภาพ อัตราการปฏิเสธ และความยาว บันทึกจำนวนโทเคนจากบล็อกการใช้งาน
  4. ประเมินราคาผลลัพธ์ ที่ประมาณ 2,000 โทเคนอินพุตและ 500 โทเคนเอาต์พุตต่อพรอมต์ พรอมต์ 20 รายการนั้นจะมีค่าใช้จ่าย 20 x $0.00055 = $0.011 ที่นี่
  5. ทดสอบเส้นทางล้มเหลว: ส่งคำขอพร้อมกัน 10 คำขอด้วยคีย์ทดลอง (จำกัด 2 คำขอพร้อมกัน) และยืนยันว่าไคลเอนต์ของคุณจัดการข้อผิดพลาด 429 ได้อย่างเรียบร้อย

กระบวนการนี้ใช้เวลาหนึ่งชั่วโมงและค่าใช้จ่ายประมาณหนึ่งเซ็นต์ และให้ข้อมูลมากกว่าตารางคุณสมบัติใดๆ

ถาม-ตอบ

นี่คือ API ของ Venice อย่างเป็นทางการหรือผู้ขายต่อหรือไม่?

ไม่ใช่ เป็นบริการอิสระที่ใช้โมเดล open-weight ขนาดเดียวโดยผู้ให้บริการอิสระ ไม่ใช่ API ของ Venice หรือ API ทางการของผู้ให้บริการรายอื่น และไม่ส่งคำขอไปยังผู้ให้บริการรายอื่น

ฉันสามารถใช้ OpenAI SDK ได้หรือไม่?

ใช่ ชี้ SDK ไปที่ https://api.veniceapialternative.com/v1, ใช้คีย์ของคุณเป็นโทเคน Bearer และตั้งค่าโมเดลเป็น uncensored

สร้างรูปภาพหรือเสียงหรือไม่?

ไม่ มันเป็นข้อความเท่านั้น ไม่มีสร้างภาพ เสียง หรือวิดีโอ ไม่มี embedding และไม่มี fine-tuning

ทดลองใช้เสียค่าใช้จ่ายเท่าใด?

ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ $0.50 ได้ด้วยคลิกเดียวหลังเข้าสู่ระบบ ใช้ได้ 7 วันโดยไม่ต้องใช้บัตร หลังจากนั้น เครดิตเริ่มต้นที่ $20

คีย์ของคุณอยู่ห่างแค่อีกขั้นตอนเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API