VI ▾

Giải pháp thay thế API AI không kiểm duyệt dành cho nhà phát triển

https://api.veniceapialternative.com/v1

veniceapialternative.com

Giải pháp thay thế API Venice: So sánh trung thực

API văn bản một mô hình tương thích OpenAI phù hợp với một số dự án nhưng không phù hợp với những dự án khác. Trang này liệt kê cả hai mặt để bạn quyết định nhanh.

Cập nhật

Hai cửa sổ terminal trừu tượng được nối bằng các đường phát sáng, minh họa việc so sánh các tùy chọn API

Điểm chính

  • Đây là API chỉ văn bản với một mô hình (ID uncensored), truy cập qua các lệnh gọi kiểu OpenAI tiêu chuẩn.
  • Nó không khớp với nền tảng đa mô hình hoặc đa phương tiện; hãy chọn cái đó nếu bạn cần hình ảnh, âm thanh hoặc menu mô hình.
  • Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra, tín dụng trả trước, không có gói đăng ký.
  • Di chuyển code sử dụng SDK OpenAI nghĩa là thay đổi ba giá trị: base URL, khóa và tên mô hình.

So sánh này dành cho ai

Bạn có lẽ ở đây vì bạn đang dùng API của Venice, hoặc đang cân nhắc, và bạn muốn biết những gì khác đang có. Một giải pháp thay thế Venice API tốt phụ thuộc vào việc bạn thực sự dùng nó để làm gì. Nếu ứng dụng của bạn gửi tin nhắn trò chuyện và muốn câu trả lời không bị từ chối nội dung cho mục đích sử dụng người trưởng thành hợp pháp, một mô hình được lưu trữ đơn lẻ có thể là tất cả những gì bạn cần. Nếu ứng dụng của bạn cũng tạo hình ảnh hoặc chuyển đổi giữa nhiều mô hình, nó có thể không phù hợp.

Chúng tôi vận hành một trong những giải pháp thay thế, vì vậy hãy đọc điều này với thiên kiến đó trong tâm trí. Chúng tôi chỉ nói những gì có thể xác nhận là sự thật về dịch vụ của chúng tôi và chúng tôi không mô tả các tính năng, giới hạn hoặc giá của Venice, vì những thứ đó có thể thay đổi và chúng tôi không thể xác minh chúng cho bạn. Khi cần so sánh bên kia, bảng cho bạn biết những gì cần tìm.

API này chính xác là gì

Dịch vụ là một API LLM văn bản được lưu trữ, hỗ trợ định dạng trò chuyện OpenAI. Nó cung cấp hai phương thức: POST /v1/chat/completions và GET /v1/models. Có một mô hình, với ID uncensored. Đây là một mô hình trọng số mở do một nhà cung cấp độc lập vận hành và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp.

Nó không phải là API chính thức của bất kỳ nhà sản xuất mô hình nào, và nó không phải là bộ định tuyến chuyển hướng lệnh gọi của bạn đến các nhà cung cấp khác. Những gì bạn nhận được vào thứ Hai là những gì bạn nhận được vào thứ Sáu. Đối với nhiều nhóm, khả năng dự đoán đó là một tính năng, vì các prompt bạn đã tinh chỉnh sẽ giữ nguyên cách hoạt động.

Các tính năng được hỗ trợ bao gồm hầu hết các ứng dụng trò chuyện:

  • Streaming qua các sự kiện do máy chủ gửi với stream: true, với việc sử dụng được báo cáo vào cuối.
  • Gọi hàm với tools và tool_choice, truyền phát tool_calls và kết quả được gửi lại dưới dạng role: "tool".
  • Chế độ JSON qua response_format được đặt thành {"type":"json_object"}.
  • Các bộ điều khiển lấy mẫu: temperature, top_p, stop, seed và các hệ số phạt được chuyển tiếp.
  • Cửa sổ ngữ cảnh 100.000 token được chia sẻ cho prompt và kết quả, với giới hạn thân 8 MB.

Một quy tắc cứng duy nhất áp dụng: không có nội dung tình dục liên quan đến người chưa thành niên, bao giờ. Các prompt không được sử dụng để huấn luyện.

Các phản hồi bao gồm một số header hỗ trợ trong sản xuất: X-Request-Id cho câu hỏi hỗ trợ, X-Balance-USD cho tín dụng còn lại, và hai header X-RateLimit-Limit cho yêu cầu và độ đồng thời. Giá được thanh toán trước ở mức $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra, và các lần nạp tiền bắt đầu từ $20.

Bên cạnh nhau

Cột bên trái là những gì chúng tôi có thể khẳng định về API này. Cột bên phải là danh sách kiểm tra những điều bạn cần tìm hiểu ở bất kỳ nhà cung cấp nào khác, bao gồm Venice, trước khi bạn cam kết.

Câu hỏiAPI nàyNhững gì cần kiểm tra ở dịch vụ khác
Mô hìnhMột mô hình, ID uncensoredCó bao nhiêu mô hình văn bản và bạn có thể chọn theo yêu cầu không
Phương thứcChỉ văn bảnLiệu hình ảnh, âm thanh hoặc video có được cung cấp không
Tương thích clientSDK OpenAI và các công cụ tương thíchSDK hoặc định dạng yêu cầu nào được hỗ trợ
Bảng giá$0.15 / $0.50 cho mỗi 1M token, trả trướcGiá hiện tại theo token hoặc gói
Đăng kýKhôngLiệu có cần gói cho việc sử dụng API không
Giới hạn tốc độKhóa đầy đủ: 8 đồng thời, 300 yêu cầu/phút; dùng thử: 2 đồng thời, 60 yêu cầu/phútCác giới hạn được tài liệu hóa của họ cho mỗi khóa
Cửa sổ ngữ cảnh100.000 tokenKích thước ngữ cảnh theo mô hình
Thời hạnKhông bao giờ hết hạnLiệu số dư hoặc gói có hết hạn không
Nạp tiềnCrypto (USDT trên TRC20, USDC trên Base)Phương thức thanh toán được chấp nhận
Huấn luyện trên các promptKhôngChính sách dữ liệu của họ, bằng văn bản

Bảng giá đầy đủ cho API này có trên trang pricing, và định dạng yêu cầu có trên trang docs.

Khi API này phù hợp hơn

Dịch vụ trả tiền theo token một mô hình thường phù hợp với các trường hợp sau:

  • Trò chuyện, tiểu thuyết và ứng dụng bạn đồng hành cho người trưởng thành. Bạn cần một mô hình không từ chối các chủ đề người trưởng thành hợp pháp, phía sau một endpoint mà frontend của bạn đã hiểu.
  • Code OpenAI hiện có. Nếu stack của bạn đã gọi một endpoint kiểu OpenAI, việc chuyển đổi là một thay đổi cấu hình, không phải viết lại.
  • Sử dụng theo đợt hoặc thấp. Với tín dụng trả trước và không có gói đăng ký, một tháng yên tĩnh sẽ không tốn thêm chi phí. Một khoản nạp $20 với hình dạng yêu cầu tiêu chuẩn là 2.000 token đầu vào và 500 token đầu ra ($0.00055 mỗi lần) tương đương khoảng 36.000 yêu cầu.
  • Cuộc hội thoại dài. Cửa sổ 100.000 token cho phép bộ nhớ dài và văn bản nhân vật.

Cấu trúc chi phí rất đơn giản. Một công việc với 5M token đầu vào và 1M token đầu ra tốn 5 x $0.15 = $0.75 cộng 1 x $0.50 = $0.50, tức $1.25. Bạn có thể tính thủ công mọi hóa đơn từ khối sử dụng trong phản hồi.

Khi nó không phải là lựa chọn phù hợp hơn

Sẽ không trung thực nếu giả vờ một mô hình phù hợp với mọi người. Hãy tìm nơi khác nếu bất kỳ điều nào sau đây áp dụng:

  • Bạn cần hình ảnh, giọng nói hoặc video. API này chỉ dành cho văn bản. Nó không có tạo hình ảnh, không có âm thanh, không có embedding và không có tinh chỉnh.
  • Bạn muốn chọn giữa nhiều mô hình. Chỉ có một mô hình. Nếu bạn thử nghiệm A/B các mô hình theo yêu cầu, một dịch vụ đa mô hình là công cụ tốt hơn.
  • Bạn cần API nhà cung cấp chính thức. Nếu hợp đồng yêu cầu mô hình của một nhà cung cấp cụ thể, thì đây không phải là nó.
  • Bạn cần độ đồng thời rất cao. Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 mỗi phút. Hãy lập kế hoạch dựa trên hai con số này, và sử dụng trang hỗ trợ nếu bạn cần thảo luận thêm.

Hai hành vi đáng biết trước. Một yêu cầu truyền phát giữ slot đồng thời cho đến khi stream kết thúc, vì vậy 8 stream mở chặn cuộc gọi thứ chín. Và khi quá tải tạm thời, API trả về HTTP 429 với Retry-After: 5, mà client của bạn nên tôn trọng bằng cách chờ một lúc ngắn.

Câu hỏi cần hỏi bất kỳ nhà cung cấp nào trước khi bạn cam kết

Danh sách tính năng cho bạn biết ít hơn một vài câu hỏi trực tiếp. Đặt những câu hỏi này cho mọi dịch vụ trong danh sách ngắn của bạn, bao gồm dịch vụ này, và ghi lại các câu trả lời.

  1. Điều gì xảy ra với các prompt của tôi? Tại đây, các prompt không được sử dụng để huấn luyện. Hãy yêu cầu nhà cung cấp xác nhận điều này bằng văn bản, không chỉ dựa vào trang marketing có thể thay đổi.
  2. Cái gì bị từ chối? Các mô hình và dịch vụ khác nhau về những gì họ từ chối. API này được tinh chỉnh để trả lời mà không từ chối nội dung cho việc sử dụng người trưởng thành hợp pháp, với một ngoại lệ cố định duy nhất: không có nội dung tình dục liên quan đến người chưa thành niên. Hỏi những người khác về chính sách nội dung của họ và kiểm tra một vài prompt ranh giới tự mình.
  3. Tôi trả bao nhiêu khi một yêu cầu thất bại? Ở đây, các yêu cầu thất bại hoặc bị từ chối không bị tính phí. Việc tính phí lỗi khác nhau giữa các dịch vụ.
  4. Tiền không dùng hết thì sao? Tín dụng trả trước ở đây không bao giờ hết hạn. Kiểm tra xem số dư hoặc khoản cho phép gói ở nơi khác có chuyển tiếp hay hết hạn không.
  5. Các giới hạn thực sự là gì? Độ đồng thời và giới hạn mỗi phút quyết định liệu một công việc hàng loạt có mất mười phút hay hai giờ. Của chúng tôi là 8 đồng thời và 300 mỗi phút trên một khóa đầy đủ.

Không có câu hỏi nào trong số này có câu trả lời đúng phổ quát. Một nhóm với dự báo ngân sách nghiêm ngặt có thể quan tâm nhất đến mô hình thanh toán, một nền tảng đóng vai về chính sách nội dung và một đường ống xử lý dữ liệu về thông lượng. Xếp hạng chúng cho dự án của riêng bạn trước khi bạn so sánh bất kỳ điều gì.

Chuyển đổi codebase: ba giá trị

Nếu mã của bạn sử dụng SDK OpenAI với một endpoint khác, việc chuyển sang đây chỉ cần ba lần chỉnh sửa. Hãy đặt base URL, khóa API và tên mô hình.

curl https://api.veniceapialternative.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a two-line scene opening."}]
  }'

Và cùng một lệnh gọi từ Python:

from openai import OpenAI

client = OpenAI(
    base_url="https://api.veniceapialternative.com/v1",
    api_key="YOUR_KEY",
)
r = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Write a two-line scene opening."}],
)
print(r.choices[0].message.content)

Sau đó, hãy kiểm tra ba điều trong ứng dụng của bạn. Bất kỳ trường yêu cầu nào đặc thù cho nhà cung cấp mà định dạng OpenAI không xác định đều cần được loại bỏ. Bất kỳ mã nào mong đợi đầu ra hình ảnh phải được chuyển sang một dịch vụ hỗ trợ việc đó. Và các prompt được tinh chỉnh cho một mô hình khác xứng đáng được kiểm tra lại nhanh chóng, vì mỗi mô hình phản ứng với cùng một system prompt hơi khác nhau một chút.

Kế hoạch kiểm tra một giờ

Bạn không cần cam kết để so sánh. Nhận tín dụng dùng thử $0.50 trên trang API key; nó không cần thẻ và kéo dài 7 ngày. Sau đó chạy kế hoạch này:

  1. Chọn 20 prompt từ lưu lượng thực tế của bạn, bao gồm một vài prompt mà cấu hình hiện tại của bạn từ chối hoặc xử lý kém.
  2. Gửi từng prompt qua API này và nhà cung cấp hiện tại của bạn với cùng một system prompt.
  3. Đánh giá các câu trả lời về chất lượng, tỷ lệ từ chối và độ dài. Ghi lại số lượng token từ khối usage.
  4. Tính giá cho kết quả. Với khoảng 2.000 token đầu vào và 500 token đầu ra cho mỗi prompt, 20 prompt đó tốn 20 x $0,00055 = $0,011 tại đây.
  5. Kiểm tra các đường dẫn lỗi: gửi một đợt 10 yêu cầu đồng thời trên khóa dùng thử (giới hạn 2 yêu cầu đồng thời) và xác nhận rằng client của bạn xử lý lỗi 429 một cách sạch sẽ.

Việc này tốn một giờ và tốn khoảng một xu, nhưng nó cho bạn biết nhiều hơn bất kỳ bảng tính năng nào.

Hỏi đáp

Đây có phải là API Venice chính thức hay một nhà bán lại của nó không?

Không. Đây là một dịch vụ độc lập với một mô hình trọng số mở duy nhất của riêng nó, do một nhà cung cấp độc lập vận hành. Đây không phải là API của Venice hay API chính thức của bất kỳ nhà cung cấp nào khác, và nó không chuyển hướng đến các nhà cung cấp khác.

Tôi có thể sử dụng SDK của OpenAI không?

Có. Hãy trỏ SDK vào https://api.veniceapialternative.com/v1, sử dụng khóa của bạn làm bearer token và đặt mô hình thành uncensored.

Nó có tạo ra hình ảnh hoặc âm thanh không?

Không. Dịch vụ này chỉ xử lý văn bản, không tạo ảnh, âm thanh hoặc video, không có embedding và không có fine-tuning.

Chi phí để dùng thử là bao nhiêu?

Người dùng mới có thể nhận $0.50 tín dụng dùng thử chỉ với một cú nhấp chuột sau khi đăng ký, có hiệu lực trong 7 ngày và không cần thẻ. Sau đó, tín dụng bắt đầu từ $20.

Khóa của bạn chỉ cách một biểu mẫu

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API