Tích hợp API Venice AI trong vài phút

Thiết lập Base URL và Xác thực

API nằm ở https://api.veniceaiapi.com/v1. Bạn xác thực bằng một khóa API đơn lẻ được truyền trong Authorization header.

Đăng ký qua Google hoặc email để nhận khóa của bạn ngay lập tức. Không cần số điện thoại. Sử dụng khóa với bất kỳ SDK tương thích OpenAI nào bằng cách đặt URL cơ sở.

Mỗi tài khoản chỉ giữ một khóa hoạt động. Việc tạo khóa mới sẽ thu hồi khóa cũ ngay lập tức. Điều này đảm bảo kiểm soát truy cập đơn giản mà không cần các phạm vi quyền phức tạp.

ID mô hình bạn phải gửi là "uncensored". Đây là mô hình trọng lượng mở được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp.

• Base URL: https://api.veniceaiapi.com/v1
• Tiêu đề Auth: Authorization: Bearer YOUR_API_KEY
• Mô hình: uncensored

Bạn có thể kiểm tra kết nối bằng một yêu cầu GET đơn giản đến /v1/models. Điều này xác nhận khóa của bạn hoạt động trước khi bạn gửi các tải trọng nặng.

Điểm cuối /v1/chat/completions

Gửi các prompt văn bản đến POST /v1/chat/completions và nhận phản hồi văn bản. Điểm cuối này xử lý tất cả các tương tác trò chuyện tiêu chuẩn.

Đính kèm mảng messages với các trường role và content. Model xử lý đầu vào và trả về kết quả hoàn thiện. Bạn có thể kiểm soát độ dài đầu ra bằng cách sử dụng max_tokens tham số.

Độ dài tối đa mặc định của đầu ra là 2.048 token. Bạn có thể tăng lên tới 16.000 token mỗi yêu cầu. Cửa sổ ngữ cảnh tổng cộng cho phép 100.000 token cho prompt và kết hợp hoàn thành.

Lỗi và từ chối không tiêu thụ tín dụng trả trước của bạn. Điều này có nghĩa là bạn chỉ trả tiền cho việc tạo token thành công.

Tham số Mô hình: Nhiệt độ, Top-P và Seed

Điều khiển tính ngẫu nhiên của đầu ra bằng các tham số LLM tiêu chuẩn. Đặt temperature để điều chỉnh sự sáng tạo. Các giá trị thấp hơn làm cho các phản ứng mang tính xác định và tập trung hơn.

Sử dụng top_p để lấy mẫu nucleus. Điều này giới hạn mô hình chỉ xem xét phần trăm khối lượng xác suất hàng đầu. Nó giúp ngăn chặn các đầu ra lặp lại hoặc vô nghĩa.

Đặt seed để có kết quả có thể tái lập. Điều này hữu ích cho việc gỡ lỗi hoặc kiểm tra các biến thể prompt cụ thể. Bạn cũng có thể sử dụng stop chuỗi để dừng quá trình tạo sớm.

Các tham số được hỗ trợ khác bao gồm presence_penalty và frequency_penalty. Những điều này giúp quản lý sự đa dạng của token trong các cuộc hội thoại dài.

Điều chỉnh các cài đặt này để phù hợp với trường hợp sử dụng của bạn. Đóng vai hưởng lợi từ nhiệt độ cao hơn. Lập trình mã có thể cần các giá trị thấp hơn.

Phản hồi luồng với Sự kiện gửi máy chủ

Bật phát trực tiếp bằng cách đặt stream: true trong yêu cầu của bạn. API trả về Server-Sent Events (SSE) thay vì một đối tượng JSON đơn lẻ.

Mỗi chunk chứa nội dung văn bản một phần. Điều này cho phép bạn hiển thị kết quả theo thời gian thực cho người dùng. Nó cải thiện đáng kể độ trễ cảm nhận đối với các phản hồi dài.

Chunk cuối cùng bao gồm thống kê sử dụng token tổng thể. Bạn có thể theo dõi chính xác mức tiêu thụ tín dụng của mình theo thời gian thực.

Xử lý lỗi luồng một cách duyên dáng. Các lỗi mạng có thể làm cắt ngang phản hồi. Bạn có thể tiếp tục hoặc thử lại yêu cầu nếu cần.

Function Calling và chế độ JSON

Sử dụng gọi hàm để tích hợp API với logic backend của bạn. Xác định công cụ trong yêu cầu của bạn và mô hình sẽ trả về các đối số JSON có cấu trúc.

Đặt response_format: {"type": "json_object"} để bắt buộc đầu ra JSON nghiêm ngặt. Điều này lý tưởng để phân tích dữ liệu vào ứng dụng của bạn.

Gọi hàm hoạt động cùng với streaming. Bạn có thể nhận dữ liệu có cấu trúc theo thời gian thực. Điều này cho phép các tương tác đa bước phức tạp.

Mô hình hiểu các định nghĩa công cụ và thực thi chúng tương ứng. Bạn xử lý logic thực thi công cụ trong mã của mình.

Tính năng này làm cho API phù hợp để xây dựng các agent hoặc các quy trình làm việc tự động hóa.

Giới hạn tốc độ và Ràng buộc token

Mỗi khóa API được giới hạn ở 300 yêu cầu mỗi phút. Bạn có thể có 8 yêu cầu đồng thời cùng một lúc. Điều này ngăn chặn các đợt bùng phát đột ngột làm quá tải hệ thống.

Kích thước thân yêu cầu tối đa là 8 MB. Đảm bảo các tải trọng của bạn vừa với giới hạn này. Các cửa sổ ngữ cảnh lớn tiêu thụ hạn ngạch này nhanh chóng.

Các lỗi phổ biến bao gồm 401 cho khóa không hợp lệ và 402 cho tín dụng không đủ. Lỗi 429 cho biết bạn đã chạm giới hạn tỷ lệ.

Hoàn tiền không khả dụng cho tín dụng. Tuy nhiên, các lỗi như tính trùng sẽ được sửa chữa qua Hỗ trợ. Tín dụng của bạn không bao giờ hết hạn.

Giá là $0.15 cho mỗi 1M token đầu vào và $0.50 cho mỗi 1M token đầu ra. Các khoản nạp thêm chỉ bằng tiền điện tử từ $20 đến $500.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Phát trực tiếp

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)