几分钟内集成 Venice AI API
将 Venice AI API 放入现有堆栈中,获得无审查的响应,没有通常的内容拒绝。
- 基础 URL
https://api.veniceaiapi.com/v1- 模型
uncensored
基础 URL 和认证设置
API 位于 https://api.veniceaiapi.com/v1。您通过传入单个 API 密钥进行身份验证。 Authorization 。
通过 Google 或邮箱注册以即时获取您的密钥。无需电话号码。通过将基础 URL 设置为任何 OpenAI 兼容 SDK 来使用该密钥。
每个账户仅持有一个有效密钥。生成新密钥将立即撤销旧密钥。这确保了简单的访问控制,无需复杂的作用域权限。
您必须发送的模型 ID 为 "uncensored"。这是一个针对合法成人用途不进行内容拒绝进行调优的开源权重模型。
- 基础 URL:
https://api.veniceaiapi.com/v1 - Auth 标头:
Authorization: Bearer YOUR_API_KEY - 模型:
uncensored
您可以使用简单的 GET 请求测试连通性,地址为 /v1/models. 在发送大量负载之前,这确认您的密钥有效。
/v1/chat/completions 端点
向 POST /v1/chat/completions 并接收文本响应。此端点处理所有标准的聊天交互。
在 messages 数组中包含 role 和 content 字段。模型处理输入并返回补全内容。您可以使用 max_tokens 参数。
默认最大输出为 2,048 个 token。您可以将每次请求的输出增加至 16,000 个 token。总上下文窗口允许提示词和补全内容合计使用 100,000 个 token。
错误和拒绝不会消耗您的预付费额度。这意味着您只需为成功的令牌生成付费。
模型参数:温度、Top-P 和种子
使用标准 LLM 参数控制输出的随机性。设置 temperature 调整创造性。较低的值使响应更具确定性和专注性。
使用 top_p 用于核采样。这限制模型考虑概率质量最高的前百分比。它有助于防止重复或无意义的输出。
设置 seed 用于获得可复现的结果。这对于调试或测试特定的提示词变体很有用。您也可以使用 stop 序列以提前终止生成。
其他支持的参数包括 presence_penalty 和 frequency_penalty. 这些参数有助于在长对话中管理 token 的多样性。
调整这些设置以适合你的用例。角色扮演受益于较高的 temperature。代码生成可能需要较低的值。
使用服务器发送事件(SSE)的流式响应
通过将 stream: true 在您的请求中。API 返回服务器发送事件(SSE),而不是单个 JSON 对象。
每个块包含部分文本内容。这允许您向用户实时显示结果。它显著改善了长响应的感知延迟。
最后一个数据块包含总令牌使用统计信息。您可以实时准确跟踪您的信用消耗。
优雅地处理流错误。网络中断可能会导致响应被截断。如有需要,您可以恢复或重试请求。
函数调用与 JSON 模式
使用函数调用将 API 与你的后端逻辑集成。在你的请求中定义工具,模型将返回结构化的 JSON 参数。
设置 response_format: {"type": "json_object"} 以强制严格的 JSON 输出。这对于将数据解析到您的应用程序中非常理想。
函数调用可与流式传输配合使用。您可以实时接收结构化数据。这支持复杂的多步交互。
该模型理解工具定义并相应地执行它们。您在代码中处理工具执行逻辑。
此功能使 API 适合构建代理或自动化工作流。
速率限制与令牌约束
每个 API 密钥每分钟限 300 次请求。您可以同时拥有 8 个并发请求。这可以防止突发流量使系统过载。
最大请求体大小为 8 MB。确保您的负载在此限制内。大上下文窗口会迅速消耗此配额。
常见错误包括 401(无效密钥)和 402(余额不足)。429 错误表示您达到了速率限制。
信用额度不提供退款。但是,重复扣费等错误会通过支持部门修复。您的信用额度永不过期。
定价为每 100 万输入令牌 $0.15,每 100 万输出令牌 $0.50。充值仅接受加密货币,金额从 $20 到 $500。
cURL
curl https://api.veniceaiapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return status as json"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);流式传输
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)常见问题
Venice AI API 的上下文窗口是多少,它如何影响性能?
提示和补全的上下文窗口总计为 100,000 个 token。这支持长对话或文档处理。每次请求的最大输出为 16,000 个 token。你可以通过 max_tokens 参数调整此限制。
如何处理 API 中的错误和拒绝?
错误不会消耗您的信用余额。对于未成年人性内容等非法内容的拒绝是免费的。其他拒绝取决于模型的调整。请检查 401、402 或 429 错误的状态码。
我可以将 API 与 Vercel 或其他无服务器平台一起使用吗?
是的,API 与 OpenAI 兼容。您可以将其与任何 SDK 或框架集成。在环境变量中设置 base URL 和 API 密钥。它与 Vercel 模板和其他无服务器函数配合良好。
保护你的 API 密钥
注册账户,获取密钥,更新端点。所需操作极少。