API Venice AI را در چند دقیقه یکپارچه کنید

تنظیم URL پایه و احراز هویت

API در https://api.veniceaiapi.com/v1. شما با یک کلید API تکی ارسال‌شده در Authorization هدر.

از طریق Google یا ایمیل ثبت‌نام کنید تا کلید خود را فوراً دریافت کنید. نیازی به شماره تلفن نیست. کلید را با هر SDK OpenAI-compatible با تنظیم URL پایه استفاده کنید.

هر حساب یک کلید فعال دارد. تولید کلید جدید، کلید قبلی را بلافاصله لغو می‌کند. این کار کنترل دسترسی ساده‌ای را بدون نیاز به دامنه‌های مجوز پیچیده تضمین می‌کند.

شناسه مدلی که باید ارسال کنید "uncensored" است. یک مدل open-weight است که برای پاسخ‌دهی بدون رد محتوای بزرگسالان قانونی تنظیم شده است.

• URL پایه: https://api.veniceaiapi.com/v1
• هدر Auth: Authorization: Bearer YOUR_API_KEY
• مدل: uncensored

می‌توانید اتصال را با یک درخواست GET ساده به /v1/models. این قبل از ارسال بارهای سنگین تأیید می‌کند که کلید شما کار می‌کند.

Endpoint /v1/chat/completions

پرامپت‌های متنی را به POST /v1/chat/completions و پاسخ‌های متنی دریافت کنید. این نقطه پایدار تمام تعاملات چت استاندارد را مدیریت می‌کند.

آرایه پیام‌های خود را با فیلدهای نقش و محتوا قرار دهید. مدل ورودی را پردازش کرده و تکمیل را برمی‌گرداند. می‌توانید طول خروجی را با استفاده از max_tokens پارامتر.

حداکثر خروجی پیش‌فرض ۲,۰۴۸ توکن است. می‌توانید این مقدار را تا ۱۶,۰۰۰ توکن در هر درخواست افزایش دهید. پنجره زمینه کل اجازه می‌دهد ۱۰۰,۰۰۰ توکن برای ورودی و خروجی ترکیب شوند.

خطاها و رد شدن درخواست‌ها اعتبار پیش‌پرداخت شما را مصرف نمی‌کنند. این بدان معناست که شما فقط برای تولید موفق توکن‌ها پرداخت می‌کنید.

پارامترهای مدل: دما، Top-P و Seed

تصادفی بودن خروجی را با استفاده از پارامترهای استاندارد LLM کنترل کنید. تنظیم temperature برای تنظیم خلاقیت. مقادیر پایین‌تر پاسخ‌ها را قطعی‌تر و متمرکزتر می‌کند.

استفاده top_p برای نمونه‌گیری هسته. این محدودیت را برای مدل ایجاد می‌کند تا تنها درصد بالایی از جرم احتمال را در نظر بگیرد. این به جلوگیری از خروجی‌های تکراری یا غیرمنطقی کمک می‌کند.

تنظیم seed برای نتایج تکرارپذیر. این برای رفع اشکال یا آزمایش تغییرات خاص prompt مفید است. همچنین می‌توانید از stop sequences برای توقف تولید زودهنگام.

Other supported parameters include presence_penalty و frequency_penalty. این‌ها به مدیریت تنوع توکن‌ها در مکالمات طولانی کمک می‌کنند.

این تنظیمات را متناسب با مورد استفاده خود تنظیم کنید. نقش‌آفرینی از دمای بالاتر بهره می‌برد. تولید کد ممکن است به مقادیر پایین‌تر نیاز داشته باشد.

پاسخ‌های استریم با رویدادهای ارسالی سرور

استریمینگ را با تنظیم stream: true در درخواست شما. API به جای یک شیء JSON واحد، رویدادهای ارسالی سرور (SSE) را برمی‌گرداند.

هر تکه شامل محتوای متن جزئی است. این به شما امکان می‌دهد نتایج را به‌صورت بلادرنگ به کاربران نمایش دهید. این موضوع تأخیر ادراک‌شده را برای پاسخ‌های طولانی به‌طور قابل‌توجهی بهبود می‌بخشد.

قطعه نهایی شامل آمار مصرف کلی توکن است. می‌توانید مصرف اعتبار خود را به صورت بلادرنگ و دقیق ردیابی کنید.

خطاهای استریم را به صورت ایمن مدیریت کنید. اختلالات شبکه ممکن است باعث بریده شدن پاسخ شوند. در صورت نیاز می‌توانید درخواست را ادامه یا تکرار کنید.

فراخوانی تابع و حالت JSON

از فراخوانی تابع برای یکپارچه‌سازی API با منطق بک‌اند خود استفاده کنید. ابزارها را در درخواست خود تعریف کنید و مدل آرگومان‌های JSON ساختاریافته را برمی‌گرداند.

تنظیم response_format: {"type": "json_object"} برای اجبار به خروجی JSON سخت‌گیرانه. این برای پارس کردن داده‌ها به برنامه شما ایده‌آل است.

فراخوانی تابع همراه با استریمینگ کار می‌کند. شما می‌توانید داده‌های ساختاریافته را به صورت بلادرنگ دریافت کنید. این امکان تعاملات چندمرحله‌ای پیچیده را فراهم می‌کند.

مدل تعاریف ابزار را درک کرده و آن‌ها را مطابق با آن اجرا می‌کند. شما منطق اجرای ابزار را در کد خود مدیریت می‌کنید.

این قابلیت API را برای ساخت عامل‌ها یا گردش کارهای خودکار مناسب می‌کند.

محدودیت‌های نرخ و محدودیت‌های توکن

هر کلید API محدود به ۳۰۰ درخواست در دقیقه است. می‌توانید در همان زمان ۸ درخواست همزمان داشته باشید. این موضوع از غرق شدن سیستم در اثر افزایش‌های ناگهانی جلوگیری می‌کند.

حداکثر اندازه بدنه درخواست ۸ مگابایت است. مطمئن شوید که بارهای کاری شما در این محدودیت جای می‌گیرند. پنجره‌های زمینه بزرگ این سهمیه را به سرعت مصرف می‌کنند.

خطاهای رایج شامل 401 برای کلیدهای نامعتبر و 402 برای اعتبار ناکافی است. خطای 429 نشان می‌دهد که به محدودیت نرخ رسیده‌اید.

استردادها برای اعتبار موجود نیستند. با این حال، اشتباهاتی مانند خطاهای دوگانه از طریق پشتیبانی برطرف می‌شوند. اعتبار شما هرگز منقضی نمی‌شود.

قیمت‌گذاری ۰.۱۵ دلار به ازای هر ۱ میلیون توکن ورودی و ۰.۵۰ دلار به ازای هر ۱ میلیون توکن خروجی است. شارژ حساب فقط با ارزهای دیجیتال و از ۲۰ تا ۵۰۰ دلار انجام می‌شود.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

پایتون

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

جریان‌سازی

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)