मिनटों में Venice AI API को इंटीग्रेट करें

बेस URL और प्रमाणीकरण सेटअप

API का जीवन है https://api.veniceaiapi.com/v1. एकल API कुंजी पास करके प्रमाणीकरण करें Authorization हेडर।

अपनी कुंजी तुरंत प्राप्त करने के लिए Google या ईमेल के माध्यम से साइन अप करें। फ़ोन नंबर की आवश्यकता नहीं है। बेस URL सेट करके किसी भी OpenAI-संगत SDK के साथ कुंजी का उपयोग करें।

प्रत्येक खाते में एक सक्रिय कुंजी होती है। एक नई कुंजी जनरेट करने से पुरानी कुंजी तुरंत रद्द हो जाती है। यह जटिल अनुमति स्कोप के बिना सरल एक्सेस नियंत्रण सुनिश्चित करता है।

मॉडल आईडी जिसे आपको भेजना है "uncensored" है। यह एक ओपन-वेइट मॉडल है जिसे कानूनी वयस्क उपयोग के लिए बिना सामग्री अस्वीकृति के जवाब देने के लिए ट्यून किया गया है।

• बेस यूआरएल: https://api.veniceaiapi.com/v1
• Auth हेडर: Authorization: Bearer YOUR_API_KEY
• मॉडल: uncensored

आप एक सरल GET अनुरोध के साथ कनेक्टिविटी का परीक्षण कर सकते हैं /v1/models. यह पुष्टि करता है कि आपकी कुंजी काम कर रही है आपके भारी पेलोइड्स भेजने से पहले।

/v1/chat/completions एंडपॉइंट

टेक्स्ट प्रॉम्प्ट भेजें POST /v1/chat/completions और टेक्स्ट प्रतिक्रियाएं प्राप्त करें। यह एंडपॉइंट सभी मानक चैट इंटरैक्शन को संभालता है।

भूमिका और सामग्री फ़ील्ड्स के साथ अपने संदेश सरणी शामिल करें। मॉडल इनपुट को प्रोसेस करता है और एक पूर्णता लौटाता है। आप आउटपुट लंबाई को नियंत्रित कर सकते हैं max_tokens पैरामीटर।

डिफ़ॉल्ट मैक्स आउटपुट 2,048 टोकन है। आप इसे प्रति अनुरोध 16,000 टोकन तक बढ़ा सकते हैं। कुल कॉन्टेक्स्ट विंडो प्रॉम्प और कंप्लीशन को मिलाकर 100,000 टोकन की अनुमति देती है।

त्रुटियां और अस्वीकृतियां आपके पूर्व-भुगतान वाले क्रेडिट का उपभोग नहीं करतीं। इसका अर्थ है कि आप केवल सफल टोकन जनरेशन के लिए भुगतान करते हैं।

मॉडल पैरामीटर: तापमान, टॉप-P, और सीड

मानक LLM पैरामीटर का उपयोग करके आउटपुट की यादृच्छिकता को नियंत्रित करें। सेट करें temperature रचनात्मकता को समायोजित करने के लिए। निम्न मान प्रतिक्रियाओं को अधिक निर्धारणात्मक और केंद्रित बनाते हैं।

उपयोग करें top_p न्यूक्लियस सैंपलिंग के लिए। यह मॉडल को संभावित द्रव्यमान के शीर्श प्रतिशत पर विचार करने के लिए सीमित करता है। यह दोहराव या असंगत आउटपुट को रोकने में मदद करता है।

सेट करें seed पुनरुत्पादनीय परिणामों के लिए। यह विशिष्ट प्रॉम्प्ट वेरिएशन को डिबग या टेस्ट करने के लिए उपयोगी है। आप उपयोग भी कर सकते हैं stop सीक्वेंस का उपयोग जनरेशन को जल्दी रोकने के लिए।

अन्य समर्थित पैरामीटर शामिल हैं presence_penalty और frequency_penalty. ये लंबी बातचीत में टोकन विविधता को प्रबंधित करने में मदद करते हैं।

इन सेटिंग्स को अपने उपयोग मामले के अनुसार फिट करने के लिए एडजस्ट करें। रोलप्ले को उच्च तापमान से लाभ होता है। कोड जनरेशन को कम मानों की आवश्यकता हो सकती है।

SSE (Server-Sent Events) के साथ स्ट्रीमिंग रिस्पॉन्सेस

सेटिंग करके स्ट्रीमिंग सक्षम करें stream: true आपके अनुरोध में। API एकल JSON ऑब्जेक्ट के बजाय Server-Sent Events (SSE) लौटाता है।

प्रत्येक चंक आंशिक पाठ सामग्री शामिल करता है। इससे आप उपयोगकर्ताओं को रियल-टाइम में परिणाम दिखा सकते हैं। यह लंबे प्रतिक्रियाओं के लिए अनुपस्थित विलंबता को काफी बेहतर बनाता है।

अंतिम चंक कुल टोकन उपयोग सांख्यिकी शामिल करता है। आप लागत की खपत को वास्तविक समय में सटीक रूप से ट्रैक कर सकते हैं।

स्ट्रीम त्रुटियों को सहजता से हैंडल करें। नेटवर्क विच्छेदन प्रतिक्रिया को काट सकते हैं। यदि आवश्यक हो तो अनुरोध को रीज्यूम या रीट्राई करें।

फंक्शन कॉलिंग और JSON मोड

API को अपने बैकएंड लॉजिक के साथ एकीकृत करने के लिए फ़ंक्शन कॉलिंग का उपयोग करें। अपने अनुरोध में टूल परिभाषित करें और मॉडल संरचित JSON तर्क लौटाएगा।

सेट करें response_format: {"type": "json_object"} कठोर JSON आउटपुट को बल देने के लिए। यह आपके अनुप्रयोग में डेटा पार्स करने के लिए आदर्श है।

फंक्शन कॉलिंग स्ट्रीमिंग के साथ काम करती है। आप रियल-टाइम में संरचित डेटा प्राप्त कर सकते हैं। इससे जटिल मल्टी-स्टेप इंटरैक्शन संभव होते हैं।

मॉडल टूल परिभाषाओं को समझता है और उनके अनुसार उन्हें निष्पादित करता है। आप अपने कोड में टूल निष्पादन तर्क संभालते हैं।

यह फीचर API को एजेंट्स या ऑटोमेटेड वर्कफ़्लो बनाने के लिए उपयुक्त बनाता है।

रेट लिमिट्स और टोकन बाधाएँ

प्रत्येक API कुंजी प्रति मिनट 300 अनुरोधों तक सीमित है। आप एक ही समय पर 8 समवर्ती अनुरोध कर सकते हैं। यह अचानक आने वाले बर्स्ट्स को सिस्टम को ओवरलोड होने से रोकता है।

अधिकतम अनुरोध बॉडी आकार 8 MB है। सुनिश्चित करें कि आपके पेलोड इस सीमा के भीतर फिट बैठते हैं। बड़े संदर्भ विंडो इस कोटा को तेजी से खत्म करते हैं।

सामान्य त्रुटियों में अमान्य कुंजियों के लिए 401 और अपर्याप्त क्रेडिट के लिए 402 शामिल है। 429 त्रुटि बताती है कि आपने रेट लिमिट पर पहुँच लिया है।

क्रेडिट के लिए रिफंड उपलब्ध नहीं हैं। हालांकि, डबल चार्ज जैसी त्रुटियाँ सहायता के माध्यम से ठीक की जाती हैं। आपका क्रेडिट कभी समाप्त नहीं होता है।

मूल्य $0.15 प्रति 1M इनपुट टोकन और $0.50 प्रति 1M आउटपुट टोकन है। टॉप-अप केवल क्रिप्टोकरेंसी से $20 से $500 की राशि में हैं।

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)