ผสาน Venice AI API ในไม่กี่นาที

การตั้งค่า URL ฐานและการตรวจสอบสิทธิ์

API อยู่ที่ https://api.veniceaiapi.com/v1. คุณตรวจสอบสิทธิ์โดยใช้คีย์ API เดียวที่ส่งใน Authorization header

สมัครสมาชิกผ่าน Google หรืออีเมลเพื่อรับคีย์ของคุณทันที ไม่ต้องใช้เบอร์โทรศัพท์ ใช้คีย์กับ SDK ที่เข้ากันได้กับ OpenAI ใดๆ โดยตั้งค่า URL พื้นฐาน

บัญชีแต่ละบัญชีมีคีย์ที่ใช้งานอยู่เพียงคีย์เดียว การสร้างคีย์ใหม่จะเพิกถอนคีย์เก่าทันที สิ่งนี้ทำให้การควบคุมการเข้าถึงเป็นเรื่องง่ายโดยไม่ต้องมีขอบเขตสิทธิ์ที่ซับซ้อน

รหัสโมเดลที่คุณต้องส่งคือ "uncensored" เป็นโมเดล open-weight ที่ปรับแต่งให้ตอบโดยไม่มีการปฏิเสธเนื้อหาสำหรับผู้ใช้ผู้ใหญ่ที่ถูกต้องตามกฎหมาย

• Base URL: https://api.veniceaiapi.com/v1
• Auth Header: Authorization: Bearer YOUR_API_KEY
• โมเดล: uncensored

คุณสามารถทดสอบการเชื่อมต่อด้วยการส่งคำขอ GET แบบง่ายไปยัง /v1/models. สิ่งนี้ยืนยันว่าคีย์ของคุณใช้งานได้ก่อนที่คุณจะส่งโหลดงานหนัก

Endpoint /v1/chat/completions

ส่ง prompt ข้อความไปยัง POST /v1/chat/completions และรับคำตอบข้อความ จุดปลายนี้จัดการการโต้ตอบแชทมาตรฐานทั้งหมด

รวมอาร์เรย์ข้อความของคุณพร้อมฟิลด์ role และ content โมเดลประมวลผลข้อมูลนำเข้าและส่งผลการสร้างข้อความ คุณสามารถควบคุมความยาวของผลลัพธ์โดยใช้ max_tokens พารามิเตอร์

ค่า max output เริ่มต้นคือ 2,048 tokens คุณสามารถเพิ่มค่านี้ได้สูงสุด 16,000 tokens ต่อคำขอ ขนาดหน้าต่างบริบทรวมรองรับ 100,000 tokens สำหรับ prompt และการตอบกลับรวมกัน

ข้อผิดพลาดและการปฏิเสธไม่ใช้เครดิตพรีเพดของคุณ นั่นหมายความว่าคุณจ่ายเฉพาะสำหรับการสร้างโทเค็นที่สำเร็จเท่านั้น

พารามิเตอร์โมเดล: อุณหภูมิ, Top-P และ Seed

ควบคุมความสุ่มของผลลัพธ์โดยใช้พารามิเตอร์ LLM มาตรฐาน ตั้งค่า temperature เพื่อปรับระดับความคิดสร้างสรรค์ ค่าที่ต่ำกว่าจะทำให้การตอบสนองมีความเป็นกำหนดเองและมุ่งเน้นมากขึ้น

ใช้ top_p สำหรับการสุ่มแบบ nucleus สิ่งนี้จำกัดโมเดลให้พิจารณาเพียงเปอร์เซ็นต์สูงสุดของมวลความน่าจะเป็น ช่วยป้องกันผลลัพธ์ที่ซ้ำซ้อนหรือไร้สาระ

ตั้งค่า seed เพื่อความผลลัพธ์ที่ทำซ้ำได้ สิ่งนี้มีประโยชน์สำหรับการดีบักหรือทดสอบการเปลี่ยนแปลงของ prompt เฉพาะเจาะจง คุณยังสามารถใช้ stop ลำดับเพื่อหยุดการสร้างแต่เนิ่นๆ

พารามิเตอร์ที่รองรับอื่นๆ ได้แก่ presence_penalty และ frequency_penalty. สิ่งเหล่านี้ช่วยจัดการความหลากหลายของโทเค็นในบทสนทนาที่ยาวนาน

ปรับการตั้งค่าเหล่านี้ให้เหมาะกับกรณีการใช้งานของคุณ บทบาทสมมติ (Roleplay) ได้ประโยชน์จากค่า temperature ที่สูงกว่า การสร้างโค้ดอาจต้องการค่าที่ต่ำกว่า

การตอบกลับแบบสตรีมมิ่งด้วย Server-Sent Events

เปิดใช้งานการสตรีมโดยตั้งค่า stream: true ในการร้องขอของคุณ API จะส่งคืน Server-Sent Events (SSE) แทนวัตถุ JSON เดียว

แต่ละ chunk มีเนื้อหาข้อความบางส่วน สิ่งนี้ช่วยให้คุณแสดงผลผลลัพธ์แบบเรียลไทม์ให้กับผู้ใช้ ช่วยปรับปรุงความล่าช้าที่ผู้ใช้รู้สึกได้สำหรับการตอบกลับที่ยาวอย่างมีนัยสำคัญ

ชิ้นข้อมูลสุดท้ายรวมถึงสถิติการใช้งานโทเค็นรวม คุณสามารถติดตามการบริโภคเครดิตของคุณได้อย่างแม่นยำแบบเรียลไทม์

จัดการข้อผิดพลาดสตรีมอย่างสุภาพ การขัดข้องของเครือข่ายอาจทำให้การตอบกลับขาดหาย คุณสามารถเริ่มใหม่หรือลองคำขออีกครั้งหากจำเป็น

Function Calling และโหมด JSON

ใช้ฟังก์ชันคอลลิงเพื่อผสานรวม API กับตรรกะแบ็กเอนด์ของคุณ กำหนดเครื่องมือในคำขอของคุณ และโมเดลจะส่งคืนอาร์กิวเมนต์ JSON ที่มีโครงสร้าง

ตั้งค่า response_format: {"type": "json_object"} เพื่อบังคับเอาต์พุต JSON ที่เข้มงวด ซึ่งเหมาะสำหรับการแยกวิเคราะห์ข้อมูลเข้าสู่แอปพลิเคชันของคุณ

การเรียกฟังก์ชันทำงานร่วมกับสตรีมมิง คุณสามารถรับข้อมูลที่มีโครงสร้างแบบเรียลไทม์ สิ่งนี้เปิดใช้งานการโต้ตอบหลายขั้นตอนที่ซับซ้อน

โมเดลเข้าใจคำจำกัดความของเครื่องมือและดำเนินการตามนั้น คุณจัดการตรรกะการเรียกใช้เครื่องมือในโค้ดของคุณ

คุณสมบัตินี้ทำให้ API เหมาะสำหรับการสร้างเอเจนต์หรืออัตโนมัติเวิร์กโฟลว์

อัตราจำกัดและข้อจำกัดโทเค็น

คีย์ API แต่ละตัวจำกัดอยู่ที่ 300 คำขอต่อนาที คุณสามารถมีคำขอพร้อมกันได้ 8 คำขอในเวลาเดียวกัน สิ่งนี้ป้องกันไม่ให้การกระโดดของคำขอกระทันหันทำให้ระบบรับภาระเกิน

ขนาดร่างกายคำขอสูงสุดคือ 8 MB ตรวจสอบให้แน่ใจว่าแพย์โหลดของคุณพอดีกับจำกัดนี้ หน้าต่างบริกรขนาดใหญ่ใช้โควตานี้เร็ว

ข้อผิดพลาดทั่วไปรวมถึง 401 สำหรับคีย์ไม่ถูกต้องและ 402 สำหรับเครดิตไม่เพียงพอ ข้อผิดพลาด 429 หมายความว่าคุณถึงขีดจำกัดอัตรา

การคืนเงินไม่พร้อมสำหรับเครดิต อย่างไรก็ตาม ข้อผิดพลาดเช่นการเรียกเก็บเงินซ้ำจะถูกแก้ไขผ่าน Support เครดิตของคุณไม่มีวันหมดอายุ

ราคาอยู่ที่ $0.15 ต่อ 1M input tokens และ $0.50 ต่อ 1M output tokens การเติมเงินเป็นคริปโตเท่านั้น ตั้งแต่ $20 ถึง $500

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

การสตรีม

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)