Integrasikan API Venice AI dalam Beberapa Minit

Persediaan URL Asas dan Pengesahan

API tinggal di https://api.veniceaiapi.com/v1. Anda mengesahkan dengan satu kunci API yang dihantar dalam Authorization header.

Daftar melalui Google atau e-mel untuk mendapatkan kunci anda serta-merta. Tiada nombor telefon diperlukan. Gunakan kunci ini dengan mana-mana SDK serasi OpenAI dengan menetapkan URL asas.

Setiap akaun memegang satu kunci aktif. Penjanaan kunci baharu mencabut kunci lama serta-merta. Ini memastikan kawalan akses yang mudah tanpa skop kebenaran yang kompleks.

ID model yang perlu anda hantar ialah "uncensored". Ia adalah model berat terbuka yang disesuaikan untuk menjawab tanpa penolakan kandungan untuk penggunaan dewasa yang sah.

• URL Asas: https://api.veniceaiapi.com/v1
• Header Auth: Authorization: Bearer YOUR_API_KEY
• Model: uncensored

Anda boleh menguji sambungan dengan permintaan GET mudah ke /v1/models. Ini mengesahkan kunci anda berfungsi sebelum anda menghantar beban berat.

Hujung sambungan /v1/chat/completions

Hantar prompt teks ke POST /v1/chat/completions dan terima respons teks. Hujung ini mengendalikan semua interaksi perbualan standard.

Masukkan array mesej anda dengan medan peranan dan kandungan. Model memproses input dan memulangkan penyelesaian. Anda boleh mengawal panjang output menggunakan max_tokens parameter.

Output maksimum lalai ialah 2,048 token. Anda boleh meningkatkannya sehingga 16,000 token setiap permintaan. Jendela konteks keseluruhan membolehkan 100,000 token untuk gabungan prompt dan penyelesaian.

Ralat dan penolakan tidak menggunakan kredit pra-dibayar anda. Ini bermakna anda hanya membayar untuk penjanaan token yang berjaya.

Parameter Model: Suhu, Top-P, dan Benih

Kawal rawak output menggunakan parameter LLM piawai. Tetapkan temperature untuk menyesuaikan kreativiti. Nilai yang lebih rendah menjadikan respons lebih deterministik dan fokus.

Gunakan top_p untuk pensampelan nukleus. Ini membataskan model untuk mempertimbangkan peratusan jisim kebarangkalian yang paling tinggi. Ia membantu mencegah output yang berulang atau tidak masuk akal.

Tetapkan seed untuk keputusan yang boleh diulang. Ini berguna untuk nyahpepijat atau menguji variasi prompt khusus. Anda juga boleh menggunakan stop jujukan untuk menghentikan penjanaan awal.

Parameter sokongan lain termasuk presence_penalty dan frequency_penalty. Ini membantu mengurus kepelbagaian token dalam perbualan panjang.

Laraskan tetapan ini untuk mematuhi kesgunaan anda. Roleplay mendapat manfaat daripada suhu yang lebih tinggi. Penjanaan kod mungkin memerlukan nilai yang lebih rendah.

Respons Streaming dengan Acara Dihantar Pelayan

Aktifkan aliran dengan menetapkan stream: true dalam permintaan anda. API mengembalikan Acara Diterusi Pelayan (SSE) sebagai ganti objek JSON tunggal.

Setiap chunk mengandungi kandungan teks separa. Ini membolehkan anda memaparkan hasil secara masa nyata kepada pengguna anda. Ia secara ketara memperbaiki latensi yang dirasakan untuk respons yang panjang.

Bungkusan akhir termasuk statistik penggunaan token jumlah. Anda boleh menjejak penggunaan kredit anda dengan tepat secara masa nyata.

Tangani ralat aliran dengan baik. Gangguan rangkaian mungkin memendekkan respon. Anda boleh sambung atau cuba semula permintaan jika perlu.

Panggilan Fungsi dan Mod JSON

Gunakan panggilan fungsi untuk mengintegrasikan API dengan logik backend anda. Takrifkan alat dalam permintaan anda dan model akan mengembalikan hujah JSON berstruktur.

Tetapkan response_format: {"type": "json_object"} untuk memaksa output JSON yang ketat. Ini sangat sesuai untuk menguraikan data ke dalam aplikasi anda.

Pemanggilan fungsi berfungsi bersama penstriman. Anda boleh menerima data terstruktur secara masa nyata. Ini membolehkan interaksi berbilang langkah yang kompleks.

Model ini memahami definisi alat dan melaksanakannya mengikutnya. Anda mengendalikan logik pelaksanaan alat dalam kod anda.

Ciri ini menjadikan API sesuai untuk membina ejen atau aliran kerja automatik.

Had had laju dan kekangan token

Setiap kunci API terhad kepada 300 permintaan setiap minit. Anda boleh mempunyai 8 permintaan serentak pada masa yang sama. Ini mencegah letupan tiba-tiba daripada membanjiri sistem.

Saiz badan permintaan maksimum ialah 8 MB. Pastikan muatan anda muat dalam had ini. Tingkap konteks besar menggunakan kuota ini dengan cepat.

Ralat lazim termasuk 401 untuk kunci tidak sah dan 402 untuk kredit tidak mencukupi. Ralat 429 menunjukkan anda telah mencapai had kadar.

Pemulangan tidak tersedia untuk kredit. Walau bagaimanapun, kesilapan seperti caj berganda diperbaiki melalui Sokongan. Kredit anda tidak luput.

Harga ialah $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Penambahan baki adalah kriptokoin sahaja dari $20 hingga $500.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Aliran

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)