Integroi Venice AI API minuuteissa

Perus-URL:n ja todennuksen määritys

API sijaitsee osoitteessa https://api.veniceaiapi.com/v1. Todennat käyttämällä yhtä API-avainta, joka välitetään Authorization header.

Rekisteröidy Google-tilillä tai sähköpostiosoitteella saadaksesi avaimen välittömästi. Puhelinnumeroa ei tarvita. Käytä avainta minkä tahansa OpenAI-yhteensopivan SDK-kirjaston kanssa asettamalla perus-URL-osoite.

Jokaisessa tilissä on yksi aktiivinen avain. Uuden avaimen luominen peruuttaa vanhan avaimen välittömästi. Tämä varmistaa yksinkertaisen pääsynhallinnan ilman monimutkaisia käyttöoikeusalueita.

Lähetettävä mallin tunnus on "uncensored". Se on avoin painotusmalli, joka on hienosäädetty vastaamaan ilman sisältöjen hylkäämistä lailliseen aikuiskäyttöön.

• Base URL: https://api.veniceaiapi.com/v1
• Auth-otsake: Authorization: Bearer YOUR_API_KEY
• Malli: uncensored

Voit testata yhteyttä yksinkertaisella GET-pyyntöllä osoitteeseen /v1/models. Tämä vahvistaa, että avaimesi toimii ennen raskaiden kuormien lähettämistä.

Päätepiste /v1/chat/completions

Lähetä tekstipromptteja osoitteeseen POST /v1/chat/completions ja vastaanota tekstivastauksia. Tämä päätepiste käsittelee kaikki standardit keskusteluvuorot.

Sisällytä viestitaulukkosi rooli- ja sisältökenttien kanssa. Malli käsittelee syötteen ja palauttaa täydennyksen. Voit hallita tuloksen pituutta käyttämällä max_tokens parametri.

Oletusarvoinen maksimituotos on 2 048 tokenia. Voit kasvattaa sitä jopa 16 000 tokeniin pyyntöä kohden. Yhteensä kontekstiikkuna tukee 100 000 tokenia sekä syötteelle että tuotokselle.

Virheet ja hylkäykset eivät kuluta esimaksukrediittiäsi. Tämä tarkoittaa, että maksat vain onnistuneesta tokenien tuotannosta.

Malliparametrit: Lämpötila, Top-P ja Seed

Ohjaa tulosten satunnaisuutta käyttämällä yleisiä LLM-parametreja. Aseta temperature säätämään luovuutta. Alhaisemmat arvot tekevät vastauksista deterministisempiä ja keskittyneempiä.

Käyttö top_p ytimenäytteistykseen. Tämä rajoittaa mallia harkitsemaan todennäköisyysmassan yläprosenttia. Se auttaa estämään toistuvia tai järjettömiä tuloksia.

Aseta seed toistuvien tulosten saamiseksi. Tämä on hyödyllistä virheenkorjaukseen tai tiettyjen syötemuunnosten testaamiseen. Voit myös käyttää stop sekvenssit keskeyttämään generaatio ennenaikaisesti.

Muut tuetut parametrit sisältävät presence_penalty ja frequency_penalty. Nämä auttavat hallitsemaan tokenien monimuotoisuutta pitkissä keskusteluissa.

Säädä näitä asetuksia käyttötapauksen mukaan. Roolipeli hyötyy korkeammasta temperature-arvosta. Koodintuotanto voi vaatia alhaisempia arvoja.

Streamausvastaukset palvelimen lähettäminä tapahtumina

Ota streamaus käyttöön asettamalla stream: true pyynnössäsi. API palauttaa Server-Sent Events -tapahtumia (SSE) yhden JSON-objektin sijaan.

Jokainen palikka sisältää osittaisen tekisisällön. Tämä mahdollistaa tulosten näyttämisen reaaliajassa käyttäjillesi. Se parantaa merkittävästi havaittua viivettä pitkissä vastauksissa.

Viimeinen palikka sisältää token-käyttötilastot. Voit seurata krediittiesi kulutusta tarkasti reaaliajassa.

Käsittele stream-virheet sujuvasti. Verkkokatkokset voivat katkaista vastauksen. Voit jatkaa tai toistaa pyynnön tarvittaessa.

Funktikutsut ja JSON-tila

Käytä funktiokutsuja API:n integroimiseen backend-logiikkaasi. Määrittele työkalut pyyntöön, ja malli palauttaa rakenteiset JSON-argumentit.

Aseta response_format: {"type": "json_object"} pakottaa tiukan JSON-tuloksen. Tämä on ihanteellinen tiedon jäsentämiseen sovellukseesi.

Function calling toimii streamauksen rinnalla. Voit vastaanottaa rakenteista dataa reaaliajassa. Tämä mahdollistaa monivaiheiset vuorovaikutukset.

Malli ymmärtää työkalumäärittelyt ja suorittaa ne sen mukaisesti. Hallinnoi työkalujen suorituslogiikan koodissasi.

Tämä ominaisuus tekee API:sta sopivan agenttien tai automatisoitujen työvuorojen rakentamiseen.

Nopeusrajoitukset ja token-rajoitukset

Jokaiselle API-avaimelle on rajoitettu 300 pyyntöä minuutissa. Voit tehdä 8 samanaikaista pyyntöä milloin tahansa. Tämä estää äkilliset piikkit kuormittamasta järjestelmää.

Pyynnön rungon maksimikoko on 8 Mt. Varmista, että tietopakettisi mahtuvat tähän rajaan. Suuret konteksti-ikkunat kuluttavat tätä kiintiötä nopeasti.

Yleiset virheet sisältävät 401 virheellisille avaimille ja 402 riittämättömälle krediitille. 429-tila tarkoittaa, että olet ylittänyt nopeusrajoituksen.

Hyvityksiä ei myönnetä krediteille. Virheet, kuten kaksoisveloitukset, korjataan tuen kautta. Kredittisi ei vanhene.

Hinta on $0,15 per 1M syöttötokenia ja $0,50 per 1M tulostustokenia. Lataukset ovat vain kryptolla summilla $20–$500.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)