Інтегруйте Venice AI API за хвилини

Налаштування базової URL-адреси та аутентифікації

API живе на https://api.veniceaiapi.com/v1. Ви автентифікуєтесь за допомогою одного API-ключа, переданого в Authorization header.

Зареєструйтеся через Google або електронну адресу, щоб одержати ключ миттєво. Номер телефону не потрібен. Використовуйте ключ із будь-яким OpenAI-сумісним SDK, вказавши базовий URL.

Кожен акаунт має один активний ключ. Генерація нового миттєво відкликає старий ключ. Це забезпечує простий контроль доступу без складних обсяжок дозволів.

ID моделі, який ви повинні надіслати — "uncensored". Це модель з відкритими вагами, налаштована на відповіді без відмов у вмісті для законного використання дорослими.

• Базовий URL: https://api.veniceaiapi.com/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY
• Модель: uncensored

Ви можете перевірити підключення, надіславши простий GET-запит до /v1/models. Це підтверджує, що ваш ключ працює, перш ніж надсилати важкі载荷.

Ендпоінт /v1/chat/completions

Надсилайте текстові промпти до POST /v1/chat/completions та отримуйте текстові відповіді. Цей ендпоінт обробляє всі стандартні чат-взаємодії.

Додайте масив повідомлень із полями role та content. Модель обробляє вхідні дані та повертає завершення. Ви можете контролювати довжину виводу за допомогою max_tokens параметр.

Максимальна кількість токенів за замовчуванням становить 2,048. Ви можете збільшити її до 16,000 токенів на запит. Загальне контекстне вікно дозволяє 100,000 токенів для запиту та відповіді разом.

Помилки та відмови не споживають ваші передоплачені кредити. Це означає, що ви платите лише за успішне згенероване токени.

Параметри моделі: Температура, Top-P та Seed

Керуйте випадковістю виводу за допомогою стандартних параметрів LLM. Встановіть temperature для налаштування креативності. Нижчі значення роблять відповіді більш детермінованими та сфокусованими.

Використовувати top_p для вибірки за ядром (nucleus sampling). Це обмежує модель розглядати верхній відсоток ймовірнісної маси. Це допомагає запобігти повторюваним або безглуздим результатам.

Встановити seed для відтворюваних результатів. Це корисно для налагодження або тестування конкретних варіацій промптів. Ви також можете використовувати stop послідовності для дострокової зупинки генерації.

Інші підтримувані параметри включають presence_penalty та frequency_penalty. Це допомагає керувати різноманітністю токенів у довгих розмовах.

Налаштуйте ці параметри відповідно до вашого сценарію. Рольовим іграм корисніші вищі значення температури. Для генерації коду можуть знадобитися нижчі значення.

Потокові відповіді з подіями, надісланими сервером

Увімкніть потокову передачу, встановивши stream: true у вашому запиті. API повертає події, надіслані сервером (SSE), замість одного об’єкта JSON.

Кожен чанк містить частину тексту. Це дозволяє відображати результати в реальному часі для ваших користувачів. Це значно покращує сприйняту затримку для довгих відповідей.

Останній фрагмент включає статистику загального використання токенів. Ви можете точно відстежувати споживання вашого кредиту в реальному часі.

Обробляйте помилки потоку коректно. Переривання мережі можуть обрізати відповідь. За потреби ви можете відновити або повторити запит.

Function Calling та режим JSON

Використовуйте виклик функцій для інтеграції API з логікою вашого бекенду. Визначте інструменти у своєму запиті, і модель поверне структуровані аргументи JSON.

Встановити response_format: {"type": "json_object"} щоб забезпечити суворий вивід у форматі JSON. Це ідеально підходить для парсингу даних у ваш додаток.

Виклик функцій працює разом із потоковою передачею. Ви можете отримувати структуровані дані в реальному часі. Це дозволяє складні багатокрокові взаємодії.

Модель розуміє визначення інструментів та виконує їх відповідно до цього. Ви обробляєте логіку виконання інструментів у своєму коді.

Ця функція робить API придатним для створення агентів або автоматизації робочих процесів.

Ліміти частоти та обмеження токенів

Кожний API-ключ обмежено 300 запитами на хвилину. Ви можете мати 8 одночасних запитів одночасно. Це запобігає тому, щоб раптові сплески не перевантажували систему.

Максимальний розмір тіла запиту становить 8 МБ. Переконайтеся, що ваші负载и вписуються в це обмеження. Великі вікна контексту швидко споживають цей ліміт.

Поширені помилки включають 401 для недійсних ключів та 402 для недостатнього кредиту. Помилка 429 вказує на те, що ви досягли ліміту швидкості.

Повернення коштів не доступне для кредиту. Однак помилки, такі як подвійне списання, виправляються через Підтримку. Ваш кредит ніколи не закінчується.

Ціна становить $0.15 за 1 млн вхідних токенів та $0.50 за 1 млн вихідних токенів. Поповнення рахунку можливе лише криптовалютою, від $20 до $500.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потокова передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)