Подключите API Venice AI за несколько минут

Настройка базового URL и аутентификации

API находится по адресу https://api.veniceaiapi.com/v1. Вы аутентифицируетесь с помощью одного API-ключа, переданного в Authorization Заголовок.

Зарегистрируйтесь через Google или email, чтобы получить ключ мгновенно. Номер телефона не требуется. Используйте ключ с любым OpenAI-совместимым SDK, указав базовый URL.

В каждом аккаунте активен один ключ. Генерация нового немедленно отзывает старый ключ. Это обеспечивает простой контроль доступа без сложных областей разрешений.

Идентификатор модели, который вы должны отправить — "uncensored". Это модель с открытыми весами, настроенная на ответы без отказов по контенту для законного использования взрослыми.

• Базовый URL: https://api.veniceaiapi.com/v1
• Заголовок Auth: Authorization: Bearer YOUR_API_KEY
• Модель: uncensored

Вы можете проверить подключение с помощью простого GET-запроса к /v1/models. Это подтверждает, что ваш ключ работает, прежде чем вы отправите тяжелые полезные нагрузки.

Эндпоинт /v1/chat/completions

Отправляйте текстовые промпты в POST /v1/chat/completions и получите текстовые ответы. Этот эндпоинт обрабатывает все стандартные чат-взаимодействия.

Включите массив сообщений с полями role и content. Модель обрабатывает ввод и возвращает завершение. Вы можете контролировать длину вывода с помощью max_tokens параметр.

Максимальный объем вывода по умолчанию составляет 2 048 токенов. Вы можете увеличить его до 16 000 токенов на запрос. Общий контекстное окно позволяет использовать 100 000 токенов для промпта и завершения вместе.

Ошибки и отказы не списывают предоплаченный кредит. Это означает, что вы платите только за успешную генерацию токенов.

Параметры модели: температура, Top-P и Seed

Управляйте случайностью вывода с помощью стандартных параметров LLM. Установите temperature для настройки креативности. Более низкие значения делают ответы более детерминированными и сфокусированными.

Использовать top_p для выборки по ядру. Это ограничивает модель рассмотрением верхнего процента массы вероятности. Это помогает предотвратить повторяющиеся или бессмысленные выводы.

Установить seed для воспроизводимых результатов. Это полезно для отладки или тестирования конкретных вариантов запросов. Вы также можете использовать stop последовательности для досрочной остановки генерации.

Другие поддерживаемые параметры включают presence_penalty и frequency_penalty. Они помогают управлять разнообразием токенов в длинных диалогах.

Настройте эти параметры под вашу задачу. Ролевая игра выигрывает от более высокой температуры. Генерация кода может потребовать более низких значений.

Потоковые ответы с событиями, отправляемыми сервером

Включите потоковую передачу, установив stream: true в вашем запросе. API возвращает Server-Sent Events (SSE) вместо одного объекта JSON.

Каждый чанк содержит частичный текст. Это позволяет отображать результаты в реальном времени для ваших пользователей. Это значительно улучшает воспринимаемую задержку для длинных ответов.

Последний чанк включает статистику общего использования токенов. Вы можете точно отслеживать расход вашего кредита в реальном времени.

Обработка ошибок потока должна быть корректной. Сбои сети могут привести к усечению ответа. При необходимости вы можете возобновить или повторить запрос.

Function Calling и режим JSON

Используйте вызов функций для интеграции API с логикой вашего бэкенда. Определите инструменты в запросе, и модель вернет структурированные аргументы JSON.

Установить response_format: {"type": "json_object"} чтобы обеспечить строгий вывод JSON. Это идеально подходит для парсинга данных в ваше приложение.

Вызов функций работает вместе с потоковой передачей. Вы можете получать структурированные данные в реальном времени. Это позволяет выполнять сложные многошаговые взаимодействия.

Модель понимает определения инструментов и выполняет их соответствующим образом. Вы обрабатываете логику выполнения инструментов в своем коде.

Эта функция делает API подходящим для создания агентов или автоматизации рабочих процессов.

Лимиты запросов и ограничения токенов

Каждый API-ключ ограничен 300 запросами в минуту. Вы можете выполнять 8 одновременных запросов в одно время. Это предотвращает перегрузку системы внезапными всплесками.

Максимальный размер тела запроса составляет 8 МБ. Убедитесь, что ваши полезная нагрузка укладывается в это ограничение. Большие контекстные окна быстро расходуют этот лимит.

Типичные ошибки включают 401 для неверных ключей и 402 для недостаточного кредита. Ошибка 429 указывает на достижение лимита частоты.

Возвраты недоступны для кредита. Однако ошибки, такие как двойное списание, исправляются через Поддержку. Ваш кредит никогда не истекает.

Тарифы: $0.15 за 1M входных токенов и $0.50 за 1M выходных токенов. Пополнение только криптовалютой от $20 до $500.

cURL

Copycurl https://api.veniceaiapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Return status as json"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Потоковая передача

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)