Venice AI API를 몇 분 안에 통합
기존 스택에 Venice AI API를 추가하여 일반적인 콘텐츠 거절 없이 uncensored 응답을 받으세요.
- Base URL
https://api.veniceaiapi.com/v1- 모델
uncensored
Base URL 및 인증 설정
API는 다음에 위치합니다 https://api.veniceaiapi.com/v1단일 API 키를 사용하여 인증합니다 Authorization 헤더입니다.
Google 또는 이메일로 가입하여 키를 즉시 받으세요. 전화번호가 필요하지 않습니다. 기본 URL을 설정하여 모든 OpenAI 호환 SDK와 함께 키를 사용하세요.
각 계정은 하나의 활성 키를 보유합니다. 새 키를 생성하면 이전 키가 즉시 회수됩니다. 이는 복잡한 권한 범위 없이 단순한 접근 제어를 보장합니다.
전송해야 하는 모델 ID는 "uncensored"입니다. 이는 합법적인 성인 사용에 대해 콘텐츠 거부 없이 응답하도록 튜닝된 오픈 웨이트 모델입니다.
- Base URL:
https://api.veniceaiapi.com/v1 - Auth Header:
Authorization: Bearer YOUR_API_KEY - 모델:
uncensored
간단한 GET 요청을 통해 연결성을 테스트할 수 있습니다. /v1/models이것은 무거운 페이로드를 보내기 전에 키가 작동함을 확인합니다.
/v1/chat/completions 엔드포인트
에 텍스트 프롬프트를 보내세요 POST /v1/chat/completions 텍스트 응답을 받습니다. 이 엔드포인트는 모든 표준 채팅 상호작용을 처리합니다.
역할과 콘텐츠 필드가 있는 메시지 배열을 포함하세요. 모델은 입력을 처리하여 완료를 반환합니다. 출력 길이는 다음을 사용하여 제어할 수 있습니다. max_tokens 파라미터.
기본 최대 출력은 2,048 토큰입니다. 요청당 16,000 토큰까지 늘릴 수 있습니다. 전체 컨텍스트 윈도우는 프롬프트와 완성을 합쳐 100,000 토큰까지 허용합니다.
오류 및 거절은 선불 크레딧을 소모하지 않습니다. 즉, 성공적으로 생성된 토큰에 대해서만 요금이 부과됩니다.
모델 매개변수: Temperature, Top-P 및 Seed
표준 LLM 파라미터를 사용하여 출력의 무작위성을 제어하세요. 설정 temperature 창의성을 조정하세요. 낮은 값은 응답을 더 결정적이고 집중적으로 만듭니다.
사용 top_p nucleus sampling을 위해. 이는 모델이 상위 확률 질량 퍼센트만 고려하도록 제한합니다. 반복적이거나 비논리적인 출력을 방지하는 데 도움이 됩니다.
設定 seed 재현 가능한 결과를 위해 이는 특정 프롬프트 변형을 디버깅하거나 테스트하는 데 유용합니다. 또한 stop 생성을 조기에 중단하기 위한 시퀀스.
다른 지원 매개변수에는 presence_penalty 및 frequency_penalty이러한 설정은 긴 대화에서 토큰 다양성을 관리하는 데 도움이 됩니다.
사용 사례에 맞게 이러한 설정을 조정하세요. 역할극은 높은 temperature에서 이점을 얻습니다. 코드 생성은 더 낮은 값이 필요할 수 있습니다.
서버 전송 이벤트(SSE)를 사용한 스트리밍 응답
stream을 true로 설정하여 스트리밍 활성화 stream: true 요청에 포함됩니다. API는 단일 JSON 객체 대신 서버 전송 이벤트(SSE)를 반환합니다.
각 청크에는 부분 텍스트 콘텐츠가 포함됩니다. 이를 통해 사용자에게 실시간으로 결과를 표시할 수 있습니다. 긴 응답의 경우 지각된 지연 시간을 크게 개선합니다.
최종 청크에는 총 토큰 사용량 통계가 포함되어 있습니다. 실시간으로 크레딧 소모량을 정확하게 추적할 수 있습니다.
스트림 오류를 우아하게 처리하세요. 네트워크 중단으로 인해 응답이 잘릴 수 있습니다. 필요시 요청을 재개하거나 재시도할 수 있습니다.
함수 호출 및 JSON 모드
백엔드 로직과 API를 통합하기 위해 함수 호출을 사용하세요. 요청에 도구를 정의하면 모델은 구조화된 JSON 인수를 반환합니다.
設定 response_format: {"type": "json_object"} 엄격한 JSON 출력을 강제합니다. 이는 애플리케이션으로 데이터를 파싱하는 데 이상적입니다.
함수 호출은 스트리밍과 함께 작동합니다. 실시간으로 구조화된 데이터를 받을 수 있습니다. 이는 복잡한 다단계 상호작용을 가능하게 합니다.
이 모델은 도구 정의를 이해하고 그에 따라 실행합니다. 도구 실행 로직은 코드에서 처리합니다.
이 기능은 에이전트 구축 또는 자동화된 워크플로우 구축에 API를 적합하게 만듭니다.
속도 제한 및 토큰 제약 조건
각 API 키는 분당 300회 요청으로 제한됩니다. 동시에 최대 8개의 동시 요청을 보낼 수 있습니다. 이는 갑작스러운 버스트가 시스템을 과부하시키는 것을 방지합니다.
최대 요청 본문 크기는 8 MB입니다. 페이로드가 이 제한 내에 들어오도록 하십시오. 큰 컨텍스트 윈도우는 이 할당량을 빠르게 소모합니다.
자주 발생하는 오류에는 키가 잘못되어 401, 크레딧 부족으로 402가 포함됩니다. 429 오류는 속도 제한에 도달했음을 나타냅니다.
크레딧에 대해서는 환불이 제공되지 않습니다. 그러나 이중 청구와 같은 오류는 지원을 통해 수정됩니다. 크레딧은 만료되지 않습니다.
가격은 입력 토큰 1M당 $0.15, 출력 토큰 1M당 $0.50입니다. 충전은 암호화폐로만 가능하며 금액은 $20부터 $500까지입니다.
cURL
curl https://api.veniceaiapi.com/v1/chat/completions \
-H "Authorization: Bearer $API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "uncensored",
"messages": [{"role": "user", "content": "Return status as json"}]
}'Python
from openai import OpenAI
client = OpenAI(base_url="https://api.veniceaiapi.com/v1", api_key="YOUR_KEY")
resp = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)Node.js
import OpenAI from "openai";
const client = new OpenAI({ baseURL: "https://api.veniceaiapi.com/v1", apiKey: process.env.API_KEY });
const resp = await client.chat.completions.create({
model: "uncensored",
messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);스트리밍
stream = client.chat.completions.create(
model="uncensored",
messages=[{"role": "user", "content": "Tell the story in second person."}],
stream=True,
)
for chunk in stream:
if chunk.choices and chunk.choices[0].delta.content:
print(chunk.choices[0].delta.content, end="", flush=True)자주 묻는 질문
Venice AI API의 컨텍스트 윈도우는 무엇이며 성능에 어떤 영향을 미치나요?
프롬프트와 completion을 합친 컨텍스트 윈도우는 100,000 토큰입니다. 이는 긴 대화나 문서 처리를 가능하게 합니다. 요청당 최대 출력은 16,000 토큰이며, max_tokens 파라미터로 이를 조정할 수 있습니다.
API의 오류 및 거부 처리를 어떻게 하나요?
오류는 크레딧이 소모되지 않습니다. 미성년자 성 콘텐츠와 같은 불법 콘텐츠에 대한 거부는 무료입니다. 기타 거부는 모델's 튜닝에 따라 다릅니다. 401, 402 또는 429 오류에 대한 상태 코드를 확인하세요.
API를 Vercel 또는 기타 서버리스 플랫폼과 함께 사용할 수 있나요?
네, API는 OpenAI 호환입니다. SDK 또는 프레임워크와 통합할 수 있습니다. 환경 변수에 기본 URL과 API 키를 설정하십시오. Vercel 템플릿 및 기타 서버리스 함수와 잘 작동합니다.
API 키 보안
계정을 등록하고 키를 가져온 후 엔드포인트를 업데이트하세요. 최소한의 노력으로 완료됩니다.