API Reference
OpenAI 호환 API
기존 OpenAI SDK의 base_url만 바꾸면 그대로 동작합니다. 인증은 Bearer API Key.
예시 모델:
· 엔드포인트
/v1
인증
모든 추론 요청에 Authorization: Bearer <API Key> 헤더가 필요합니다. 키는 API Keys에서 관리하세요. 모델 목록·카탈로그는 공개입니다.
Base URL
…
OpenAI SDK: OpenAI(base_url="<위 URL>", api_key="<키>")
모델 목록
GET
/v1/models등록된 모델 id 목록 (공개). Playground·SDK가 이걸로 드롭다운을 채웁니다.
curl /v1/models
Chat Completions
POST
/v1/chat/completionsstream:true로 SSE 스트리밍. 비전 모델은 content에 image_url 포함.
Embeddings
POST
/v1/embeddings텍스트 → 벡터 (RAG 검색용). 임베딩 모델(예: bge-m3).
Rerank
POST
/rerank질의-문서 관련도 재순위화 (cross-encoder). 리랭커 모델(예: bge-reranker-v2-m3).
웹검색 에이전트
POST
/v1/agent/chat도구(웹검색)를 쓰는 에이전트 루프. 응답에 answer·steps·sources. Chat의 🔍 토글이 이걸 호출.
오류 코드
| 코드 | 의미 |
|---|---|
| 401 | API Key 없음/무효 |
| 403 | 이 키로 해당 모델 사용 불가 |
| 404 | 등록되지 않은 모델 |
| 429 | 요청 한도 초과 (Retry-After 헤더) |
| 503 | GPU 백엔드 준비 중 / 도달 불가 |