토큰과 사용량
토큰 집계 방식, API별 사용량 필드와 무료 프리뷰를 안내합니다.
모델은 텍스트를 토큰 단위로 처리합니다. 이번 프리뷰의 모델 이용 요금은 0원입니다. 무료로 이용하는 동안에도 속도 제한과 컨텍스트 윈도우(262,144 토큰)의 크기 제한은 적용됩니다.
토큰 수 추정
raon-1-mini-preview의 대략적인 토큰 비율은 다음과 같습니다.
| 언어 | 토큰 비율 |
|---|---|
| 한국어 | 약 2~3자당 1토큰 |
| 영어 | 약 1단어당 1토큰 |
위 값은 추정치입니다. 정확한 토큰 수는 각 응답의 usage 필드에서 확인하세요.
응답의 사용량 필드
| API | 입력 토큰 | 출력 토큰 | 추론 토큰(출력에 포함) |
|---|---|---|---|
| Chat Completions | usage.prompt_tokens | usage.completion_tokens | usage.completion_tokens_details.reasoning_tokens |
| Responses | usage.input_tokens | usage.output_tokens | usage.output_tokens_details.reasoning_tokens |
| Messages | usage.input_tokens | usage.output_tokens | 별도 표시 없음 |
추론 토큰은 답변과 함께 출력 토큰으로 집계됩니다. 따라서 최대 출력 토큰 수를 지정할 때는 추론에 사용할 토큰 수도 고려해야 합니다. API에 따라 max_tokens, max_completion_tokens, max_output_tokens로 한도를 지정합니다. 추론은 항상 활성화됩니다.
Messages는 캐시에서 읽은 입력 토큰 수와 캐시 생성에 사용한 입력 토큰 수를 각각 cache_read_input_tokens, cache_creation_input_tokens에 표시합니다. 이 토큰들은 input_tokens에 포함되지 않습니다. Chat Completions와 Responses는 전체 입력 토큰 수에 캐시 입력을 포함하며, 캐시 사용량 정보가 있으면 별도 필드로도 표시합니다.
스트리밍 응답에서는 사용량이 마지막에 전달됩니다. Chat Completions는 stream_options.include_usage를 설정하면 마지막 청크에, Responses는 response.completed 이벤트에, Messages는 message_start와 message_delta 이벤트에 포함됩니다.
스트림이 중단되면 최종 사용량을 받지 못할 수 있습니다. Raon은 모델 서버가 보고한 사용량을 우선 사용합니다. 보고된 사용량이 없으면 입력 텍스트와 수신한 출력 텍스트를 기준으로 추정합니다. 추정치는 모델이 실제로 처리한 토큰 수와 다를 수 있습니다. 웹 검색 중 모델을 여러 번 호출하면 각 호출의 사용량을 합산합니다.
요금
GET /v1/models는 100만 토큰당 단가를 미국 달러(USD) 단위로 반환합니다.
"pricing": {
"input_per_mtok": "…",
"output_per_mtok": "…",
"cache_read_per_mtok": "…",
"cache_write_per_mtok": "…"
}모델 이용 요금은 일반 입력·캐시 읽기·캐시 쓰기·출력 토큰 수에 각각 해당 단가를 적용해 계산합니다. 캐시를 사용하지 않은 요청은 입력 토큰 비용과 출력 토큰 비용을 합산합니다.
오류 상태 코드로 응답한 요청에는 요금을 부과하지 않습니다. 정상적으로 시작된 스트림은 중단되더라도 사용량이 기록될 수 있습니다. 이번 프리뷰에서는 모델 이용 요금이 0원이므로 이 경우에도 요금이 발생하지 않습니다.