추론 — Raon Docs

모델의 추론 내용을 확인하고 답변에 필요한 출력 토큰 수를 설정합니다.

raon-1-mini-preview는 답변을 생성하기 전에 추론합니다. 추론 내용은 API별로 다음 위치에 답변과 분리되어 반환됩니다.

API	추론 내용 위치
Chat Completions	`message.reasoning` (스트리밍에서는 `delta.reasoning`)
Responses	`output`의 `reasoning` 항목
Messages	`thinking` 콘텐츠 블록

추론과 max_tokens

추론 토큰도 최대 출력 토큰 수(max_tokens, max_completion_tokens, max_output_tokens)에 포함됩니다. 추론 중에 출력 한도에 도달하면 답변이 비어 있을 수 있습니다. 이 경우 API별로 다음 필드를 확인하세요.

API	출력 한도에 도달했을 때의 응답
Chat Completions	`finish_reason: "length"`
Messages	`stop_reason: "max_tokens"`
Responses	`status: "incomplete"`와 원인을 설명하는 `incomplete_details`

추론과 답변을 모두 생성할 수 있도록 출력 한도를 충분히 지정하세요.

Raon은 항상 답변 전에 추론하며, 추론을 비활성화할 수 없습니다. API는 호환성을 위해 chat_template_kwargs.enable_thinking을 허용하지만, false를 포함한 모든 값을 무시합니다.

추론은 비활성화할 수 없으며, 강도나 토큰 한도도 조절할 수 없습니다. 다음 파라미터는 오류 없이 허용되지만 결과에는 반영되지 않습니다.

API	허용되지만 반영되지 않는 파라미터
Chat Completions	`reasoning_effort`
Responses	`reasoning.effort`
Messages	`thinking` (`type: "disabled"`, `budget_tokens` 포함)