채팅 응답 생성
OpenAI 호환 채팅 응답을 생성합니다. Raon 서버에서 웹 검색을 실행할 수 있으며, 응답은 저장하지 않습니다. 스트리밍 응답에 사용량을 포함하려면 stream_options.include_usage를 true로 설정하세요.
bearerAuth인증Bearer <token>Raon API 키입니다. Authorization과 x-api-key 헤더를 모두 전송하면 Authorization: Bearer <key>의 값을 우선 사용합니다.
application/json- body
OpenAI 호환 채팅 요청입니다. 게이트웨이는 모델 서버의 추가 확장 필드를 그대로 전달하며, 해당 필드의 값을 검증하거나 동작을 보장하지 않습니다. 조직의 안전 지침 프롬프트가 설정되어 있으면 system 메시지의 내용 앞에 추가합니다.
model*string모델 목록에 표시되는 공개 모델 ID입니다.
1 <= lengthmessages*array<>stream?booleanJSON 응답 대신 서버 전송 이벤트(SSE)를 반환합니다.
falsestream_options?max_completion_tokens?integer추론과 답변을 합한 최대 출력 토큰 수입니다. max_tokens와 함께 지정하면 게이트웨이의 토큰 한도 계산에서는 이 값을 우선 적용합니다.
1 <= valuemax_tokens?integer사용 비권장최대 출력 토큰 수를 지정하는 기존 파라미터입니다. 새로 작성하는 Chat Completions 요청에는 max_completion_tokens 사용을 권장합니다.
1 <= valuetemperature?|샘플링 온도입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 temperature=1.0 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
0 <= value <= 2top_p?|누적 확률로 다음 토큰의 후보 범위를 제한하는 top-p 샘플링 값입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 top_p=0.95 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
0 <= value <= 1top_k?|다음 토큰을 선택할 때 고려하는 상위 후보 수입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 top_k=20 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
min_p?|확률이 가장 높은 토큰을 기준으로 한 후보 토큰의 최소 상대 확률입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 min_p=0 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
repetition_penalty?|토큰 반복에 적용하는 페널티입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 repetition_penalty=1.0 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
n?integer생성할 응답 후보 수입니다. 웹 검색을 사용할 때는 1보다 큰 값을 지정할 수 없습니다.
1 <= value1stop?|array<string>|생성을 중단할 문자열입니다. 문자열 하나 또는 문자열 배열로 지정합니다. 모델이 지정된 문자열을 생성하면 출력을 중단하며, 기본적으로 해당 문자열은 답변에 포함하지 않습니다.
frequency_penalty?|토큰의 등장 횟수에 따라 적용하는 페널티입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 frequency_penalty=0 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
-2 <= value <= 2presence_penalty?|이미 등장한 토큰에 적용하는 페널티입니다. Raon 모델은 요청값, null, 생략 여부와 관계없이 항상 presence_penalty=1.5 설정으로 생성합니다. 다른 제공자의 모델은 각 제공자의 파라미터 동작을 따릅니다.
-2 <= value <= 2seed?integer결과 재현에 사용하는 난수 시드입니다. 같은 입력과 생성 설정으로 결과를 비교할 때 사용합니다. 재현성은 모델 서버의 구현에 따라 다르므로, 같은 시드에서도 결과가 달라질 수 있습니다.
logprobs?boolean모델이 생성한 각 토큰의 로그 확률을 요청합니다. 토큰 선택 확률을 로그값으로 나타낸 수치로, 출력 결과를 분석할 때 사용할 수 있습니다.
top_logprobs?integer출력의 각 토큰 위치에서 함께 반환할 대체 후보 수입니다. logprobs와 함께 사용해 선택되지 않은 후보 토큰의 로그 확률도 확인할 수 있습니다.
0 <= value <= 20logit_bias?특정 토큰의 선택 가능성을 조절하는 값입니다. 키에는 모델 토크나이저의 토큰 ID를, 값에는 로짓 조정값을 지정합니다. 양수는 선택 가능성을 높이고 음수는 낮추며, 0은 영향을 주지 않습니다.
tools?array<>클라이언트에서 실행할 함수 목록입니다. web_search_options와 함께 사용할 때는 함수 이름으로 web_search를 지정할 수 없습니다.
tool_choice?|도구 사용 방식을 지정합니다. none은 도구를 사용하지 않고, auto는 사용 여부를 모델이 판단하도록 합니다. required는 하나 이상의 도구를 호출하도록 요청합니다. 특정 함수를 선택하려면 type이 function인 객체에 함수 이름을 지정하세요.
parallel_tool_calls?boolean한 번의 모델 응답에 여러 도구 호출이 포함될 수 있도록 허용합니다. 도구 실행은 클라이언트가 처리하며, 이 설정만으로 도구가 자동 실행되지는 않습니다.
response_format?||답변의 출력 형식을 지정합니다. text는 일반 텍스트, json_object는 JSON 객체, json_schema는 지정한 JSON Schema를 따르는 답변을 요청합니다. 추론 내용에는 이 형식을 적용하지 않습니다. 출력 한도 때문에 답변이 중간에 끊겼을 수 있으므로 종료 상태를 확인한 뒤 파싱하세요.
web_search_options?Raon 서버에서 웹 검색을 실행합니다. n은 1이어야 하며, 호출자가 정의한 함수에 web_search라는 이름을 사용할 수 없습니다. 검색 서비스가 꺼져 있거나 조직에서 허용하지 않으면 400 unsupported_tool을 반환합니다.
store?boolean요청에 포함할 수 있지만 항상 false로 변경합니다. Raon은 저장된 채팅 응답을 조회하는 기능을 제공하지 않습니다.
falsemetadata?호출자가 지정한 메타데이터를 모델 서버에 전달합니다. 이 필드로 응답 저장 기능을 활성화할 수는 없습니다.
user?string모델 서버에 그대로 전달할 호출자 식별자입니다.
reasoning_effort?string호환성을 위해 허용하지만 Raon은 이 값을 무시합니다. 추론은 항상 활성화되며 강도를 설정할 수 없습니다.
"none""minimal""low""medium""high""xhigh"chat_template_kwargs?모델 서버의 템플릿 설정입니다. Raon은 세 추론 API 모두에서 추론을 항상 활성화합니다.
생성 결과를 JSON으로 반환합니다. stream이 true이면 서버 전송 이벤트(SSE)로 반환합니다. 응답에는 모델 서버의 추가 필드가 포함될 수 있습니다.
- response
일반 응답은 모델 서버가 반환한 내용을 그대로 전달합니다. Raon 서버에서 웹 검색을 실행하면 사용량은 마지막 내부 모델 호출 기준으로 보고됩니다. 그 호출에는 대화 전체와 모든 검색 결과가 이미 담겨 있으며, 답변에 URL 출처를 붙일 수 있습니다.
id*stringobject*stringcreated*integer초 단위 Unix 타임스탬프입니다.
model*string모델 서버가 반환한 모델 ID이며, 게이트웨이는 이 값을 그대로 전달합니다. 요청에 지정한 공개 모델 ID와 다를 수 있습니다. 다음 요청에는 GET /v1/models에서 조회한 ID를 사용하세요.
1 <= lengthchoices*array<>usage?system_fingerprint?string|nullcurl -X POST 'https://raon-api.krafton.ai/v1/chat/completions' \ -H 'Content-Type: application/json' \ -d '{ "model": "raon-1-mini", "messages": [ { "role": "user", "content": "Explain why the sky is blue." } ], "max_completion_tokens": 1024}'{ "id": "string", "object": "chat.completion", "created": 0, "model": "raon", "choices": [ { "index": 0, "message": { "role": "assistant", "content": "string", "reasoning": "string", "tool_calls": [ { "id": "string", "type": "function", "function": { "name": "string", "arguments": "string" } } ], "refusal": "string", "annotations": [ { "type": "url_citation", "url_citation": { "start_index": 0, "end_index": 0, "title": "string", "url": "string" } } ] }, "finish_reason": "stop", "logprobs": {} } ], "usage": { "prompt_tokens": 0, "completion_tokens": 0, "total_tokens": 0, "prompt_tokens_details": { "cached_tokens": 0 }, "completion_tokens_details": { "reasoning_tokens": 0 } }, "system_fingerprint": "string"}
