역할·말투·회사 정책처럼 매번 같은 배경지식이 필요하면 챗봇 구축, 에이전트 구축 가이드를 함께 보세요.
대화를 이어 가는 순서
단계
할 일
1
앱에 사용자별 대화 기록(빈 목록)을 만듭니다.
2
기록 끝에 새 user 메시지를 붙여 전체를 messages[0]부터 순서대로 보냅니다.
3
응답의 data.compacted_messages로 기록을 통째로 바꿉니다. 이번 답변은 이미 끝에 붙어 있습니다.
4
다음 질문에서 2~3단계를 반복합니다.
받은 답변(data.message)을 기록에 직접 붙이지 마세요. compact로 앞부분이 줄었을 때 앱의 기록과 실제로 보낸 기록이 어긋납니다. compacted_messages 맨 앞에는 system 메시지가 들어 있으니 그대로 다시 보내면 됩니다.
긴 대화 비용 줄이기
대화가 길어질수록 매번 보내는 기록이 커져 입력 토큰과 비용이 늘어납니다. compact[strategy]로 모델에 보낼 범위를 줄이세요.
값
모델에 보내는 범위
compacted_messages에 남는 범위
추천 상황
none
보낸 기록 전체
보낸 기록 전체 + 이번 답변
짧은 대화
sliding_window
system 메시지 + 최근 window_pairs쌍
모델에 보낸 범위 + 이번 답변
최근 대화만 중요할 때
relevance
system + 최근 2쌍 + 지금 질문에 필요한 이전 쌍(합계 window_pairs쌍 이내)
system + 최근 50쌍 + 이번 답변
앞에서 말한 이름·조건·숫자를 다시 묻는 긴 상담
window_pairs는 최근 2~3턴만 중요하면 5, 일반 대화는 10, 긴 상담·튜터링은 20을 권장합니다. 클수록 맥락을 많이 기억하지만 입력 토큰이 늘어납니다. 사용량은 응답의 data.usage.prompt_tokens로 확인하세요.
자주 묻는 질문
질문
답
새로고침해도 대화를 유지하려면?
앱의 저장소(브라우저 저장소나 앱 DB)에 compacted_messages를 저장해 두고 다음 요청에 보냅니다.
여러 사용자를 동시에 응대하려면?
사용자마다 기록을 따로 보관합니다. 한 사용자의 기록을 다른 사용자 요청에 섞지 마세요.
대화가 아주 길어지면?
앞부분을 대화 API로 따로 요약한 뒤, 요약문을 system 메시지로 넣고 오래된 메시지를 빼서 보냅니다.
요청이 실패하면 기록은?
실패한 요청의 user 메시지는 기록에 반영하지 말고, 이전 compacted_messages에 다시 붙여 보냅니다. 400·402는 입력이나 잔액을 고친 뒤, 502는 data.retryable이 true일 때 한 번만 다시 보냅니다.
같은 질문에 항상 같은 답을 받으려면?
temperature를 0.1~0.2로 낮춥니다. 그래도 완전히 같은 답은 보장되지 않습니다.
요청과 응답
API 요청
POST/rest/llm/chat
Bearer 인증
multipart/form-data
JSON · SSE 응답
요청 파라미터 26개 · 필수 1
파라미터
설명
modelstring필수
모델 id (llm_models Tool로 조회 가능, 예: openai/gpt-oss-120b)
예시
모델_목록에서_선택한_ID
messages[0][role]string조건부
각 메시지의 작성자. messages를 사용하면 각 항목에 필요합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. 가능한 값은 3가지입니다. system = 대화의 규칙·역할을 지정하는 시스템 메시지입니다. 사용자 메시지보다 먼저 적용됩니다. user = 사용자가 보낸 질문·지시 메시지입니다. assistant = 모델이 이전에 답한 메시지입니다. 대화 맥락을 이어 갈 때 넣습니다.
허용값
systemuserassistant
예시
user
messages[0][content]string조건부
각 메시지의 본문. 0부터 연속된 인덱스로 대화 순서를 전달합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
예시
내 이름은 홍길동이야.
messages[1][role]string조건부
두 번째 메시지 역할. 보통 모델의 이전 답변인 assistant. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
예시
assistant
messages[1][content]string조건부
두 번째 메시지 내용. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
예시
반가워요, 홍길동님.
messages[2][role]string조건부
세 번째 메시지 역할. 이어지는 메시지는 번호를 1씩 늘립니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
예시
user
messages[2][content]string조건부
세 번째 메시지 내용. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
예시
내 이름 기억해?
compact[strategy]string선택
대화 유지 방식. none은 전체 유지, sliding_window는 최근 대화쌍을 유지, relevance는 최근 대화쌍과 마지막 질문에 필요한 이전 대화쌍만 모델에 보냅니다. 가능한 값은 3가지입니다. none = 해당 옵션을 적용하지 않는 값입니다. 생략했을 때의 기본 동작과 같습니다. sliding_window = 최근 대화쌍만 유지하는 압축 방식입니다. 오래된 대화는 모델에 전달되지 않습니다. relevance = 검색어와의 관련도가 높은 순서로 정렬하는 값입니다. 기본 정렬로 가장 많이 쓰입니다.
허용값
nonesliding_windowrelevance
기본값
none
compact[window_pairs]integer선택
sliding_window·relevance에서 모델에 보낼 대화쌍 수. 최소 1, 기본 10입니다.
기본값
10
최솟값
1
messagesarray선택
OpenAI 형식 [{role, content}] 배열. role 은 'system'|'user'|'assistant'. content 와 둘 중 하나는 필수, 동시 지정 시 messages 우선. 멀티턴 대화는 응답의 compacted_messages 를 다음 턴에 그대로 전송
contentstring선택
단발 입력 — 사용자 메시지 한 건만 보내는 간편 형태. messages 와 둘 중 하나는 필수
systemstring선택
system 프롬프트 (역할·페르소나·정책·배경지식). 미지정 시 기본 한국어 어시스턴트 프롬프트가 적용됩니다
compactobject선택
히스토리 압축 옵션 { strategy: 'none'(기본) | 'sliding_window' | 'relevance', window_pairs: 유지할 user/assistant 페어 수 (기본 10, 최소 1) }. relevance 는 최근 대화와 함께 최신 질문에 필요한 이전 대화를 골라 남긴다. 긴 대화의 input 토큰 누적 방지
temperaturenumber선택
출력 다양성 0.0~2.0. 낮을수록 재현성, 높을수록 창의성 (미지정 시 모델 기본값)
max_tokensinteger선택
응답 최대 토큰. 미지정 시 모델 컨텍스트 기반 안전 상한으로 자동 설정, 명시한 값은 클램프 없이 그대로 적용
speedstring선택
응답 속도/추론 깊이 — 'fast'(얕게, 빠름) | 'medium' | 'slow'(깊게, 느림). 한글 '빠름'|'중간'|'느림' 허용. 추론 특화 모델에서 효과가 큽니다
messages[0][name]string선택
메시지 작성자의 이름. 사용하는 모델의 지원 여부를 확인하세요. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
messages[0][content][0][type]string조건부
여러 종류의 콘텐츠를 담을 때 항목의 종류. 같은 메시지의 content 문자열과 함께 보낼 수 없습니다. 가능한 값은 3가지입니다. text = 텍스트 프롬프트만으로 결과를 만드는 값입니다. 이미지 입력 없이 문장 묘사만 사용합니다. image_url = 이미지 주소를 담은 콘텐츠 조각입니다. 텍스트와 함께 보낼 수 있습니다. input_audio = 음성 입력을 담은 콘텐츠 조각입니다. 지원 모델에서만 사용할 수 있습니다.
허용값
textimage_urlinput_audio
messages[0][content][0][text]string조건부
콘텐츠 항목이 text일 때 실제 텍스트입니다. 빈 문자열은 허용되지 않으며, 같은 메시지의 다른 콘텐츠와 순서대로 결합됩니다.
messages[0][content][0][image_url][url]string조건부
type=image_url일 때 이미지 URL 또는 data URL. 모델이 이미지 입력을 지원해야 합니다.
이미지 입력을 분석할 때 사용할 해상도 힌트입니다. auto는 모델 기본값, low는 빠르고 저렴, high는 작은 글자·세부 묘사에 유리합니다. 모델이 지원하지 않으면 무시됩니다. 가능한 값은 3가지입니다. auto = 서버·모델이 상황에 맞춰 자동으로 정하는 값입니다. 별도 지정이 필요 없습니다. low = 낮은 해상도·짧은 문맥처럼 비용과 속도를 우선하는 값입니다. high = 높은 해상도·긴 문맥처럼 정확도를 우선하는 값입니다. 토큰·처리 시간이 늘어납니다.
음성 입력 형식. 모델에서 지원하는 형식을 사용합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다.
message[role]string선택
단일 메시지 객체의 역할. content 대신 객체로 보낼 때 사용합니다. 가능한 값은 3가지입니다. system = 대화의 규칙·역할을 지정하는 시스템 메시지입니다. 사용자 메시지보다 먼저 적용됩니다. user = 사용자가 보낸 질문·지시 메시지입니다. assistant = 모델이 이전에 답한 메시지입니다. 대화 맥락을 이어 갈 때 넣습니다.
허용값
systemuserassistant
message[content]string선택
단일 메시지 방식에서 사용하는 본문입니다. 문자열 또는 콘텐츠 배열을 받으며, messages 배열과 동시에 보내지 마세요.
streamboolean선택
true이면 SSE 응답을 받습니다. false이면 완성된 JSON 응답을 받습니다. 생성된 내용을 정리한 뒤 전송하며 토큰별 전송을 보장하지 않습니다.
기본값
false
응답 필드 21개
응답 필드
설명
dataobject
요청 처리 결과 묶음입니다. 조회한 값·작업 상태·오류 설명이 이 안에 들어 있으며, 실제 하위 필드 구성은 서비스마다 다릅니다. 값이 없으면 null·빈 배열·필드 생략 중 해당 서비스의 규칙을 따릅니다.
data.modelstring
응답을 생성한 모델 ID입니다. 요청에서 지정한 모델과 같으며, 모델 목록 API의 id 값과 비교해 확인합니다.
data.messageobject
모델이 생성한 응답 메시지 묶음입니다. 작성자 역할과 답변 본문이 들어 있습니다.
data.usageobject
이번 응답의 토큰 사용량 묶음입니다. 입력·출력·합계 토큰 수가 들어 있으며 과금 계산의 기준이 됩니다.
data.compacted_messagesarray
문맥 압축으로 요약된 이전 메시지 목록입니다. 대화가 길어져 오래된 메시지를 압축했을 때 포함됩니다.
data.ic_idstring
이번 조회에 부여된 식별자입니다. 같은 요청의 결과를 추적하거나 문의할 때 사용하며, 값이 없으면 null입니다. null 허용.
data.resultinteger
조회 결과 본문입니다. 서비스가 찾은 실제 데이터가 들어 있으며, 자료가 없거나 조회에 실패하면 null이거나 필드가 생략됩니다.
data.msgstring
처리 결과를 사람이 읽을 수 있는 문장으로 설명합니다. 성공·실패 사유가 담기며, 오류 코드는 별도 필드에서 확인합니다.
data.successinteger
업무 처리 결과 코드입니다. 1은 정상 결과, 0은 실패 또는 무료 응답입니다. 서비스에 따라 2·3처럼 추가 코드를 쓰므로 같은 응답의 status·msg·error 필드도 함께 확인하세요.
apiobject
API 호출 메타데이터입니다. 이번 요청의 서버 처리 성공 여부(api.success), 실제 차감 포인트(api.cost), 결제 기록 ID(api.pl_id)를 담습니다. 처리 시간(api.ms)은 응답에 포함된 경우에만 제공됩니다. 업무 결과는 data에서 확인합니다.
api.successboolean
API 서버가 이번 요청을 정상 처리했는지 여부입니다. true여도 업무 결과가 실패일 수 있으므로 data.success·data.status와 함께 판단합니다. 인증 실패·잘못된 입력·서버 오류 응답에서는 false입니다.
api.costinteger
이번 호출에서 실제로 차감된 포인트입니다. 유료 성공 응답에서만 단가만큼 차감되며, 실패·무료 조회·같은 요청의 멱등 재전송은 0입니다. 화면의 표시 단가와 실제 차감액이 다를 수 있으므로 정산은 이 값을 기준으로 합니다.
api.msinteger
서버가 요청을 받아 응답 본문을 만들기까지 걸린 처리 시간(밀리초)입니다. 네트워크 왕복 시간과 클라이언트 대기 시간은 포함되지 않습니다.
api.pl_idinteger
포인트 차감 기록 ID입니다. 차감이 발생한 호출에만 값이 있으며, 과금 내역을 문의할 때 이 번호를 사용합니다. 무과금 응답은 -1·null이거나 필드가 생략됩니다.
하위 필드 7개 더 보기
응답 필드
설명
data.message.rolestring
메시지 작성자 역할입니다. 응답에서는 assistant입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요.
data.message.contentstring
모델이 생성한 답변 텍스트입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요.
data.usage.prompt_tokensinteger
입력(프롬프트)에 사용한 토큰 수입니다. 과금 계산의 입력 단가에 적용됩니다.
data.usage.completion_tokensinteger
출력(응답)에 사용한 토큰 수입니다. 과금 계산의 출력 단가에 적용됩니다.
data.usage.total_tokensinteger
입력과 출력 토큰을 합한 수입니다. 숫자로 오며, 단위·범위는 같은 응답의 다른 필드나 이 문서의 설명을 확인하세요.
data.compacted_messages[].rolestring
압축된 이전 메시지의 작성자 역할입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요.
data.compacted_messages[].contentstring
문맥 압축으로 요약된 이전 메시지 내용입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요.
입력 조건·전송 규칙
메시지는 오래된 것부터 messages[0], messages[1]… 순서로 번호를 붙입니다. 마지막 메시지가 이번에 묻는 user 메시지입니다.