# LLM 멀티챗 가이드 이전 대화를 이어 가며 질문하는 방법입니다. 대화 기록은 저장되지 않으므로, 앱이 기록을 보관하고 매 요청에 messages로 함께 보냅니다. 인증: Authorization: Bearer $APICK_API_KEY 본문 있는 REST 요청: multipart/form-data. GET 본문 및 MCP JSON-RPC 규격은 해당 명세를 따릅니다. 인증키는 서버에 보관하세요. 모든 예제는 정적 자료입니다. ## POST /rest/llm/chat 응답 필드 - `data` (object): 요청 처리 결과 묶음입니다. 조회한 값·작업 상태·오류 설명이 이 안에 들어 있으며, 실제 하위 필드 구성은 서비스마다 다릅니다. 값이 없으면 null·빈 배열·필드 생략 중 해당 서비스의 규칙을 따릅니다. - `data.model` (string): 응답을 생성한 모델 ID입니다. 요청에서 지정한 모델과 같으며, 모델 목록 API의 id 값과 비교해 확인합니다. - `data.message` (object): 모델이 생성한 응답 메시지 묶음입니다. 작성자 역할과 답변 본문이 들어 있습니다. - `data.message.role` (string): 메시지 작성자 역할입니다. 응답에서는 assistant입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요. - `data.message.content` (string): 모델이 생성한 답변 텍스트입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요. - `data.usage` (object): 이번 응답의 토큰 사용량 묶음입니다. 입력·출력·합계 토큰 수가 들어 있으며 과금 계산의 기준이 됩니다. - `data.usage.prompt_tokens` (integer): 입력(프롬프트)에 사용한 토큰 수입니다. 과금 계산의 입력 단가에 적용됩니다. - `data.usage.completion_tokens` (integer): 출력(응답)에 사용한 토큰 수입니다. 과금 계산의 출력 단가에 적용됩니다. - `data.usage.total_tokens` (integer): 입력과 출력 토큰을 합한 수입니다. 숫자로 오며, 단위·범위는 같은 응답의 다른 필드나 이 문서의 설명을 확인하세요. - `data.compacted_messages` (array): 문맥 압축으로 요약된 이전 메시지 목록입니다. 대화가 길어져 오래된 메시지를 압축했을 때 포함됩니다. - `data.compacted_messages[].role` (string): 압축된 이전 메시지의 작성자 역할입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요. - `data.compacted_messages[].content` (string): 문맥 압축으로 요약된 이전 메시지 내용입니다. 문자열로 오며, 값이 없으면 빈 문자열이거나 필드가 생략됩니다. 같은 응답의 다른 필드와 함께 해석하세요. - `data.ic_id` (undefined): 이번 조회에 부여된 식별자입니다. 같은 요청의 결과를 추적하거나 문의할 때 사용하며, 값이 없으면 null입니다. null 허용. - `data.result` (integer): 조회 결과 본문입니다. 서비스가 찾은 실제 데이터가 들어 있으며, 자료가 없거나 조회에 실패하면 null이거나 필드가 생략됩니다. - `data.msg` (string): 처리 결과를 사람이 읽을 수 있는 문장으로 설명합니다. 성공·실패 사유가 담기며, 오류 코드는 별도 필드에서 확인합니다. - `data.success` (integer): 업무 처리 결과 코드입니다. 1은 정상 결과, 0은 실패 또는 무료 응답입니다. 서비스에 따라 2·3처럼 추가 코드를 쓰므로 같은 응답의 status·msg·error 필드도 함께 확인하세요. - `api` (object): API 호출 메타데이터입니다. 이번 요청의 서버 처리 성공 여부(api.success), 실제 차감 포인트(api.cost), 결제 기록 ID(api.pl_id)를 담습니다. 처리 시간(api.ms)은 응답에 포함된 경우에만 제공됩니다. 업무 결과는 data에서 확인합니다. - `api.success` (boolean): API 서버가 이번 요청을 정상 처리했는지 여부입니다. true여도 업무 결과가 실패일 수 있으므로 data.success·data.status와 함께 판단합니다. 인증 실패·잘못된 입력·서버 오류 응답에서는 false입니다. - `api.cost` (integer): 이번 호출에서 실제로 차감된 포인트입니다. 유료 성공 응답에서만 단가만큼 차감되며, 실패·무료 조회·같은 요청의 멱등 재전송은 0입니다. 화면의 표시 단가와 실제 차감액이 다를 수 있으므로 정산은 이 값을 기준으로 합니다. - `api.ms` (integer): 서버가 요청을 받아 응답 본문을 만들기까지 걸린 처리 시간(밀리초)입니다. 네트워크 왕복 시간과 클라이언트 대기 시간은 포함되지 않습니다. - `api.pl_id` (integer): 포인트 차감 기록 ID입니다. 차감이 발생한 호출에만 값이 있으며, 과금 내역을 문의할 때 이 번호를 사용합니다. 무과금 응답은 -1·null이거나 필드가 생략됩니다. ## API 요청: POST /rest/llm/chat ### 입력 - `model` (string, 필수): 모델 id (llm_models Tool로 조회 가능, 예: openai/gpt-oss-120b) - `messages[0][role]` (string, 조건부): 각 메시지의 작성자. messages를 사용하면 각 항목에 필요합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. 가능한 값은 3가지입니다. system = 대화의 규칙·역할을 지정하는 시스템 메시지입니다. 사용자 메시지보다 먼저 적용됩니다. user = 사용자가 보낸 질문·지시 메시지입니다. assistant = 모델이 이전에 답한 메시지입니다. 대화 맥락을 이어 갈 때 넣습니다. 허용값: system, user, assistant - `messages[0][content]` (string, 조건부): 각 메시지의 본문. 0부터 연속된 인덱스로 대화 순서를 전달합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `messages[1][role]` (string, 조건부): 두 번째 메시지 역할. 보통 모델의 이전 답변인 assistant. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `messages[1][content]` (string, 조건부): 두 번째 메시지 내용. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `messages[2][role]` (string, 조건부): 세 번째 메시지 역할. 이어지는 메시지는 번호를 1씩 늘립니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `messages[2][content]` (string, 조건부): 세 번째 메시지 내용. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `compact[strategy]` (string, 선택): 대화 유지 방식. none은 전체 유지, sliding_window는 최근 대화쌍을 유지, relevance는 최근 대화쌍과 마지막 질문에 필요한 이전 대화쌍만 모델에 보냅니다. 가능한 값은 3가지입니다. none = 해당 옵션을 적용하지 않는 값입니다. 생략했을 때의 기본 동작과 같습니다. sliding_window = 최근 대화쌍만 유지하는 압축 방식입니다. 오래된 대화는 모델에 전달되지 않습니다. relevance = 검색어와의 관련도가 높은 순서로 정렬하는 값입니다. 기본 정렬로 가장 많이 쓰입니다. 기본값: none 허용값: none, sliding_window, relevance - `compact[window_pairs]` (integer, 선택): sliding_window·relevance에서 모델에 보낼 대화쌍 수. 최소 1, 기본 10입니다. 기본값: 10 - `messages` (array, 선택): OpenAI 형식 [{role, content}] 배열. role 은 'system'|'user'|'assistant'. content 와 둘 중 하나는 필수, 동시 지정 시 messages 우선. 멀티턴 대화는 응답의 compacted_messages 를 다음 턴에 그대로 전송 - `content` (string, 선택): 단발 입력 — 사용자 메시지 한 건만 보내는 간편 형태. messages 와 둘 중 하나는 필수 - `system` (string, 선택): system 프롬프트 (역할·페르소나·정책·배경지식). 미지정 시 기본 한국어 어시스턴트 프롬프트가 적용됩니다 - `compact` (object, 선택): 히스토리 압축 옵션 { strategy: 'none'(기본) | 'sliding_window' | 'relevance', window_pairs: 유지할 user/assistant 페어 수 (기본 10, 최소 1) }. relevance 는 최근 대화와 함께 최신 질문에 필요한 이전 대화를 골라 남긴다. 긴 대화의 input 토큰 누적 방지 - `temperature` (number, 선택): 출력 다양성 0.0~2.0. 낮을수록 재현성, 높을수록 창의성 (미지정 시 모델 기본값) - `max_tokens` (integer, 선택): 응답 최대 토큰. 미지정 시 모델 컨텍스트 기반 안전 상한으로 자동 설정, 명시한 값은 클램프 없이 그대로 적용 - `speed` (string, 선택): 응답 속도/추론 깊이 — 'fast'(얕게, 빠름) | 'medium' | 'slow'(깊게, 느림). 한글 '빠름'|'중간'|'느림' 허용. 추론 특화 모델에서 효과가 큽니다 - `messages[0][name]` (string, 선택): 메시지 작성자의 이름. 사용하는 모델의 지원 여부를 확인하세요. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `messages[0][content][0][type]` (string, 조건부): 여러 종류의 콘텐츠를 담을 때 항목의 종류. 같은 메시지의 content 문자열과 함께 보낼 수 없습니다. 가능한 값은 3가지입니다. text = 텍스트 프롬프트만으로 결과를 만드는 값입니다. 이미지 입력 없이 문장 묘사만 사용합니다. image_url = 이미지 주소를 담은 콘텐츠 조각입니다. 텍스트와 함께 보낼 수 있습니다. input_audio = 음성 입력을 담은 콘텐츠 조각입니다. 지원 모델에서만 사용할 수 있습니다. 허용값: text, image_url, input_audio - `messages[0][content][0][text]` (string, 조건부): 콘텐츠 항목이 text일 때 실제 텍스트입니다. 빈 문자열은 허용되지 않으며, 같은 메시지의 다른 콘텐츠와 순서대로 결합됩니다. - `messages[0][content][0][image_url][url]` (string, 조건부): type=image_url일 때 이미지 URL 또는 data URL. 모델이 이미지 입력을 지원해야 합니다. - `messages[0][content][0][image_url][detail]` (string, 선택): 이미지 입력을 분석할 때 사용할 해상도 힌트입니다. auto는 모델 기본값, low는 빠르고 저렴, high는 작은 글자·세부 묘사에 유리합니다. 모델이 지원하지 않으면 무시됩니다. 가능한 값은 3가지입니다. auto = 서버·모델이 상황에 맞춰 자동으로 정하는 값입니다. 별도 지정이 필요 없습니다. low = 낮은 해상도·짧은 문맥처럼 비용과 속도를 우선하는 값입니다. high = 높은 해상도·긴 문맥처럼 정확도를 우선하는 값입니다. 토큰·처리 시간이 늘어납니다. 허용값: auto, low, high - `messages[0][content][0][input_audio][data]` (string, 조건부): type=input_audio일 때 음성 Base64 값. 음성 입력 지원 모델에서만 사용합니다. - `messages[0][content][0][input_audio][format]` (string, 조건부): 음성 입력 형식. 모델에서 지원하는 형식을 사용합니다. 문자열로 보내며, 생략하면 서버 기본값이 적용되거나 해당 조건이 해제됩니다. - `message[role]` (string, 선택): 단일 메시지 객체의 역할. content 대신 객체로 보낼 때 사용합니다. 가능한 값은 3가지입니다. system = 대화의 규칙·역할을 지정하는 시스템 메시지입니다. 사용자 메시지보다 먼저 적용됩니다. user = 사용자가 보낸 질문·지시 메시지입니다. assistant = 모델이 이전에 답한 메시지입니다. 대화 맥락을 이어 갈 때 넣습니다. 허용값: system, user, assistant - `message[content]` (string, 선택): 단일 메시지 방식에서 사용하는 본문입니다. 문자열 또는 콘텐츠 배열을 받으며, messages 배열과 동시에 보내지 마세요. - `stream` (boolean, 선택): true이면 SSE 응답을 받습니다. false이면 완성된 JSON 응답을 받습니다. 생성된 내용을 정리한 뒤 전송하며 토큰별 전송을 보장하지 않습니다. 기본값: false ### 응답 명세 ```json { "type": "object", "properties": { "data": { "type": "object", "properties": { "model": { "type": "string" }, "message": { "type": "object", "properties": { "role": { "type": "string" }, "content": { "type": "string" } } }, "usage": { "type": "object", "properties": { "prompt_tokens": { "type": "integer" }, "completion_tokens": { "type": "integer" }, "total_tokens": { "type": "integer" } } }, "compacted_messages": { "type": "array", "items": { "type": "object", "properties": { "role": { "type": "string" }, "content": { "type": "string" } } } }, "ic_id": { "nullable": true }, "result": { "type": "integer" }, "msg": { "type": "string" }, "success": { "type": "integer" } } }, "api": { "type": "object", "properties": { "success": { "type": "boolean" }, "cost": { "type": "integer" }, "ms": { "type": "integer" }, "pl_id": { "type": "integer" } } } } } ``` ### 정적 응답 예시 ```json { "data": { "model": "meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo", "message": { "role": "assistant", "content": "네, 홍길동님이라고 하셨어요." }, "usage": { "prompt_tokens": 98, "completion_tokens": 12, "total_tokens": 110 }, "compacted_messages": [ { "role": "system", "content": "당신은 한국어 AI 어시스턴트입니다. 모든 답변은 한국어로 작성합니다. 사용자가 명시적으로 다른 언어를 요청한 경우에만 해당 언어로 응답합니다. 답변은 명확하고 간결하게, 필요한 경우 Markdown 서식(목록·코드 블록·굵은 글씨)을 활용합니다." }, { "role": "user", "content": "내 이름은 홍길동이야." }, { "role": "assistant", "content": "반가워요, 홍길동님." }, { "role": "user", "content": "내 이름 기억해?" }, { "role": "assistant", "content": "네, 홍길동님이라고 하셨어요." } ], "ic_id": null, "result": 1, "msg": "", "success": 1 }, "api": { "success": true, "cost": 5, "ms": 702, "pl_id": 12345 } } ``` ### curl ```curl curl --fail-with-body --request POST 'https://apick.app/rest/llm/chat' \ --header "Authorization: Bearer $APICK_API_KEY" \ --form-string "model=${APICK_MODEL}" \ --form-string 'messages[0][role]=user' \ --form-string 'messages[0][content]=내 이름은 홍길동이야.' \ --form-string 'messages[1][role]=assistant' \ --form-string 'messages[1][content]=반가워요, 홍길동님.' \ --form-string 'messages[2][role]=user' \ --form-string 'messages[2][content]=내 이름 기억해?' ``` ### Node.js (서버 ESM) ```javascript const form = new FormData(); form.append("model", process.env.APICK_MODEL); form.append("messages[0][role]", "user"); form.append("messages[0][content]", "내 이름은 홍길동이야."); form.append("messages[1][role]", "assistant"); form.append("messages[1][content]", "반가워요, 홍길동님."); form.append("messages[2][role]", "user"); form.append("messages[2][content]", "내 이름 기억해?"); const response = await fetch("https://apick.app/rest/llm/chat", { method: "POST", headers: { Authorization: "Bearer " + process.env.APICK_API_KEY }, body: form, signal: AbortSignal.timeout(120_000), }); if (!response.ok) throw new Error(`HTTP ${response.status}: ${await response.text()}`); const result = await response.json(); console.log(result); ``` ### python ```python import os import requests parts = [ ("model", (None, os.environ["APICK_MODEL"])), ("messages[0][role]", (None, "user")), ("messages[0][content]", (None, "내 이름은 홍길동이야.")), ("messages[1][role]", (None, "assistant")), ("messages[1][content]", (None, "반가워요, 홍길동님.")), ("messages[2][role]", (None, "user")), ("messages[2][content]", (None, "내 이름 기억해?")), ] response = requests.request("POST", "https://apick.app/rest/llm/chat", headers={"Authorization": "Bearer " + os.environ["APICK_API_KEY"]}, files=parts, timeout=(10, 120)) response.raise_for_status() result = response.json() print(result) ``` ### php ```php getenv('APICK_MODEL'), 'messages[0][role]' => 'user', 'messages[0][content]' => '내 이름은 홍길동이야.', 'messages[1][role]' => 'assistant', 'messages[1][content]' => '반가워요, 홍길동님.', 'messages[2][role]' => 'user', 'messages[2][content]' => '내 이름 기억해?', ]; $curl = curl_init('https://apick.app/rest/llm/chat'); curl_setopt_array($curl, [ CURLOPT_CUSTOMREQUEST => 'POST', CURLOPT_HTTPHEADER => $headers, CURLOPT_POSTFIELDS => $form, CURLOPT_RETURNTRANSFER => true, CURLOPT_CONNECTTIMEOUT => 10, CURLOPT_TIMEOUT => 120, ]); $body = curl_exec($curl); if ($body === false) { throw new RuntimeException(curl_error($curl)); } $status = curl_getinfo($curl, CURLINFO_HTTP_CODE); curl_close($curl); if ($status >= 400) { throw new RuntimeException($body); } $result = json_decode($body, true, 512, JSON_THROW_ON_ERROR); print_r($result); ``` ## 사용 예시 1. 세 번째 메시지로 이어 묻기 앞선 질문·답변 뒤에 새 질문을 붙여 보냅니다. ```bash curl --fail-with-body --request POST 'https://apick.app/rest/llm/chat' \ --header "Authorization: Bearer $APICK_API_KEY" \ --form-string 'messages[0][role]=user' \ --form-string 'messages[0][content]=내 이름은 홍길동이야.' \ --form-string 'messages[1][role]=assistant' \ --form-string 'messages[1][content]=반가워요, 홍길동님.' \ --form-string 'messages[2][role]=user' \ --form-string 'messages[2][content]=내 이름 기억해?' \ --form-string 'model=meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo' ``` - `data.compacted_messages`로 앱의 기록을 통째로 바꿉니다. 이번 답변이 끝에 붙어 있습니다. - 기록 맨 앞의 `system` 메시지도 다음 요청에 그대로 보냅니다. ## 사용 예시 2. 최근 대화만 보내 비용 줄이기 최근 몇 턴만 중요하면 `sliding_window`로 최근 5쌍만 모델에 보냅니다. ```bash curl --fail-with-body --request POST 'https://apick.app/rest/llm/chat' \ --header "Authorization: Bearer $APICK_API_KEY" \ --form-string 'messages[0][role]=user' \ --form-string 'messages[0][content]=내 이름은 홍길동이야.' \ --form-string 'messages[1][role]=assistant' \ --form-string 'messages[1][content]=반가워요, 홍길동님.' \ --form-string 'messages[2][role]=user' \ --form-string 'messages[2][content]=내 이름 기억해?' \ --form-string 'model=meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo' \ --form-string 'compact[strategy]=sliding_window' \ --form-string 'compact[window_pairs]=5' ``` - `data.usage.prompt_tokens`가 줄었는지 확인합니다. - `data.compacted_messages`도 최근 5쌍으로 줄어 있으니 그대로 다음 요청에 씁니다. ## 사용 예시 3. 앞에서 말한 내용을 다시 찾는 긴 상담 이름·조건·숫자처럼 오래전에 말한 내용을 다시 물을 수 있는 대화는 `relevance`를 씁니다. ```bash curl --fail-with-body --request POST 'https://apick.app/rest/llm/chat' \ --header "Authorization: Bearer $APICK_API_KEY" \ --form-string 'messages[0][role]=user' \ --form-string 'messages[0][content]=내 이름은 홍길동이야.' \ --form-string 'messages[1][role]=assistant' \ --form-string 'messages[1][content]=반가워요, 홍길동님.' \ --form-string 'messages[2][role]=user' \ --form-string 'messages[2][content]=내 이름 기억해?' \ --form-string 'model=meta-llama/Llama-3.3-70B-Instruct-Turbo' \ --form-string 'compact[strategy]=relevance' \ --form-string 'compact[window_pairs]=4' ``` - 모델에는 최근 2쌍과 지금 질문에 필요한 이전 쌍만 보냅니다. - `data.compacted_messages`에는 최근 50쌍까지 남으니 그대로 다음 요청에 보냅니다. ## 사용 예시 4. 첫 메시지에 지시문 넣기 `system` 메시지를 `messages[0]`에 직접 넣어 대화 전체의 말투를 정합니다. ```bash curl --fail-with-body --request POST 'https://apick.app/rest/llm/chat' \ --header "Authorization: Bearer $APICK_API_KEY" \ --form-string 'model=meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo' \ --form-string 'messages[0][role]=system' \ --form-string 'messages[0][content]=당신은 존댓말로 짧게 답하는 영어 회화 선생님입니다.' \ --form-string 'messages[1][role]=user' \ --form-string 'messages[1][content]="오랜만이야"를 영어로 어떻게 말해?' ``` - `data.compacted_messages[0]`에 보낸 `system` 메시지가 그대로 남아 있는지 확인합니다. ## 코드·오류 ## 상세 기능·요금 이런 상황에 사용하세요 상황이전 대화가 필요한 이유 코드 설명 → 수정 요청 → 다시 설명앞에서 보여 준 코드와 피드백을 알아야 합니다. 번역 후 "좀 더 공손하게" 같은 수정원문과 첫 번역이 맥락입니다. 여행·운동·학습 계획 세우기앞에서 고른 조건을 반영해 다음을 제안합니다. 문서 하나를 두고 여러 번 질문첫 메시지에 넣은 문서를 계속 참고합니다. 역할·말투·회사 정책처럼 매번 같은 배경지식이 필요하면 챗봇 구축, 에이전트 구축 가이드를 함께 보세요. 대화를 이어 가는 순서 단계할 일 1앱에 사용자별 대화 기록(빈 목록)을 만듭니다. 2기록 끝에 새 user 메시지를 붙여 전체를 messages[0]부터 순서대로 보냅니다. 3응답의 data.compacted_messages로 기록을 통째로 바꿉니다. 이번 답변은 이미 끝에 붙어 있습니다. 4다음 질문에서 2~3단계를 반복합니다. 받은 답변(data.message)을 기록에 직접 붙이지 마세요. compact로 앞부분이 줄었을 때 앱의 기록과 실제로 보낸 기록이 어긋납니다. compacted_messages 맨 앞에는 system 메시지가 들어 있으니 그대로 다시 보내면 됩니다. 긴 대화 비용 줄이기 대화가 길어질수록 매번 보내는 기록이 커져 입력 토큰과 비용이 늘어납니다. compact[strategy]로 모델에 보낼 범위를 줄이세요. 값모델에 보내는 범위compacted_messages에 남는 범위추천 상황 none보낸 기록 전체보낸 기록 전체 + 이번 답변짧은 대화 sliding_windowsystem 메시지 + 최근 window_pairs쌍모델에 보낸 범위 + 이번 답변최근 대화만 중요할 때 relevancesystem + 최근 2쌍 + 지금 질문에 필요한 이전 쌍(합계 window_pairs쌍 이내)system + 최근 50쌍 + 이번 답변앞에서 말한 이름·조건·숫자를 다시 묻는 긴 상담 window_pairs는 최근 2~3턴만 중요하면 5, 일반 대화는 10, 긴 상담·튜터링은 20을 권장합니다. 클수록 맥락을 많이 기억하지만 입력 토큰이 늘어납니다. 사용량은 응답의 data.usage.prompt_tokens로 확인하세요. 자주 묻는 질문 질문답 새로고침해도 대화를 유지하려면? 앱의 저장소(브라우저 저장소나 앱 DB)에 compacted_messages를 저장해 두고 다음 요청에 보냅니다. 여러 사용자를 동시에 응대하려면? 사용자마다 기록을 따로 보관합니다. 한 사용자의 기록을 다른 사용자 요청에 섞지 마세요. 대화가 아주 길어지면? 앞부분을 대화 API로 따로 요약한 뒤, 요약문을 system 메시지로 넣고 오래된 메시지를 빼서 보냅니다. 요청이 실패하면 기록은? 실패한 요청의 user 메시지는 기록에 반영하지 말고, 이전 compacted_messages에 다시 붙여 보냅니다. 400·402는 입력이나 잔액을 고친 뒤, 502는 data.retryable이 true일 때 한 번만 다시 보냅니다. 같은 질문에 항상 같은 답을 받으려면? temperature를 0.1~0.2로 낮춥니다. 그래도 완전히 같은 답은 보장되지 않습니다. ## 상세 요청 MethodURL POST https://apick.app/rest/llm/chat 메시지는 오래된 것부터 messages[0], messages[1]… 순서로 번호를 붙입니다. 마지막 메시지가 이번에 묻는 user 메시지입니다. form-data 전체 예제 보기 system, temperature, max_tokens, speed 등 나머지 항목은 대화 API 레퍼런스와 같습니다. ## 상세 응답 { "data": { "model": "meta-llama/Meta-Llama-3.1-8B-Instruct-Turbo", "message": { "role": "assistant", "content": "네, 홍길동님이라고 하셨어요." }, "usage": { "prompt_tokens": 98, "completion_tokens": 12, "total_tokens": 110 }, "compacted_messages": [ { "role": "system", "content": "당신은 한국어 AI 어시스턴트입니다. 모든 답변은 한국어로 작성합니다. 사용자가 명시적으로 다른 언어를 요청한 경우에만 해당 언어로 응답합니다. 답변은 명확하고 간결하게, 필요한 경우 Markdown 서식(목록·코드 블록·굵은 글씨)을 활용합니다." }, { "role": "user", "content": "내 이름은 홍길동이야." }, { "role": "assistant", "content": "반가워요, 홍길동님." }, { "role": "user", "content": "내 이름 기억해?" }, { "role": "assistant", "content": "네, 홍길동님이라고 하셨어요." } ], "ic_id": null, "result": 1, "msg": "", "success": 1 }, "api": { "success": true, "cost": 5, "ms": 702, "pl_id": 12345 } } 다음 질문을 보낼 때는 위 compacted_messages 5개를 messages[0]~messages[4]로, 새 질문을 messages[5]로 보냅니다.