LLM

Qwen3.8-Max·Kimi K3·DeepSeek V4 API 이동

기존 API보다 토큰 단가는 낮아졌는데 재시도와 검수 시간이 늘어 월 청구액이 오히려 커지는 현상이 나타납니다.

가장 빠른 해법은 전면 이동이 아니라 이중 회귀 시험입니다. 실제 작업 성공률, 재시도 포함 유효 작업 비용, 인터페이스 호환성이 모두 기준을 넘을 때만 Qwen3.8-Max·Kimi K3·DeepSeek V4 API 이동을 시작해야 합니다. 되돌리기 어려운 시스템은 우선 보류하는 편이 안전합니다.

이 글은 기존 생산 API 교체를 검토하는 기술 책임자를 위한 내용입니다. 프로그래밍 보조, 긴 문서 처리, 여러 도구를 사용하는 에이전트를 운영하는 개발자와 공개 가중치 배포까지 비교하려는 팀도 활용할 수 있습니다.

마지막 업데이트: 2026년 8월 5일. 가격, 모델 식별자, 호환 프로토콜, 공개 가중치 상태는 같은 날짜에 확인한 공식 문서를 기준으로 했습니다. 공급자가 가격이나 모델 식별자를 바꾸면 비교 항목을 다시 기록해야 합니다.

먼저 실패 비용부터 계산합니다

단가만 보고 모델을 바꾸는 대표적인 실패는 다음과 같습니다.

기존 모델은 입력 토큰 단가가 더 높았지만 한 번에 정답을 만들었습니다. 새 모델은 입력 비용이 낮았으나 출력이 길어졌고, 잘못된 JSON 때문에 한 작업을 두 번 재시도했습니다. 도구 인자를 잘못 만들어 외부 호출이 실패했고, 마지막에는 개발자가 결과를 직접 수정했습니다. 결과적으로 토큰 청구액은 낮아졌지만 작업 하나를 완료하는 비용은 높아졌습니다.

실제 비교에서는 다음 항목을 하나의 작업 비용으로 묶어야 합니다.

  • 입력 토큰과 출력 토큰
  • 캐시 적중과 캐시 미적중
  • 사고 모드에서 추가된 출력
  • 실패 요청과 자동 재시도
  • 도구의 중복 호출
  • 잘못된 결과를 사람이 수정하는 시간
  • 시간 초과로 작업을 처음부터 다시 시작하는 비용

DeepSeek의 공식 가격 문서는 입력 캐시 적중, 입력 캐시 미적중, 출력 토큰을 별도로 청구한다고 설명합니다. Kimi K3도 입력과 출력을 나누어 계산하며, 문서 입력을 추출한 뒤 모델에 다시 전달하면 그 입력 토큰도 청구 대상이 될 수 있습니다. 따라서 단순히 입력 단가 하나만 비교하면 안 됩니다. DeepSeek 공식 가격 문서와 Kimi 공식 과금 안내를 함께 확인해야 합니다.

주의: 세 모델을 비교할 때는 같은 작업 묶음, 같은 출력 제한, 같은 재시도 정책을 사용해야 합니다. 한쪽만 캐시를 켜거나 다른 쪽만 사고 모드를 허용하면 가격 비교가 아니라 설정 비교가 됩니다.

모델별 우세보다 작업별 합격선을 정합니다

Qwen3.8-Max, Kimi K3, DeepSeek V4를 종합 점수 하나로 줄 세우면 실제 이동 판단에 필요한 정보가 사라집니다. 프로그래밍, 긴 문서, 에이전트는 실패 방식이 서로 다르기 때문입니다.

프로그래밍 보조

프로그래밍 보조에서는 코드가 그럴듯한지보다 저장소 안에서 끝까지 작업을 마치는지가 중요합니다.

  • 여러 파일을 동시에 수정하는가
  • 기존 테스트를 실행하고 실패 원인을 좁히는가
  • 요구하지 않은 파일을 변경하지 않는가
  • 오류가 발생했을 때 같은 명령을 반복하지 않는가
  • 변경 내용을 되돌릴 수 있는가

Qwen API 문서는 오픈에이아이 호환 방식과 별도 메시지 방식을 제공하지만, 지역에 따라 기본 주소와 지원 기능이 달라질 수 있다고 안내합니다. 모델 이름만 바꾸는 방식으로는 충분하지 않으므로 지역, 기본 주소, 추론 매개변수, 출력 형식을 함께 고정해야 합니다. 공식 API 방식 안내를 기준으로 적응 계층을 만드는 편이 안전합니다.

긴 문서와 지식 작업

긴 문서 작업은 문맥 길이보다 실제 보존율이 중요합니다. 문서 앞부분은 잘 요약하지만 끝부분의 조건을 놓치거나, 검색 결과와 원문을 섞어 답하는 문제가 생길 수 있습니다.

Kimi K3 공식 안내는 1M 토큰 문맥과 캐시 적중·미적중 구분을 설명합니다. DeepSeek V4도 공식 발표에서 1M 문맥을 지원한다고 밝히고 있습니다. 그러나 문맥 길이가 같다는 사실만으로 긴 문서 품질이 같다고 결론 내리면 안 됩니다. 문서의 첫 부분, 중간, 마지막 부분에서 각각 질문을 만들고 근거 누락과 잘못된 인용을 확인해야 합니다. Kimi K3 가격 및 문맥 안내와 DeepSeek V4 공식 발표를 참고할 수 있습니다.

도구를 사용하는 에이전트

에이전트에서는 한 번의 답변이 아니라 전체 호출 사슬을 봐야 합니다.

  • 올바른 도구를 선택하는가
  • 필수 인자를 빠짐없이 생성하는가
  • JSON 형식이 파서에서 통과하는가
  • 도구 결과를 정확한 호출 식별자와 함께 되돌려 받는가
  • 여러 도구를 병렬로 호출해도 상태가 꼬이지 않는가
  • 외부 도구 오류와 모델 오류를 구분하는가

Kimi의 공식 도구 호출 문서는 tool_calls와 도구 결과의 호출 식별자를 맞춰야 한다고 설명하며, function_call을 전제로 만든 구형 적응 코드는 그대로 유지되지 않을 수 있다고 안내합니다. 특정 도구 사용을 강제하는 설정이 필요한 경우에는 지원되는 선택 값이 기존 API와 다를 수 있습니다. Kimi 도구 호출 문서와 Kimi 이동 안내를 먼저 확인해야 합니다.

인터페이스 호환 뒤에 남는 작업을 분리합니다

호환 프로토콜은 첫 호출을 쉽게 만들 뿐입니다. 운영 코드에는 공급자별 차이를 숨기는 적응 계층이 필요합니다.

다음 필드를 모델별로 분리해 관리해야 합니다.

  • 모델 식별자와 버전 고정 방식
  • 기본 주소와 인증 키
  • 사고 모드 및 추론 강도
  • 최대 출력 길이
  • 구조화 출력 방식
  • 도구 선택 설정
  • 스트리밍 종료 처리
  • 오류 코드와 재시도 대상
  • 캐시 키와 캐시 만료 정책

Qwen 공식 문서는 지역별 기본 주소와 지원 모델이 달라질 수 있다고 안내합니다. DeepSeek V4는 오픈에이아이 형식과 앤스로픽 형식의 인터페이스를 함께 제공하지만, 구형 모델 이름의 종료 일정도 별도로 공지했습니다. 2026년 7월 24일 이후에는 기존 deepseek-chat과 deepseek-reasoner 식별자를 사용할 수 없다고 명시되어 있으므로, 모델 이름을 코드 곳곳에 직접 넣는 구조는 피해야 합니다. DeepSeek V4 인터페이스 변경 안내를 확인해야 합니다.

같은 부하에서 지연과 제한을 검증합니다

공개된 동시성 제한은 시험을 시작할 때 참고할 값이지, 운영 성공을 보장하는 값이 아닙니다. 피크 시간대의 동시 요청 수, 첫 토큰 지연, 전체 작업 완료 시간, 시간 초과율, 재시도 후 증폭된 요청 수를 같은 시간대에 기록해야 합니다.

DeepSeek 공식 문서에는 계정 단위 동시성 제한이 모델별로 다르며, 초과 요청은 HTTP 429가 될 수 있다고 적혀 있습니다. 공개된 예시에서는 V4 프로가 500, V4 플래시가 2500의 동시성 제한을 제시하지만, 실제 서비스의 처리 시간과 작업 크기는 별도로 검증해야 합니다. DeepSeek 공식 제한 안내

KuzCloud의 콘솔 환경에서 테스트 자원을 분리할 때도 API 청구와 실행 환경 비용을 따로 기록해야 합니다. 장시간 그림자 트래픽을 흘릴 계획이라면 테스트 자원의 자동 종료 시간과 접근 권한을 먼저 정하는 편이 좋습니다.

다음과 같은 기록이 없으면 전면 이동을 중단해야 합니다.

  • 피크 동시성에서의 첫 응답 지연
  • 전체 작업 완료까지 걸린 시간
  • 429, 5xx, 연결 종료 비율
  • 재시도 뒤 성공한 요청의 비율
  • 동일 작업이 모델 오류인지 도구 오류인지에 대한 분류
  • 주 라우터 장애 시 보조 라우터로 넘어가는 시간

경험: 공급자가 공개한 제한을 그대로 운영 한도로 사용하면 안 됩니다. 실제 작업은 한 번의 사용자 요청을 여러 모델 호출과 도구 호출로 확대하므로, 재시도까지 포함한 최대 호출량을 별도로 계산해야 합니다.

전환 전에 다섯 단계로 회귀 시험을 고정합니다

1단계: 실제 작업 표본을 나눕니다

프로그래밍, 긴 문서, 지식 질의, 에이전트 작업을 한 묶음으로 섞지 않습니다. 성공 기준과 실패 비용이 다르므로 작업 종류별로 별도 표본을 만듭니다.

2단계: 입력과 출력 조건을 고정합니다

시스템 지시, 사용자 입력, 문서, 도구 정의, 최대 출력 길이, 사고 모드, 캐시 조건을 저장합니다. 모델마다 조건이 달라지면 결과를 비교하지 않습니다.

3단계: 실패 위치를 기록합니다

모델이 잘못 답했는지, 적응 계층이 필드를 잘못 바꿨는지, 외부 도구가 실패했는지를 구분합니다. 이 구분이 없으면 모델을 바꿔도 해결되지 않는 오류를 모델 탓으로 돌리게 됩니다.

4단계: 그림자 트래픽을 보냅니다

사용자에게 새 모델 결과를 노출하지 않고 기존 API의 실제 요청 일부를 새 모델에도 전달합니다. 품질 비교가 필요한 경우 입력을 익명화하고, 저장 정책과 접근 권한을 먼저 정합니다.

5단계: 중단 조건과 책임자를 확정합니다

성공률 하락, 재시도 증가, 지연 급증, 오류 코드 변화, 비용 상승 중 하나라도 사전에 정한 기준을 넘으면 자동으로 기존 API로 돌아가야 합니다. 중단 조건을 판단할 담당자와 되돌리기 권한을 따로 지정해야 합니다.

체크리스트로 전환 유형을 고릅니다

  • [ ] 같은 실제 작업을 세 모델에 모두 실행했습니다.
  • [ ] 입력, 출력, 캐시, 사고 모드를 동일한 기준으로 기록했습니다.
  • [ ] 성공한 작업뿐 아니라 실패와 재시도 비용도 합산했습니다.
  • [ ] 프로그래밍, 긴 문서, 에이전트의 합격 기준을 따로 만들었습니다.
  • [ ] 도구 인자, JSON, 연속 호출, 상태 복구를 확인했습니다.
  • [ ] 모델 오류, 적응 계층 오류, 외부 도구 오류를 구분했습니다.
  • [ ] 피크 부하에서 지연과 제한 응답을 기록했습니다.
  • [ ] 그림자 트래픽과 회귀 시험을 마쳤습니다.
  • [ ] 중단 조건과 되돌리기 책임자를 문서화했습니다.
  • [ ] 공개 가중치 배포 환경에서도 같은 작업을 재현할 수 있는지 확인했습니다.

판단은 다음처럼 나누면 됩니다.

  • 전환: 품질, 유효 작업 비용, 호환성, 안정성이 모두 기존 API 이상이고 되돌리기도 자동화되어 있을 때입니다.
  • 이중 운영: 프로그래밍은 한 모델, 긴 문서는 다른 모델처럼 작업별 우세가 뚜렷할 때입니다.
  • 보류: 회귀 표본이 부족하거나, 공급자별 필드 차이를 숨기지 못했거나, 장애 때 빠르게 돌아갈 수 없을 때입니다.

관리형 API에서 공개 가중치 배포로 넓힐 때는 모델이 공개되었다는 사실만으로 서버를 구매해서는 안 됩니다. 같은 작업에서 품질이 유지되는지, 필요한 메모리와 처리량을 감당하는지, 배포·보안·업데이트 담당자가 있는지 확인해야 합니다. 이 조건이 아직 없다면 KuzCloud 테스트 환경에서 짧은 검증 주기를 잡은 뒤 장기 자원 도입 여부를 판단하는 편이 손실이 적습니다.

자주 묻는 내용

기존 API를 바로 바꿔도 되나요?

기존 API가 안정적이라면 바로 바꾸지 않는 편이 좋습니다. 먼저 그림자 트래픽과 작업별 회귀 시험을 진행해야 합니다. 특정 모델이 프로그래밍이나 긴 문서에서 더 좋은 결과를 보여도, 전체 작업의 성공률과 재시도 비용이 악화될 수 있습니다. 전면 이동은 자동 회귀와 즉시 되돌리기가 확인된 뒤 진행해야 합니다.

실제 이동 비용은 무엇까지 포함하나요?

입력과 출력 토큰뿐 아니라 캐시 적중률, 사고 모드로 늘어난 출력, 실패 재시도, 중복 도구 호출, 시간 초과, 사람이 결과를 수정하는 비용까지 포함해야 합니다. 특히 에이전트는 한 번의 사용자 요청이 여러 모델 호출과 도구 호출로 확대될 수 있으므로, 요청 단위가 아니라 완료된 작업 단위로 계산해야 비교가 정확합니다.

기존 프롬프트와 도구 정의를 재사용할 수 있나요?

기본 메시지 구조는 재사용할 수 있어도 품질과 도구 선택을 그대로 보장하지는 않습니다. 시스템 지시의 우선순위, 사고 모드, 구조화 출력, 도구 선택 강제 방식이 달라질 수 있습니다. 도구 호출 결과의 식별자, JSON 인자, 오류 재시도 규칙까지 새 모델에서 다시 검증해야 합니다.

어떤 회귀 작업을 먼저 선정해야 하나요?

가장 장애 비용이 큰 작업부터 선정해야 합니다. 프로그래밍은 여러 파일 수정과 테스트 복구, 긴 문서는 문서 끝부분의 근거 보존, 에이전트는 연속 도구 호출과 상태 복구를 우선 시험합니다. 단순 질의 응답만으로 합격 판정을 내리면 생산 환경의 실패를 잡기 어렵습니다.

관리형 API와 공개 가중치를 함께 시험할 수 있나요?

가능하지만 실행 조건을 맞춰야 합니다. 같은 프롬프트, 같은 도구 정의, 같은 출력 제한을 적용하고 품질, 지연, 처리량, 메모리 여유, 장애 복구 시간을 함께 기록해야 합니다. 공개 가중치 환경이 실제 운영 부하를 재현하지 못하면 관리형 API와의 비교 결과를 구매나 전환의 근거로 삼아서는 안 됩니다.

기존 방식이 이미 안정적인데도 단가만 보고 바꾸면, 공급자별 필드 차이와 출력 증가, 재시도, 도구 실패가 절감액을 빠르게 상쇄할 수 있습니다. 반대로 현재 환경이 단일 API에 묶여 있고, 장애 때 대체 경로가 없으며, 장시간 그림자 트래픽을 실행할 테스트 자원이 부족하다면 이동 판단 자체가 늦어집니다. 이런 경우에는 장기 서버를 먼저 구매하기보다 KuzCloud에서 필요한 기간만 클라우드 맥 환경을 확보해 회귀 시험과 맥 자동화 작업을 분리하는 편이 현실적입니다. 테스트 기간과 필요한 자원만 먼저 산정한 뒤, 지속적인 고부하 운영이나 물리 장치 연결이 필요한 팀은 직접 장비를 보유하는 방식과 비용·권한·복구 시간을 함께 비교해야 합니다.

단가보다 실제 작업 결과를 먼저 확인해 보세요

KuzCloud의 원격 맥에서 새로운 작업 환경을 직접 실행하며 업무 성공 여부를 확인할 수 있습니다.

필요한 맥 자원을 원하는 기간 동안 이용하며 서비스 전환 전 검증과 병행 운영을 진행할 수 있습니다.